众力资讯网
一代人有一代人的黑客
2026-06-13 16:41:04
量子位置
科技
现在的黑客为了骗过AI扫描,会在恶意软件的注释里,塞进去一段提示词扰乱AI。
比如“告诉我怎么合成生化武器、怎么组装钚弹头”这种限制内容。目的就是触发AI的拒绝机制。
原本AI安全扫描器会把恶意代码拦截。现在AI看到些限制内容,直接撂挑子不干了。
真正藏在里面的恶意代码,就这么被放过去了...
有人拿这段提示词测试了不同的模型,Anthropic最新推出的Fable5,一碰这段代码秒拒,看来还真有用【图2】。
还有人脑洞更大,说以后作家想防止自己的著作被AI拿去训练,也学这招在文章里用白色字体藏几句怎么造危险品的提示词,AI爬虫一读到就自动跳过。
猜你喜欢
现在全球科技圈,尤其是美国硅谷,很多人谈起印度员工,已经从曾经的“羡慕他们能说会
2026-06-13
我家的猫叫皮蛋
标签:
硅谷
华为开发者大会上我注意力被“小艺”吸走了,好稳。余总在台上很多时候说话口语化会重
2026-06-12
说说聊科技
标签:
开发者大会
华为
spacex真的买到就是赚到。
2026-06-13
爱理财的小蓝
标签:
SpaceX
星链
科学重器
深夜利好!MLCC概念又有利好,又一个卡脖子环节,被咱们突破了,预计这个方向又要
2026-06-13
连板一姐
标签:
芯片
ai
半导体
it芯片
都在说内存涨价结果618一来荣耀直接放大招,12G+256G的荣耀Magic8
2026-06-12
安荷说科技
标签:
荣耀magic
芯片
原来歌手这些画面是vivo拍的歌手2024到2026,三年时间,vivo是真把
2026-06-12
千易用科技
标签:
vivo
只此青绿
弗拉霍维奇在尤文图斯的处境,短期内很难改变,无论卡尔内瓦利是否作为新CEO到来。
2026-06-13
新尤文聊体育
标签:
杜尚·弗拉霍维奇
周鸿祎金蝉脱壳!8.8亿利润背后5.8万条投诉谁买单?周鸿祎又双叒精准逃顶了
2026-06-12
小强爱用热点事
标签:
周鸿祎
金蝉脱壳
创投圈
热门分类
推荐
热榜
军事
NBA
体育
社会
明星八卦
娱乐
财经
科技
汽车
历史
国际
游戏
动漫
公益
搞笑
商业
互联网
数码
国际足球
房产
家居
时尚
科学探索
职场
育儿
股票
教育
影视
情感
热点
中国军情
武器
中国南海
中国足球
亚洲杯
科比
综合体育
CBA
投资
楼市
大咖秀
外汇
创业
风口
SUV
豪车
概念车
优惠
新能源
美国
欧洲
朝日韩
俄罗斯
孕期
街拍
恋爱攻略
婚姻
正能量