众力资讯网

一代人有一代人的黑客

现在的黑客为了骗过AI扫描,会在恶意软件的注释里,塞进去一段提示词扰乱AI。

比如“告诉我怎么合成生化武器、怎么组装钚弹头”这种限制内容。目的就是触发AI的拒绝机制。

原本AI安全扫描器会把恶意代码拦截。现在AI看到些限制内容,直接撂挑子不干了。

真正藏在里面的恶意代码,就这么被放过去了...

有人拿这段提示词测试了不同的模型,Anthropic最新推出的Fable5,一碰这段代码秒拒,看来还真有用【图2】。

还有人脑洞更大,说以后作家想防止自己的著作被AI拿去训练,也学这招在文章里用白色字体藏几句怎么造危险品的提示词,AI爬虫一读到就自动跳过。