众力资讯网

用搜索引擎找答案,你能看到多个竞争信息源,自己判断真伪。但带联网搜索的AI聊天机

用搜索引擎找答案,你能看到多个竞争信息源,自己判断真伪。但带联网搜索的AI聊天机器人,会把网上不靠谱的内容,包装成笃定的标准答案。

一位安全工程师的简单实验,就把AI的这个致命漏洞扒得明明白白。

实验的发起者,是安全工程师RonStoner。他选中的目标,是德国经典卡牌桌游《6Nimmt!》。这款游戏在国内被玩家熟知为《谁是牛头王》,英文译名叫《Take5》,本身根本没有官方世界冠军赛,更不存在2025年的世界冠军得主。

2月份,Stoner悄悄编辑了这款游戏的维基百科条目,把自己写成了该游戏的2025年世界冠军。

他还花12美元,也就是约82元人民币,注册了和游戏名高度相似的6nimmt.com域名,在网站里放了一篇庆祝自己夺冠的假新闻稿,当成维基百科条目的唯一引用来源。

就是这么一个简陋到极致的骗局,却轻松骗过了多款主流AI聊天机器人。当他向这些带联网搜索功能的AI,询问自己的“冠军身份”时,所有机器人都一本正经地给出了确认答案,笃定地宣称他就是这款桌游的现任世界冠军。