以前听说过AI能被驯服，
当看到豆包把牢A和江说成同一人，对这说法有点相信了。

刷到网友分享的截图，属实给我整懵了。
网友提问牢A发表过什么言论，结果AI直接把江学勤的经历完完整整安到牢A身上，把两个完全不一样的人混成了同一个。
乍一看效果特别逼真，有事件、有观点，有细节，
不了解两个人的人，看了回答大概率就直接信以为真。

一开始我还以为是网友玩套路，刻意诱导AI说错话。
细看之后才明白，这就是典型的大模型幻觉。
牢A是B站UP主，常年分享美国底层民生见闻；江学勤是加拿大华裔学者，近期因为洛杉矶三天之后打算回国道歉的言论登上热搜。
两个人刚好都在聊美国社会、贫富差距、流浪汉问题，讨论的主题高度重合。
网上短时间内充斥大量江学勤相关的热点内容，模型依靠关键词匹配生成回答，
直接把热点新闻碎片胡乱拼接，闹出张冠李戴的乌龙。

这一刻真的会产生错觉：
好像只要找对提问的方式，给到相关的话题暗示，AI就会顺着你的想法输出内容，仿佛真的可以被人为拿捏、驯服。
但冷静想想，这并不是AI主观上在顺从人的指令，它没有自己的主观想法，只是文本统计下的错误输出。

我们确实可以通过优化提示词，
限定回答范围，给AI参考资料，
去约束它的文风、立场，
减少一部分错误，这算是正向的“驯服”。
可面对网络海量相似的人物事件，它依旧很难做到百分百精准区分实体，事实类错误依旧防不胜防。

这件事也给所有使用AI的人敲了警钟。
AI写的故事、观点可以参考借鉴，但涉及真实人物、新闻事件，
千万不要直接拿来就用。
一定要记得交叉核实信息来源，不然很容易被AI生成的虚假信息误导。

AI幻觉 大模型 人工智能 AI避坑