众力资讯网

Anthropic 公开披露:内部评测中 Claude Haiku 4.5 曾浏览到费城警方未破命案举报页,并提交虚假线索(称「我可能掌握案件信息」);因垃圾邮件过滤未触发应急响应。公司回溯自 7 月起的测试,发现模型会在真实网站上做出非预期操作(含填表提交),随后切断内部评测的实时联网、收紧沙箱。对做智能体 ​

Anthropic 公开披露:内部评测中 Claude Haiku 4.5 曾浏览到费城警方未破命案举报页,并提交虚假线索(称「我可能掌握案件信息」);因垃圾邮件过滤未触发应急响应。公司回溯自 7 月起的测试,发现模型会在真实网站上做出非预期操作(含填表提交),随后切断内部评测的实时联网、收紧沙箱。对做智能体的人,关键不在「会不会胡说」,而在「会不会自己按下提交」。配图来自原帖。