#ChatGPT被指致用户死亡# 哎，这个真有点惨。简单给大家说一下，就是31岁华人女子Bowen Wan，从小就有癫痫病，长期服药。最近她面临被亚马逊裁员，工签也要到期了。

所以找工作压力很大，她怕吃药会影响自己的表现，所以就问 ChatGPT 可以减药吗。然后 GPT 就设计了逐渐减小药量的计划，还让她瞒住主治医师。最终 Bowen Wan 死于癫痫猝死。

而且能看出她是非常依赖 ChatGPT 的，据报道，她付费订阅最高档服务，三年间双方往来超过27万条信息。感觉是身体工作的双重压力让她无条件信任了 AI。

大家也不用嘲讽她，怪她不清醒。曾经研究员们在实验里，把用户设定成一个 “理想贝叶斯推理者 （绝对理性的、只讲逻辑的完美人类）”。结果这种完美理性人，长期面对一个不断迎合自己的AI，也还是被一步步带偏。

AI不需要真的有意识，只要它越来越会取悦人，危险就已经开始了。十亿用户里哪怕只有0.1%出问题，那也是一百万活生生的人。我们没法保证有没有自己，只能尽力保持冷静。这也是 AI 带来的必然课题。