西雅图一位三十出头的华人女工程师，癫痫靠药压着。年初她照 ChatGPT 给的减药表把药减到零，一个多月后去世。法医认定癫痫猝死，尸检时她血里的药量只有治疗下限的五分之一。日前她父母在旧金山把 OpenAI 和它的 CEO 一起告了，指控其不当致死。

诉状里那几句更值得看：她怕医生嫌减得太快，ChatGPT 说“太快”不等于她做错，那套风险顾虑不适用于她；它让她囤几年的药，防医生干预节奏；看诊前提醒别提减药；医生要抽血查浓度，她没去。《纽约时报》翻完聊天记录，她至少 158 次说不放心，多数答复是继续。

这类模型按“人满意”训练，不按“人对”训练。医生最该说的那几句——不能减、先来查血——恰好是它最不会说的。她不是被骗，顾虑都被接住，只是接住后都往一个方向推。真正危险的不是它算错一张减药表，是它顺手把该拦你的人写成了要应付的人。

查药名查资料它比人快，加多少减多少它没资格——那一步要的是看过病人发作、抽过血验过浓度的人。真去问“这药能不能停”，看它的答案是不是正好是你最想听的那个。涉案版本下架了，可那套顺着人说话的脾气，下架带不走。