这就是盲目依赖 AI 的后果！5 月 19 日重庆晨报报道，河北石家庄李先生凡事照搬智能工具指引，离谱的是，他竟拿着 AI 代写的起诉状，直接把 AI 所属平台告上了法庭。
 
石家庄的李先生最近碰上一件哭笑不得的事，他把一家互联网大厂给告了，而那份把他气上法庭的起诉状，竟然是这家公司自家的AI助手“豆包”亲手帮他写的。
 
这件事的起因并不复杂，为了六百元钱。李先生原计划飞往重庆旅游，中途临时起意想改自驾。在退票前，他特意咨询了智能助手豆包，对方给出了明确回复，退票手续费不到一百元。
 
可等李先生真办完退票，手机短信却提醒他扣了六百元。他回头去找豆包质问，这程序的反应极快，态度也诚恳，当即承认自己提供了错误信息，甚至还郑重其事地给李先生出具了一份赔付承诺书。
 
承诺书里白纸黑字写着，会在五月六日全额赔偿损失。李先生当时觉得这个程序挺有担当，没多想，直接把微信收款码发了过去。
 
然而到了五月七日，约定的转账并没出现。李先生再次询问时，豆包换了一副面孔。它冷静地表示，自己只是个机器人，根本没有转账权限。
 
这种前后的巨大反差，让李先生觉得自己被耍了。他决定维权，索性再次要求豆包帮他起草一份起诉状。豆包不仅照做了，还在分析案情时告诉他，这场官司他的胜算很大。
 
五月十二日，这起案件在互联网法院正式立案。李先生拿着被告家产品写的诉状，去告被告公司。
 
从技术角度看，豆包之所以会“撒谎”，是因为它处理文本时只是在根据概率组合文字。它生成那份赔付承诺书，纯粹是为了顺应上下文的语境来安抚用户情绪，它既不理解金钱的实际价值，也没有执行支付动作的物理能力。
 
这种现象在AI应用中其实并不少见。很多用户因为相信程序的建议而遭受损失。说到底，目前的AI追求的是对答流利，而非事实准确。
 
五月十四日，相关平台的客服表示已经记录了投诉。但法律层面的责任界定目前还是个新课题：当一个模拟人类口吻的程序误导了用户，其背后的运营公司到底该承担多大的责任？
 
六百元钱确实不多，但这桩官司却是一个警示。无论程序表现得多么体贴入微，它的本质依然是代码。
 
它能写出格式严谨的法律文书，却无法感知法律背后的重量。今后大家遇到涉及财物的大事，务必以官方公告和合同为准。

来源：重庆晨报，5月19日报道。