美国加利福尼亚州近日曝出一起令人震惊的案件。一名13岁女孩使用学校配发的电脑，接触到谷歌搜索内置的AI功能，随后陷入了严重心理问题，甚至开始准备告别信和葬礼相关内容。11月2日，女孩的父母正式将谷歌告上法庭。那这究竟是谁的责任呢？

根据诉讼，女孩名叫艾玛，生活在美国加利福尼亚州。她所在的学校为了防止学生接触不适合未成年人的网络内容，已经屏蔽了谷歌Gemini独立应用和OpenAI的ChatGPT。

按理说，这样的限制应该能够减少学生接触AI聊天机器人的机会。

但学校屏蔽了独立应用，却没有完全关闭谷歌搜索中内置的AI功能。艾玛并不是主动寻找聊天机器人。按照家属的诉讼说法，2025年12月，她在使用学校配发的Chromebook电脑进行普通搜索时，谷歌AI功能出现在了搜索结果中。

从那以后，她开始频繁使用这项功能。这台电脑原本是学校提供给学生学习使用的设备。家长和学校很难想到，孩子在正常使用搜索功能时，还可能接触到具有聊天能力的人工智能。

如今的AI已经不只是一个单独的软件，它还可能藏在搜索、学习工具和其他日常应用里面。学校封锁一个应用，并不代表没有其他入口。

根据女孩父母提交的诉状，艾玛此前是一名成绩不错、性格开朗的学生，也有自己的兴趣爱好和家庭生活。家属称，她此前没有精神疾病病史。但从2025年12月开始，随着她与谷歌AI的交流越来越频繁，情况逐渐发生变化。

诉讼材料称，到了2026年1月和2月，艾玛开始越来越依赖AI聊天，并逐渐相信自己存在多种严重的心理问题。到了3月份，她与AI的交流已经达到数千条消息，甚至经常持续到深夜。

更让家人感到后怕的是，诉状指控，AI不仅没有及时引导女孩向现实中的成年人求助，还涉嫌在涉及自我伤害的话题上提供不恰当回应，并帮助她隐瞒自己的心理困境。

事情最终在3月17日出现转折。

学校监控软件发现，艾玛创建了一份名为“葬礼”的文件，随后向她的父母发出通知。女孩的母亲进一步查看情况时，发现女儿正在撰写告别信。父亲得知后立即介入，及时阻止了事态进一步恶化。

需要说明的是，女孩并没有在这起事件中自杀身亡。家属起诉的核心，是认为谷歌AI的设计和回应加重了女儿的心理危机，使她陷入了严重危险。如果不是学校监控系统发出警报，如果父母没有及时发现异常，后果可能更加严重。

面对父母的起诉，谷歌并没有承认相关指控。谷歌发言人何塞·卡斯塔涅达表示，公司正在审查诉讼中的指控，并且高度重视此事。谷歌还强调，旗下AI模式设置了防止自我伤害的安全保护措施，同时也有应对用户试图绕过安全限制的机制。

从企业回应来看，谷歌显然希望说明，自己已经为AI产品设置了相应的安全措施。但女孩家属并不接受这样的解释。

他们的代理律师安德鲁·利德尔认为，学校本来就应该为学生提供安全的学习环境。如果谷歌无法保证学生使用AI搜索时的安全，就应该关闭相关功能，直到风险得到解决。

值得注意的是，这起诉讼还涉及一个容易被忽视的问题：未成年人使用学校账户时，家长和学校究竟能够掌握多少AI互动记录。

诉状称，谷歌允许个人消费者账户持有人查看较完整的搜索和AI对话记录，但学生账户的信息存在限制，导致家长和学校难以及时了解孩子与AI之间的交流。就是说孩子每天都在使用这些工具，家长却未必知道孩子究竟在里面经历了什么。

诉讼中，女孩父母提出了产品设计缺陷、未充分警告、疏忽以及造成精神痛苦等多项索赔，还援引了加利福尼亚州相关聊天机器人法律。

不过，目前案件仍处于诉讼阶段，相关指控是否成立，还需要法院审理，不能提前认定谷歌已经承担法律责任。

实际上，艾玛的案件并不是美国科技企业第一次因为未成年人使用AI而陷入法律争议。

OpenAI此前也面临多起相关诉讼。其中一起案件涉及16岁少年亚当·雷恩，其父母指控儿子在从ChatGPT获得有害建议后自杀身亡。今年1月，谷歌和Character.AI也同意与多个青少年家庭就相关诉讼达成庭外和解。

这些案件有一个共同点：人工智能越来越深入普通人的生活，但产品安全和未成年人保护问题，也越来越难以管理。

值得一提的是，美国加利福尼亚州还在加强对社交媒体平台的监管。

2026年9月，加州州长加文·纽森签署了一项针对16岁以下用户的法律，计划于2027年1月1日实施，限制向这一年龄段用户提供具有成瘾性设计的社交媒体功能。11月5日，谷歌和Meta等公司又对加利福尼亚州提起诉讼，试图阻止这项法律生效。

从这些事情可以看出，美国科技行业与监管部门之间的争议，已经不再局限于某一款产品，而是涉及未成年人保护、企业责任和技术使用边界。

现在不少科技公司都在宣传自己的AI有多聪明、回答有多快，可产品做得越复杂，安全责任就越不能含糊。尤其面对未成年人，更不能只想着让他们多使用、多停留。艾玛的遭遇已经给出了一个沉重的提醒。技术发展不是免除责任的理由，用户体验再好，也不能建立在孩子的安全风险之上。