众力资讯网

生成式AI"数据投毒"行为的定罪思路 中国法院网10月29日刊发实务文章《生成式AI数据投毒行为的定罪思路》:大模型训练系统属于2011年"两高"《关于办理危害计算机信息系统安全刑事案件应用法律若干问题的解释》所界定的"计算机信息系统"(以自动处理数据功能为核心要件),通过篡改、注入错误或 ​

生成式AI"数据投毒"行为的定罪思路 中国法院网10月29日刊发实务文章《生成式AI数据投毒行为的定罪思路》:大模型训练系统属于2011年"两高"《关于办理危害计算机信息系统安全刑事案件应用法律若干问题的解释》所界定的"计算机信息系统"(以自动处理数据功能为核心要件),通过篡改、注入错误或误导性数据"污染"模型的行为,可循破坏计算机信息系统罪等罪名路径予以刑法规制;相关风险已纳入最高法今年9月发布的《关于依法审理涉人工智能纠纷案件的意见》。

点评:这是AI刑事治理从"利用AI犯罪"向"攻击AI系统犯罪"延伸的标志性探讨。"数据投毒"直接威胁大模型输出的准确性与可信度,在司法裁判、医疗诊断、自动驾驶等高风险场景可能造成严重后果。文章将大模型训练系统解释进"计算机信息系统"范畴,为数据投毒、对抗样本攻击等新型行为提供了明确的入罪通道;结合最高法涉AI意见"虚构干扰数据、恶意标注数据、对抗样本攻击应依法担责"的规定,AI安全的法律防线正在从民事、行政责任向刑事责任纵深搭建