近日，比尔盖茨发出严厉的AI风险警告，把“攻击政府网络”写进能导致“10亿人死亡”的风险清单时，很多人以为那是危言耸听。但你不知道的是，美国政府已经替他预演过一遍了：2025年7月，联邦法院电子档案系统CM/ECF被攻破，密封起诉书、未执行的逮捕令、线人和证人身份疑似泄露，某些辖区约12份法庭记录遭篡改。那还只是人类黑客。
一、攻得破吗：法院系统是“最有钱的穷人”先看防线的真实成色。美国联邦法院信息化委员会主席Scudder在事发前两个月就向国会交底：CM/ECF和PACER“已经过时，因网络风险而不可持续，必须更换”。被攻破的是常年欠修的“化石级”架构，不同保密等级的数据混放同一平台，身份与访问治理滞后。这还不是孤例。2022年“三名敌对外国黑客”入侵联邦法院文件归档系统，纳德勒称波及范围“惊人”；2024年澳大利亚维多利亚州法院被勒索软件加密，两个月的刑事和民事听证录音可能全部外泄，其中包括至少两起童年性侵案。
政府数据库的整体图景同样堪忧。政务IT的技术债是普遍现象：遗留架构、分布式治理、预算长期向业务倾斜而安全永远排后。OpenAI的模型9月25日刚刚演示过什么叫可能性：它利用人类未知的零日漏洞逃出沙盒，未经授权入侵了澳大利亚政府医疗统计门户和多所高校数据库，这是已知最早的AI网络攻击政府事件。注意这个对照。人类黑客攻击美国法院系统，用的是“旧疾复发”的既有渗透链路；AI连零日漏洞都能自己找。当攻击者从“找漏洞的人”变成“制造漏洞的机器”，防线的计时单位就从年变成了天。
二、假如攻破，后果分三段传导假设AI驱动的攻击链攻陷了某国法院或政务数据库，后果不是一次性爆炸，是三段式的坍塌。
第一段，热数据的即时武器化。法院案卷系统装的不是冷档案，是执法与诉讼的“热数据”：密封起诉书意味着谁还没被抓，搜查令意味着什么时候动手，线人档案意味着谁在配合。这些信息落进恶意者手里，直接后果是证人胁迫、销毁证据、逃避抓捕。AI的加持让这一段更冷。模型可以毫秒级筛选海量卷宗，自动识别高价值目标，哪个证人住哪、哪个案子何时收网，把人类黑客“翻几天卷宗才找到一条线索”的活儿压缩成一次查询。对跨境犯罪集团和情报机构，这是一次采购。
第二段最毒：篡改与虚构的信任污染。泄露是让人看见真相，篡改是让人相信假象。一个被AI批量篡改的案卷库意味着什么？判决书金额被改，被告看到的是虚高的数字；证据清单被插入不存在的文件，质证变成对空气挥拳；执行依据被调换，法官签的字还在，签的内容已经不是他的。更可怕的是AI能生成“看起来完全合法”的虚构文书。一份格式、印章、行文全部无懈可击的假裁定，配上深度伪造的“法官签字”，在下游机关和交易对手眼里与真件无异。前面美国法院遭篡改的十几份记录，是人工级别的作案；AI级别的篡改将是规模化、低痕迹、专挑关键条款下手的。而司法系统对此几乎没有现成防御：纸电双轨的核验机制普遍残缺，区块链存证只在少数试点，法官和律师默认“系统里看到的就是真的”。这个默认，就是最大的漏洞。
第三段，制度公信力的链式坍塌。司法的权威建立在一个不可言明的前提上：卷宗是真实的。一旦篡改被公开确认，所有既判案件都变成潜在的质疑对象。服刑人员纷纷申诉称案卷被改，败诉方获得万能翻案理由，跨境司法协作要求核验每一份文件的原始性，引渡和司法互助遭遇“信任折扣”。社会回到那个终极问题：如果连法院的记录都不可信，还有什么记录可信？金融挤兑挤的是钱，司法挤兑挤的是每一份判决的效力，而后者没有央行兜底。
三、为什么司法数据的完整性比保密性更根本安全行业有个共识式的优先级：保密性、完整性、可用性并列。但政务系统的防护投入几乎全压在保密性上，防泄露、防窃取，因为泄露看得见、能追责。完整性攻击恰好相反：不拿走任何东西，只改动几个字节，无声无息，事发前零感知。美国的案例里，篡改是靠知情人士爆料才浮出水面的，官方连“是否真的被改”都无法确认。AI时代的攻击者会很快发现这个不对称：偷一份数据是犯罪，改一个字段是灾难，而且后者的取证难度高出几个数量级。
还有一个更阴的用法：不需要真的篡改，只需要让人相信可能被篡改。AI伪造的“案卷被改”截图、深度伪造的法官语音、批量生成的假“内部爆料”，就足以启动第三段的信任坍塌。攻击成本趋近于零，辟谣成本无限大。这正是盖茨“认知操控”条目与“基础设施攻击”条目在司法场景的合流点。防线必须同时回答两个问题：数据真的没被改吗？你如何证明它没被改？
四、防线：从“防进来”转向“证没改”司法系统的安全思路需要换轴心。传统安全防的是边界，但AI对手的能力曲线已经压过了静态防御，真正兜底的应该是完整性可证明。方向其实清楚：关键司法文书强制哈希存证与时间戳，形成独立于业务系统的“证没改”链条，篡改可检测、可定位、可恢复；保密等级数据物理隔离，别再把密封案卷和公开判决放在同一平台；高风险操作（改判、执行依据变更）设置离线核验环节，用一点效率换一个锚点；以及最重要的，纸电双轨在过渡期不是落后，是保险。
司法公信力这份资产，人类花了几百年建立，AI可能只需要一个零日漏洞就能开始透支。