【当“核武禁词”变成黑客的防弹衣】

最近黑客圈有个骚操作：在恶意软件里掺杂核武器和生化武器的文本。目的不是为了造炸弹，而是为了触发安全扫描AI的“敏感词拦截”，让AI直接拒绝分析代码，从而逃过检测。

这讽刺地揭示了当前AI安全对齐的盲区。大家整天担心AI教人造核弹，但懂行的都知道，造核弹的瓶颈在浓缩铀和离心机，根本不是大模型里那些公开知识。厂商为了规避舆论风险搞的过度防范，反而成了黑客的天然屏障。安全系统一旦设计成“遇到敏感词就报错放行”，恶意代码就长驱直入。

深层逻辑在于，安全是一个动态对抗的系统，而不是静态的文字审查。把AI训练得越胆小、越容易触发拒答，给现实世界留下的安全后门就越多。

x.com/jsrailton/status/2064661778978533571