[LG]《Position: The Alignment Community is Unintentionally Building a Censor’s Toolkit》Sa Ball, P Hackemann [LMU Munich] (2026)

在人工智能安全领域，模型对齐一直被视为防止伤害的“避火墙”。然而，过去的方法过度关注技术上的稳健性，忽略了对齐技术本质上是用途无关的双用工具。这种认知的盲点导致开发者在无意中构建了一套高效的审查工具包，使得“对齐”在恶意者手中从安全护盾沦为信息操纵的利刃。

本文的核心洞见是：将对齐技术重新看作一套由数据过滤、偏好微调和推理控制组成的“三层控制栈”。通过将这些技术逐一映射到审查与操纵的具体手段上，作者揭示了一个残酷逻辑：旨在消除“有害信息”的每一个技术进步，都在同步提升恶意行为者实现意识形态封锁和大规模认知塑造的精度与深度。

这项工作真正留下的遗产是打破了对齐研究的道德真空，迫使社区从追求“完美对齐”转向构建“可验证的多元化”。它为后来者打开了建立审查基准测试与透明审计机制的新门，但尚未跨过的门槛是：在威权政治与经济垄断的现实下，纯技术手段依然难以从根本上解除控制者手中的武装。

openreview.net/forum?id=dy2HwmOvFX 人工智能 机器学习 论文