当年中国曾提议“机器人不能用于战争”，美英俄印联手反对，如今全傻了，日内瓦，联合国《特定常规武器公约》会议上，中国代表站起来曾说了一句话：机器人不能用于战争。理由是机器没有道德判断，代码可能出错，系统可能被黑，一旦失控谁都拉不住。这个提议被美国、英国、俄罗斯、印度、以色列联手否决。

十多年前，机器人上战场听起来还像科幻电影。今天再看，电影已经追不上现实。无人机能自主巡航，算法能识别目标，机器能在几秒内完成过去需要多人协同的工作。
真正让各国重新紧张起来的，并不是机器人会不会跑，而是最后那一下火力释放，到底还需不需要人点头。
2026年8月25日，联合国秘书长与红十字国际委员会再次发出紧急呼吁，警告世界正危险地逼近“机器自主锁定人类目标”的道德红线。

几天之后，8月31日至9月4日，《特定常规武器公约》框架下的致命性自主武器系统政府专家组继续在日内瓦开会。十多年前反复争论的问题，如今已经从“以后会不会发生”，变成“规则还能不能赶上技术”。
这里必须把一个容易混淆的问题讲清楚。中国主张限制的并不是所有军用机器人。排雷机器人、运输平台、侦察无人机、无人战车，都不能简单塞进一个口袋里。
真正需要划红线的，是能够在启动之后，不再经过人的进一步干预，自主识别、选择并攻击目标的致命性自主武器系统。

说白了，机器可以帮人看，可以帮人算，也可以帮人跑腿。但谁该挨这一枪，不能悄悄变成一道由代码自己完成的选择题。
2017年，中国在《特定常规武器公约》框架下已经明确表示，愿意在协商一致基础上，参照禁止激光致盲武器的做法，就致命性自主武器系统的使用制定具有法律约束力的议定书。
此后，中方又多次强调，应防止机器自主杀人，同时不能把普通人工智能、民用自主技术和正常国防技术全部混为一谈。

当时一些军事技术强国却有自己的算盘。美国长期强调现有国际人道法和使用规范仍可发挥作用，俄罗斯反对匆忙推动新的约束性文件，印度过去也担心过早设限影响技术发展，英国和以色列同样曾对直接启动新禁令谈判持保留或反对态度。
会议桌上的分歧很大，可实验室里的速度一点没慢。外交官还在讨论定义，工程师已经把自主识别、数据融合、集群协同往前推了一大截。
这个反差，才是今天最耐人寻味的地方。

2019年，相关谈判形成十一项指导原则，其中一条相当关键：武器使用的责任必须由人承担，不能把责任转移给机器。网络攻击、数据欺骗、系统失控等风险，也逐渐成为各方讨论的重要内容。
这不是杞人忧天。算法可能误判，传感器可能被骗，通信链路可能被干扰，训练数据也可能存在偏差。
普通士兵犯错，可能只是一次错误；高度自动化系统如果判断逻辑出了问题，错误却可能按照机器速度连续复制。战场最怕的不是机器反应慢，而是机器错得太快。

国际社会的态度也在发生变化。2023年，联合国大会首次通过专门讨论致命性自主武器系统的决议，152票赞成、4票反对、11票弃权。
2024年，赞成票增加到166票。2025年，联合国大会相关决议又以164票赞成获得通过。越来越多国家开始承认，这个问题不能永远靠原则性表态拖着。
中国的立场也越来越完整。2024年，中方向联合国秘书长提交文件，提出对致命性自主武器实行分类分级管理。

对不可接受的部分，可以通过法律文书禁止；对可接受的部分，则采取必要的风险减缓措施。中方同时强调，人工智能必须始终处于人类控制之下。
这个态度很有意思。技术要不要发展？当然要。无人化、智能化本来就是现代军事技术的重要方向。
但发展技术和给技术划边界，从来不是二选一。真正有能力的国家，既要把技术做出来，也要知道哪些权力不能轻易交给机器。

截至2026年9月4日，日内瓦这一轮政府专家组会议正进入最后一天。今年11月，《特定常规武器公约》第七次审议大会还将在日内瓦举行。
联合国方面已经明确呼吁，各国应当尽快从多年讨论转向具有法律约束力的规则谈判。十多年前还显得有些超前的担忧，如今已经摆到会议桌正中央。
机器可以比人看得远，算得快，反应也更迅速，但机器没有良知，也不会在战后坐到审判席上解释自己的选择。程序可以更新，芯片可以换代，生命却没有重新加载这一说。

中国较早提出给致命性自主武器划红线，并不意味着拒绝军事智能化，而是在强调一个更基本的原则：科技应当服务人类，战争责任也必须由人承担。
未来战场可以越来越无人化，但不能把责任也一起“无人化”。最后一道生死决定必须牢牢握在人类手中。
这条线一旦丢了，机器也许会越来越聪明，人类却未必会因此更加安全。