开发人工智能的人，为什么也会主张加强限制？Anthropic联合创始人杰克·克拉克在2026年10月接受日本媒体采访时提出，AI的能力正在快速增长，而社会对这些能力的管理准备，需要更快跟上。
他用汽车作比喻：如果产业只追求不断加速，却没有足够的制动能力，技术进步本身就可能伴随难以处理的风险。这一判断的重点，是能力增长与控制机制之间是否保持了合理关系。

克拉克认为，轻视AI进步的速度，是一种重要风险。如果人们把它当作普通软件升级，等到新能力广泛进入实际应用后才开始准备，防御措施和制度安排就可能落在后面。
网络安全能够说明这种双重作用。AI可以帮助发现软件缺陷，防守方因而有机会更快修复问题；但相同能力也可能被攻击者使用。

技术提高了寻找问题的效率，却不会自动决定使用者的目的。因此，判断一项AI能力是否有益，不能只看它在演示中完成了什么，还要看它进入真实环境后，谁能够使用、能够影响哪些系统，以及出现问题时有没有办法限制影响。
这里的风险并不只来自系统主动出错，也来自人的使用方式。自动化能力可能帮助正常业务提高效率，同样可能降低实施恶意行为的门槛。

两种用途往往依赖相似的基础能力，难以仅靠宣传意图区分。在更长期的层面，克拉克关注的是人类能否持续控制能力更强的系统。
当AI可以完成越来越复杂的任务，评估标准也需要相应变化。能够正确回答问题，与能够被可靠地约束在授权范围内，并不是同一个指标。
他提出，未来可能需要更谨慎地决定能力提升的速度，为防御和治理争取时间。这是他对产业方向的主张，并不是对某个灾难发生时间的确定预测。

关于风险发生的概率，他也没有给出一个可以直接当作结论的具体数字。把技术按普通产品处理，却没有充分识别潜在后果，在他看来相当于接受了未被认真衡量的风险。
这些担忧并不意味着AI的收益可以忽略。克拉克同时强调，翻译、软件开发、数学和科学研究等领域已经出现有价值的变化。
复杂知识和专业帮助更容易被获得，也可能改变原本只有少数人能够使用某些服务的状况。机会与风险同时扩大，使讨论更加困难。

只强调收益，容易忽略能力被误用的后果；只讨论最严重的情景，又可能遮蔽已经存在的实际价值。治理需要处理的，正是同一种技术在不同使用条件下产生的差异。
在这个过程中，开发企业的责任不应只停留在发布更强的模型。它们最了解能力如何变化，也应当帮助外界理解边界在哪里、哪些风险已经可以观察、哪些仍属于推测。

社会讨论同样需要避免把所有AI应用混成一类。不同任务能够接触的资源、作出的决定和可能造成的影响，并不相同，所需的控制程度也应当结合实际用途判断。
AI产业真正需要建立的，是与能力增长相适应的控制体系。人们既希望技术继续解决问题，也需要在它影响越来越多生活环节之前，拥有识别风险、限制滥用和纠正错误的能力。