专家指出，计划中的人工智能“评估能力”可能非常强大。

随着欧盟自行设定的最后期限临近，预计欧盟委员会将制定更详细的计划，以提高欧盟评估前沿人工智能模型的能力。

今年7月，欧盟委员会宣布了一项计划，拟在2027年前建立“欧盟评估能力”，第一步计划于秋季启动。但技术专员亨娜·维尔库宁尚未公布更多细节。

今年早些时候，美国人工智能实验室 Anthropic限制发布其 Mythos 网络模型后，欧盟机构获取尖端人工智能模型（用于测试人工智能安全性和安全性风险）的途径变得高度政治化。

Anthropic 公司在拖延数月后，直到 9 月份才允许欧盟使用 Mythos，而在此之前，该公司已经制作了一个更新版本，但该版本也一直没有提供给欧盟。

除了模型获取之外，欧盟还需要资源和专业知识来测试这些日益复杂的系统。

欧盟网络安全局 (ENISA) 目前正在评估 Mythos 和其他人工智能模型带来的网络安全风险。

但风险远不止网络安全。专家警告说，人工智能可能会加速生物武器或杀手机器人集群的研发，因此，对人工智能的评估也不应仅限于网络风险。

《人工智能法案》可能会提供访问权限

采访的专家们一致认为，欧盟需要加强其人工智能评估能力。

来自专注于人工智能安全的法国非营利组织 SaferAI 的 Henry Papadatos 认为，欧盟不能仅仅依靠资助独立评估人员来完成这项工作。

欧盟委员会在夏季发布的公告中提到，将发起“专门的呼吁”，以提升检测能力，类似于欧盟向外部研究人员发放拨款的方式。

但帕帕达托斯认为，对人工智能模型进行稳健的评估需要很高的固定成本，例如建立适当的安全测试环境（称为沙箱）。

他警告说：“对于单个专家来说，这需要耗费太多的资源和精力。”

罗马萨皮恩扎大学教授沃尔特·夸特罗乔基也表示，评估人员的工作将非常艰巨。他表示，评估范围应该涵盖网络安全以外的风险，例如人类失去对模型的控制权，或者人工智能操纵用户等。

帕帕达托斯进一步指出，欧盟的《人工智能法》允许欧盟委员会人工智能办公室的执法人员任命独立专家代表欧盟调查前沿人工智能模型中潜在的系统性风险。

他强调，这意味着欧盟模型评估人员不需要依赖人工智能实验室出于善意授予访问权限——这是其他国家的国家安全机构（如英国的AISI）所缺乏的法律权力。

帕帕达托斯建议，可以任命一个新的欧盟人工智能评估机构来承担这一角色，代表人工智能办公室开展工作，这意味着“在需要时，其访问权限取决于法律，而不是公司或外国政府的决定”。

就欧盟委员会建立人工智能评估能力的计划与其联系，但在发表前未收到回复。