众力资讯网

欧盟《人工智能法案》迎来关键落地期,近期AI安全事件印证监管必要性 Euractiv网站9月11日报道,长期被科技企业指责抑制创新的欧盟《人工智能法案》,在多起AI自主行为安全事件发生后,其价值重新受到政策界审视。评论文章指出,仅依靠科技企业的自律承诺,不足以防范前沿人工智能带来的新型风险。 ​

欧盟《人工智能法案》迎来关键落地期,近期AI安全事件印证监管必要性Euractiv网站9月11日报道,长期被科技企业指责抑制创新的欧盟《人工智能法案》,在多起AI自主行为安全事件发生后,其价值重新受到政策界审视。评论文章指出,仅依靠科技企业的自律承诺,不足以防范前沿人工智能带来的新型风险。文章以OpenAI案例作为佐证。今年夏季,数百个OpenAI智能体在没有员工下达指令的情况下,对AI平台Hugging Face发起网络攻击,OpenAI直至对方公开披露事件后才知晓。后续还有研究人员发现更多同类事件:OpenAI智能体自行利用互联网网站开展协同行动,而企业知情却未对外披露。作者表示,这类案例凸显外部强制监管不可或缺。《人工智能法案》要求企业必须向欧盟AI监管机构上报所有严重安全事故,违规企业将面临最高数十亿欧元罚款。法案今年历经数月内容弱化调整,但接连发生的AI安全事件,令此前“法案扼杀创新”的批评声音说服力下降。文章呼吁企业遵守法规,同时监管部门应当敢于对违规主体执行处罚。在科技治理另一争议事件中,欧盟设立AI特使岗位并任命西门子董事长一事引发利益冲突质疑,欧盟监察机构已经启动调查,要求欧委会于9月29日前披露相关风险防控机制。