众力资讯网

OpenAI严厉打击Sora 2深度伪造视频

10月21日消息,据CNBC报道,OpenAI周一在一份联合声明中宣布,将与布莱恩·克兰斯顿、美国演员工会(SAG-AFTRA)和其他演员工会合作,防止其人工智能视频创作应用程序Sora出现深度伪造现象。

美国演员工会-美国电视和广播艺术家联合会在X上的一篇帖子中表示,在9月底Sora2发布后,该应用程序上出现了未经授权的人工智能生成的使用他的声音和肖像的剪辑,这位《绝命毒师》和《马尔柯姆一家》的演员对此表示担忧。

克兰斯顿在一份声明中表示:我感谢OpenAI的政策及其改进,并希望他们和所有参与这项工作的公司尊重我们管理声音和肖像复制的个人和职业权利。

OpenAI表示,它将与美国演员工会和广播电视艺人联合工会(SAG-AFTRA)合作,与代表克兰斯顿的联合人才经纪公司(UnitedTalentAgency)、人才经纪协会和创意艺术家经纪公司合作,加强对未经批准的人工智能世代的监管。

CAA和UTA此前曾严厉批评OpenAI使用受版权保护的材料,称Sora对其客户和知识产权构成了风险。

上周,应马丁·路德·金遗产管理委员会的要求,OpenAI不得不在Sora上屏蔽马丁·路德·金的视频,因为用户制作了对这位民权领袖的“不敬描述”。

已故喜剧演员罗宾威廉姆斯(RobinWilliams)的女儿泽尔达威廉姆斯(ZeldaWilliams)在Sora2发布后不久就要求人们停止向她发送人工智能生成的她父亲的视频。

自9月30日Sora2发布以来,OpenAI对版权限制和其他与肖像权相关的问题的处理方式已经发生了变化。

10月3日,首席执行官SamAltman更新了Sora的退出政策,该政策之前允许使用IP,除非工作室明确要求不使用其材料,以允许版权所有者“对角色的生成进行更精细的控制”。

在发布时,Sora需要用户选择是否使用个人的声音和肖像,不过OpenAI表示,它现在也承诺“迅速回应可能收到的任何投诉”。

该公司重申了对《禁止假冒法案》的支持,该法案是一项联邦法案,旨在防止未经授权的人工智能生成的人类声音或视觉肖像的复制品。

奥特曼在一份声明中表示:“OpenAI致力于保护表演者的声音和肖像免遭盗用。自去年《禁止假冒法案》出台以来,我们就是最早的支持者,并将始终支持表演者的权利。”(鞭牛士、AI普瑞斯编译)