OpenAI 在欧盟给 ChatGPT 文本加隐形水印,检测器不给普通人用
据 TechCrunch 报道,当地时间周一,OpenAI 宣布为欧盟地区的 ChatGPT 与 Codex 生成文本添加隐形水印,以符合欧盟人工智能法案的透明度要求。水印将在未来几周内向欧盟所有套餐的合格用户推送;全球任何地方的开发者今天起可以经接口自选开启,默认关闭。OpenAI 明确表态,水印不会成为全球默认设置。
它不是一枚看得见的图章。这项名为 textGrain 的技术由 OpenAI 与宾夕法尼亚大学、耶鲁大学的研究者合写论文,原理是在模型挑选下一个词时施加细微倾向,数百次叠加后形成一种肉眼不可见、检测器却认得出的规律;水印随文字本身走,文本被复制到哪里,它就跟到哪里,粘贴后依然可检测。OpenAI 称水印不指向具体用户,开启后模型能力也没有可感知的变化。
weaknesses 也写在明面上:把文中一成词语换成同义词,检测率就从约 92% 掉到 66%;短段落、数学答案、翻译文本的检测更难。正因为这些局限,检测器初期只开放给获得批准的研究人员与专家组织,普通人拿不到,只能等他们出具报告。OpenAI 同时提醒:没有水印,不等于文字就出自人手——可能太短、被改得太多,也可能出自另一家公司的模型。
放进行业背景里看,这一步并不突然。欧盟人工智能法案的透明度规则今年 8 月 2 日生效,谷歌、Meta、微软、OpenAI 都承诺遵守配套准则;Anthropic 两个月前已宣布给 Claude 的输出全球加水印,当时引来了用户反弹。更耐人寻味的是 OpenAI 自己的历史:华尔街日报 2024 年就报道过,OpenAI 造出了文本水印工具却按下不发,担心的正是用户流向不带水印的竞争对手。
我的判断很直接:这次只对欧盟强制、全球默认关闭,说明 OpenAI 把账算清楚了——监管够得着的地方就合规,够不着的地方绝不替用户做主。水印的松紧,从来不取决于技术,而取决于平台肯用多大的检测强度去换监管信任,眼下它给出的答案是:只让渡欧盟那一小块。
关注我,带你了解每日最新 AI 新闻
OpenAI 在欧盟给 ChatGPT 文本加隐形水印,检测器不给普通人用 据 TechCrunch 报道,当地时间周一,OpenAI 宣布为欧盟地区的 ChatGPT 与 Codex 生成文本添加隐形水印,以符合欧盟人工智能法案的透明度要求。水印将在未来几周内向欧盟所有套餐的合格用户推送;全球任
阅读:0
点赞:0