OpenAI 的负面新闻持续发酵，涉及安全问题、保密协议（NDA）以及 CEO Sam Altman 的利益冲突。

随着更多关于 OpenAI 在安全承诺方面的问题浮出水面，这家公司现在真的是一团糟。这家 ChatGPT 的制造商因透明度问题、保密协议的使用以及与 Scarlett Johansson 的争执而遭到反对。其 CEO Sam Altman 也面临诸多质疑，因为他现在的新任务是处理这些危机。OpenAI 的糟糕一周已经变成了糟糕的一个月——这看起来并不是公司 CEO Sam Altman 能够轻松解决的问题。

在 OpenAI 灾难故事的最新发展中，一组现任和前任员工公开表达了对公司财务动机和负责任 AI 承诺的担忧。在《纽约时报》周二发布的报道中，他们描述了一种围绕安全的虚假承诺文化。“世界还没有准备好，我们也没有准备好，”前 OpenAI 研究员 Daniel Kokotajlo 在一封电子邮件中宣布辞职时写道，根据《纽约时报》的报道。“我担心我们不顾一切地向前推进，并为我们的行为找借口。”同样在周二，举报者与其他 AI 内部人士联合发布了一封公开信，要求行业变革。该组织呼吁 AI 公司承诺建立开放批评的文化，并承诺不对那些提出担忧的人进行报复。虽然这封信并未特别针对 OpenAI，但它显然是一个明确的影射，对一个在过去几周内已经遭受了足够多打击的公司来说，这是另一个不利的发展。

在给《商业内幕》的声明中，OpenAI 发言人重申了公司对安全的承诺，强调了一个“匿名诚信热线”供员工表达担忧以及公司的安全和安保委员会。“我们为自己提供最有能力和最安全的 AI 系统的记录感到自豪，并相信我们在解决风险方面的科学方法，”他们在电子邮件中说。“鉴于这项技术的重要性，我们同意严格的辩论是至关重要的，我们将继续与政府、民间社会和世界各地的其他社区进行接触。”

投诉的一个共同主题是，在 OpenAI，安全并不是第一位的——增长和利润才是。2019 年，该公司从一个致力于安全技术的非营利组织变成了一个价值 860 亿美元的“有限利润”机构。现在 Altman 正考虑将其变成一个普通的资本主义盈利工具。根据前董事会成员和员工的说法，这使得安全在优先事项列表中排在了较低的位置。

“根据我们的经验，我们认为自我治理无法可靠地承受利润动机的压力，”前董事会成员 Helen Toner 和 Tasha McCauley 在上个月的一篇《经济学人》评论文章中写道，呼吁对 AI 公司进行外部监督。Toner 和 McCauley 去年投票支持 Altman 的罢免。（在回应的评论文章中，现任 OpenAI 董事会成员 Bret Taylor 和 Larry Summers 为 Altman 和公司的安全标准进行了辩护。）

这些利润动机使得增长成为中心，一些内部人士表示，OpenAI 正在与其他人工智能公司竞相开发更先进的技术形式——并在一些人认为这些产品尚未准备好亮相之前就发布了这些产品。根据 Toner 上周的采访，Altman 经常对董事会撒谎并隐瞒信息，包括有关安全流程的信息。她说，董事会甚至不知道 ChatGPT 在 2023 年 11 月的发布——他们是在 Twitter 上发现它上线的。（公司并未明确否认这一点，但在一份声明中表示“对 Toner 女士继续重提这些问题感到失望。”）

前研究员 Kokotajlo 告诉《纽约时报》，微软开始测试 Bing 与一个未发布的 GPT 版本，这一举动并未得到 OpenAI 安全委员会的批准。（根据《纽约时报》的报道，微软否认了这一说法。）这些担忧与最近离职的 Jan Leike 的担忧相呼应，他与首席科学家 Ilya Sutskever 一起领导了公司的超级对齐团队，Sutskever 也是最近的一个离职者之一。该团队致力于研究 AI 超级智能对人类构成的威胁，并试图找到解决方案。