三名被 OpenAI 解雇的安全研究员称从未被告知泄露了什么

因涉嫌泄密而被解雇的三名 OpenAI 安全研究员正在讲述他们这一方的说法。Tomek Korbak、Mikita Balesni 和 Jasmine Wang 否认共享了机密信息，质疑解雇他们的官方理由，并怀疑此事与他们倡导更透明的人工智能系统有关。

OpenAI 在对涉嫌违反其敏感信息处理政策的行为进行内部调查后，将三人全部解雇。他们每个人在被解雇前都曾公开谈论过 AI 风险。

在接受《华尔街日报》采访时，这些研究人员现在对这一说法提出异议。OpenAI 向《华尔街日报》表示，解雇与研究人员提出的安全担忧无关。但这三人表示，他们从未收到书面通知，说明他们究竟不当处理了哪些信息。他们还担心，此案可能会让独立安全审计人员不敢再与人工智能公司合作。

《华尔街日报》的报道揭示了导致这场对峙的起因。OpenAI 的安全团队怀疑这三人与一名外部安全研究员分享了公司内部模型架构的细节，并要求他们解锁个人手机。在这些设备上，团队发现了启用了阅后即焚消息的 Signal 聊天记录。一周后，三人同时被解雇。OpenAI 表示 Signal 不是经批准使用的通信工具，但坚称这不是解雇的原因。Korbak 反驳称，阅后即焚消息是整个硅谷的常规安全做法。

关于监控 AI 推理步骤的争议

这场争议的核心是一个具有重大影响的技术问题。人工智能公司是否应该让外部人员检查其模型的思考方式？推理模型可以在一个被称为思维链的内部草稿本上记录其解决问题的中间步骤。公司和安全研究人员依赖这些记录来理解模型如何做出决策。

在 2025 年的一篇论文中，Balesni、Korbak 和 Wang 与来自多家 AI 实验室的顶尖研究人员共同呼吁继续保留对这一能力的访问权限。今年夏天，当 AI 公司的员工开始讨论那些思考时间更长但写下的中间步骤更少的模型时，这个问题变得更加紧迫。Balesni 在内部进行了反驳，分享了 Redwood Research 时任首席科学家 Ryan Greenblatt 提出的一项相关提案。

Korbak 也与 Greenblatt 保持着定期联系。两人在 Slack 和 Signal 上沟通，同时合作分析了一起备受关注的事件——OpenAI 智能体对 Hugging Face 的攻击，Greenblatt 受 METR 聘请对此进行独立调查。

一篇关于 Astra 的新闻报道引发了调查

在 The Information 于 9 月 1 日报道 OpenAI 的新模型 Astra能力更强但披露的推理过程更少之后，这种合作变成了一种负担。OpenAI 首席科学家 Jakub Pachocki 当时在 X 上称该报道混乱不清，尽管他本人曾警告全行业正竞相走向无法再被监控的模型。

据《华尔街日报》报道，几周后，OpenAI 启动了一项内部泄密调查。Balesni 称，调查人员将 Greenblatt 列为疑似消息来源，并要求查看与他之间的 Signal 聊天记录。Greenblatt 否认向记者传递了机密信息。

Wang 面临另一项指控：OpenAI 称她曾多次访问一名高管的收件箱。她表示，自己早在近一年前就曾要求撤销该访问权限，上个月不小心打开了一封敏感邮件，但没有分享其内容，并立即报告了此事。OpenAI 表示，访问权限本身并不是问题所在。

据 Korbak 称，影响远不止他们三人。他说，同事们现在不敢与外部人士交谈，也不敢在内部提出安全方面的担忧。在致 OpenAI 董事会的一封信中，这三位研究人员呼吁与外部安全组织加强合作。

另外，最近公布的一项现场审计也对 OpenAI 的安全实践提出了疑问。METR 和 Redwood Research 的员工在审查过程中发现 OpenAI 的基础设施存在大量安全漏洞，但 OpenAI 对最终报告近一半的内容进行了涂黑处理。

OpenAI 还发布了自己关于一种无需互联网访问即可运行的新安全架构的报告，并表示已修复相关问题，于 10 月初恢复训练。该公司称将很快宣布多项新的外部合作。

没有炒作的 AI 新闻——由人工精选

订阅 THE DECODER，即可享受无广告阅读、每周 AI 新闻简报、每年六期独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。