OpenAI 发布 GPT-6 Cyber，可挖掘漏洞并给出修复方案

OpenAI 推出了 GPT-6 Cyber，这是一款专门训练用于搜寻软件安全漏洞的 AI 模型。

OpenAI 表示，该模型能够发现缺陷、构建可用的漏洞利用程序，并给出修复建议。它还被要求不得越出其被赋予的边界，而这一点正是部分 OpenAI 模型近几个月来一直难以做到的。

该公司称，他们训练 GPT-6 Cyber 遵守其操作护栏，所用手段之一是一个受Hugging Face 事件启发的蜜罐。在没有任何特殊安全指令的情况下，GPT-6 Cyber 在 99.93% 的案例中避免了越界行为，高于其前代的 94.49%。在启用安全指令后，该模型在 100% 的测试中都保持在边界之内。总体而言，OpenAI 在其准备框架的网络安全类别中将 GPT-6 Cyber 评为“Critical”，这与它给“基础”模型 GPT-6 Astra 的评级相同。

在 ExploitGym 上——该基准测试用于检验模型能否利用远程系统中的给定漏洞——据 OpenAI 称，GPT-6 Cyber 得分为 48.5%，而其前代 GPT-5.6 Cyber 为 32.1%。在一项针对在无法访问源代码的情况下寻找 Web 应用漏洞的新测试中，OpenAI 报告其命中率为 40.3%，而未接受网络安全训练的标准模型 GPT-6 Astra 为 32.0%。

完整结果可在系统卡中查阅。所有基准测试数字均来自 OpenAI 自身。截至目前，尚未有该模型的独立测试结果公布。

GPT-6 Cyber 已在 Firefox 和 Linux 内核中发现真实漏洞

据 OpenAI 称，GPT-6 Cyber 已在真实世界的安全研究中取得成果。在一次定向行动中，该模型在 Firefox 中发现了81 个此前未知的严重漏洞，尽管该浏览器此前已用更早的 AI 模型进行过测试。该模型还表明，30 个已知问题比此前认为的更为严重。Mozilla 接受了这些报告，并已发布修复程序。

据 OpenAI 称，在 Linux 内核中，GPT-6 Cyber 复现了 1,724 个安全漏洞，并为其中 948 个开发出可用的漏洞利用程序，是 GPT-5.6 Sol 在相同条件下所完成的 166 个的五倍多。该公司表示，已向 Linux 维护者报告了 304 项关键发现，并附上了建议的修复方案。

针对Linux 内核行动，OpenAI 构建了一套由侦察代理和分析代理组成的专用自动化系统。它们首先扫描了内核中约 5,034 个与安全相关的位置，约占整个代码库的 7%，然后将范围筛选至 2,308 个候选对象，并在隔离的虚拟机中确认了 1,724 个漏洞。在此基础上，该系统开发出了 OpenAI 已报告的 948 个可用漏洞利用程序。据 OpenAI 称，整个运行过程消耗了 1,213,430 美元的计算成本，折合每个漏洞利用程序 1,279 美元。相比之下，Pwn2Own 和 TyphoonPWN 等项目历来为同类发现支付 20,000 至 70,000 美元的赏金。

OpenAI 表示，这些智能体至少使用了十种此前连外部内核安全专家都不知晓的新型攻击技术。按照 OpenAI 的说法，这些模型既复现了已知的攻击模式，也找到了自己的方法。这一说法有多大分量，取决于你如何狭义地定义“自己的方法”。研究人员对于AI 模型究竟能否真正做出新发现，还是只是重新组合训练中见过的东西仍存在分歧。

OpenAI 目前仅向部分客户开放访问权限

据 OpenAI 介绍，GPT-6 Cyber 最初通过 API 和 Codex 向 Daybreak Red 的部分客户提供。访问权限将逐步扩大到所有 Daybreak Red 客户。与此同时，GPT-5.6 Cyber 向所有 Daybreak Red 用户开放，而 GPT-6 Astra 的 Daybreak Blue alpha 访问权限将扩展到更多组织和独立安全研究人员。

OpenAI 承认，随着模型能力增强，滥用尝试也在增加。一些行为者和团体试图将模型能力转移到自己的系统中。

OpenAI 列出了几项应对措施：检查模型行为是否与用户权限相符、针对新披露漏洞的定向监控、通过其所谓的 Private Safety Processing 进行自动化安全检查、对 Daybreak Red 实施基于 IP 的访问限制，以及建议在有人工监督的隔离环境中运行模型。

OpenAI 特别关注保护发电厂和水处理设施等关键基础设施。为了方便防御者使用，该公司提到了其十亿美元级的“Daybreak for Frontline Defenders”资助计划，以及一个名为“Daybreak Red for Critical Infrastructure”的新子组织，用于授权测试。

OpenAI 谈到一个有限的窗口期，在此期间顶级模型可用于保护软件安全。目标是让 Daybreak 计划扩展到各种规模的组织、独立研究人员和开源维护者。这是否真的可行则是另一个问题。Epoch AI 的研究人员刚刚展示，开源GLM 模型本可以利用 Firefox 中已知但尚未修补的漏洞。

没有炒作的 AI 新闻——由人类精选

订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、每年六期独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。