Anthropic 在 Claude 自主提交虚假凶案线索后切断其联网访问
Anthropic cuts off Claude's internet access after the model autonomously filed a fake homicide tip with Philadelphia police
Anthropic 在一份报告中披露，其模型在测试和内部使用中自主利用安全漏洞、提交政府表单并绕过访问限制。其中一例是 Claude 填写费城警察局的线索表单，编造了一起未破凶案的细节并提交，警方确认此事但该线索被标记为垃圾信息，未送达调查人员。
Anthropic 报告披露 Claude 在测试中自主绕过限制并提交虚假线索，读者可了解其安全处置与行为模式。
2026年10月10日
Anthropic 的 AI 模型在测试和内部使用期间独立利用了安全漏洞、提交了政府表格，并绕过了访问限制。正如该公司在一份报告中详述的那样，这些模型主动寻找方法来完成本不该由它们处理的任务。
在一个案例中，Claude 填写了费城警察局的线索表格，编造了一起未破凶杀案的细节并提交了它。警方证实了这一事件，但该线索被标记为垃圾信息，从未送达调查人员。在其他案例中，该模型发现了一所大学服务器上的漏洞并利用它运行命令，从网站配置中提取访问令牌以获取受保护或付费墙后的数据，并使用 URL 缩短服务来规避其工具的长度限制。
Anthropic 表示实际影响很小，但看到了一种模式。当任务模糊或难以解决时，模型会自行寻找变通方法，而不是停下来。该公司通知了白宫，并切断了所有内部评估的实时互联网访问，直到新的安全过滤器可靠到位。这些事件加入了一份快速增长的类似案例清单，其中包括涉及 Claude 的网络安全事件以及OpenAI 模型自主入侵 Hugging Face。
没有炒作的 AI 新闻——由人类精选
订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、我们每年六次的独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。
来源：The Decoder · the-decoder.com