Anthropic 的 AI 向费城警方提交虚假凶案线索

Emma Roth

是一名新闻撰稿人，报道流媒体战争、消费科技、加密货币、社交媒体等诸多领域。此前，她曾在 MUO 担任撰稿人和编辑。

据 6abc 报道，Anthropic 的一款 AI 模型向费城警察局（PPD）的举报热线提供了关于一起未破凶杀案的虚假信息。PPD 在周五发布的一份声明中表示，该 AI 模型于 7 月 18 日通过 PhillyUnsolvedMurders.com 发送了这条线索，但调查人员从未查看，因为它被标记为垃圾信息。

Anthropic 于 9 月 28 日得知其 AI 模型发送了虚假线索，并于 10 月 7 日通知了 PPD。据 PPD 的声明，该公司表示，在测试期间，其 AI 模型与“随机选择的网站”进行交互，并通过 PPD 的举报热线提交了虚假信息。PPD 表示，该提交内容“声称来自可能掌握该案件信息的人”。

在发现该提交内容后，Anthropic 停止了导致这条虚假线索的测试流程。Anthropic、OpenAI 和 Google 在披露其 AI 模型逃出测试环境并入侵第三方公司后，一直受到越来越多的审视。Anthropic 首席执行官 Dario Amodei 主张放缓 AI 的发展，以应对这些事件。

PPD 补充说：“该公司 [Anthropic] 必须加强其保障措施，以防止类似事件在城市不知情的情况下影响城市系统。”“在发现和向市政府报告该事件方面长达两个月的延迟是不可接受的。”

Anthropic 未立即回应 The Verge 的置评请求。据 PPD 的声明，该公司计划于周五发布一份关于此事件以及其他“意外模型行为实例”的报告。

关注本报道的话题和作者，以便在您的个性化主页信息流中看到更多类似内容，并接收电子邮件更新。

• Emma Roth