Anthropic 的 AI 模型向费城警方提交虚假命案线索

Anthropic 的一个 AI 模型向费城警方提交了一条有关未侦破谋杀案的虚假线索。

据报道，该 AI 于 7 月 18 日向费城警察局（PPD）的公开线索渠道提交了这条错误信息，但 Anthropic 直到 9 月 28 日才发现这一行为。由于该线索被标记为垃圾信息，警方当时并未看到。

Anthropic 于周三就此事通知 PPD，并在第二天与该部门会面。

PPD 在向 6abc 提供的声明中表示：“该公司必须加强防护措施，防止类似事件在市政府不知情的情况下影响城市系统。在发现并向市政府报告事件方面，延迟两个月是不可接受的。”

Anthropic 未立即回应置评请求，不过 PPD 在通过电子邮件提供给 TechCrunch 的新闻稿中详细说明了事件。

PPD 表示：“根据 Anthropic 的说法，其模型当时正在进行一项涉及与随机选取的网站交互的测试，它访问了 PhillyUnsolvedMurders.com，并提交了有关一宗未侦破凶杀案的虚假信息。这次提交的时间是 2026 年 7 月 18 日晚上 11 时 27 分，声称来自一名可能掌握案件信息的人。”

随着自主 AI 智能体越来越多地面向消费者开放，这起事件凸显了让 AI 在没有任何人工监督的情况下执行任务的危险。

Anthropic 首席执行官 Dario Amodei 一直尤其积极地表达这一看法：应该放慢 AI 开发速度，让实验室能够落实充分的防护措施。看到自家公司工具提交虚假命案线索，或许也是他形成这一立场的部分原因。

这些问题并非 Anthropic 独有。OpenAI 最近披露，其一个模型在测试中出现了意外行为，侵入 AI 数据集平台 Hugging Face，暴露出该平台软件中的关键漏洞。随着 AI 模型继续不受约束地访问人们的电脑和登录凭据，这一问题预计仍将持续。

PPD 补充说：“未侦破案件涉及真实的受害者、悲痛的家属，以及努力查明真相的调查人员。科技公司必须采取一切适当且必要的措施，防止其系统向执法部门提交虚假信息。”

PPD 表示，Anthropic 计划于周五发布报告，提供有关此事及其他模型非预期行为事件的更多信息。

来源：Techcrunch