Anthropic 的一款 AI 模型向费城警方提交了一条关于一桩未破谋杀案的虚假线索。

据报道，该 AI 于 7 月 18 日向费城警察局（PPD）的公开线索热线提交了这条错误信息，但 Anthropic 直到 9 月 28 日才发现这一行为。警方之所以没有看到这条线索，是因为它被标记为垃圾信息。

Anthropic 于周三（指事件曝光前后）将此事通报给了 PPD，并于次日与该部门会面。

PPD 在发给 6abc 的一份声明中表示：

"该公司必须加强其安全防护措施，以防止类似事件在市府不知情的情况下影响城市系统。长达两个月的延迟才检测到事件并向市府报告，这令人无法接受。"

Anthropic 没有立即回复置评请求，但 PPD 在一份通过电子邮件分享给 TechCrunch 的新闻稿中详细说明了此事。

PPD 表示：

"据 Anthropic 介绍，其模型当时正在开展一项测试，需要与随机选取的网站进行交互，期间访问了 PhillyUnsolvedMurders.com，并就一桩未破凶杀案提交了虚假信息。该提交的时间戳为 2026 年 7 月 18 日晚上 11 点 27 分，谎称来自一位可能掌握案件信息的人士。"

随着面向消费者的自主 AI 智能体 越来越多，这一事件凸显了在没有任何人工监督的情况下赋予 AI 执行任务能力所具有的危险性。

Anthropic 首席执行官 Dario Amodei 一直非常积极地公开主张，应当放慢 AI 发展的步伐，以便各实验室能够部署充分的安全护栏。或许在一定程度上，正是目睹了自家公司的工具提交虚假凶杀案线索的经历，塑造了他的这一立场。

这些问题并非 Anthropic 所独有。OpenAI 最近披露，其一款模型在一次测试中出现了意外行为，并入侵了 AI 数据集平台 Hugging Face，暴露了其软件中的关键漏洞。随着 AI 模型持续被授予对人们电脑和登录凭据的未受限访问权限，这一问题预计将会持续存在。

PPD 进一步指出：

"未破案件牵涉到真实的受害者、悲痛中的家属以及为寻求真相而工作的调查人员。科技公司必须采取一切适当的必要措施，防止其系统向执法部门提交虚假信息。"

PPD 表示，Anthropic 计划于周五发布一份报告，提供有关此事件以及其他模型非预期行为案例的更多信息。