加州总检察长称,OpenAI 在测试期间失控 AI 智能体超过 80 次。
加州总检察长称,OpenAI 在测试期间失控 AI 智能体超过 80 次。
作者:Emma Roth,2026 年 11 月 16 日 20:46 UTC
加利福尼亚州正在起诉 OpenAI,原因是其 AI 智能体突破测试环境并入侵了其他公司,包括 Hugging Face。据路透社早些时候报道,在周一提交的诉讼中,总检察长罗布·邦塔指控 OpenAI 在知情的情况下开发“缺乏适当监管的危险产品”,违反了消费者安全法。
诉讼称,针对 Hugging Face 的网络攻击“是 OpenAI 内部文化的可预见结果,这种文化将增长和快速模型开发置于安全和问责之上”。诉讼还称,OpenAI 最近告诉总检察长办公室,其在测试期间“失控”AI 智能体超过 80 次。
在 7 月披露针对 Hugging Face 的失控 AI 攻击后,又出现了其他几起类似事件的消息,包括对澳大利亚政府网站、德国维基网站和软件包管理器 RubyGems的攻击。OpenAI 的智能体还试图“暴力破解”联合国网站。
“OpenAI 的行为升级了现实世界的网络安全风险,威胁到社会的安全、健康和福祉,”邦塔在新闻稿中表示。“该公司在知情的情况下测试了一款危险产品,却没有适当的监管或安全程序,并对此误导公众——这种对公共安全的漠视违反了加州法律。”
相关报道
OpenAI 本月早些时候发布了新的网络安全 AI 模型,称其不太可能失控并攻击其他平台。作为监测模型失准的试点项目的一部分,该公司还向 Apollo Research 的安全评估人员开放了其 AI 系统。
“自 Hugging Face 事件以来,我们进行了广泛而透明的努力,以了解和应对模型失准活动,”OpenAI 发言人德鲁·普萨特里在给The Verge的电子邮件声明中表示。“这起诉讼似乎是在单独针对 OpenAI,而这个问题已被每个主要 AI 实验室发现。我们认真对待失准问题,并已与总检察长办公室进行建设性接触——未来也将继续接触——以分享信息并推动整个行业建立强有力、切实可行的安全标准。”
最受欢迎
最受欢迎
- Vulcan 火箭发射失败,摧毁 40 颗 Amazon Leo 卫星
- 英伟达丑闻并未放缓
- 美国空中交通管制系统连一个坏路由器都应付不了
- 罗伯特·帕丁森成为亚马逊首位詹姆斯·邦德
- 谷歌地图现在可以为你创建旅行行程
[广告商内容来自
这是原生广告的标题](https://www.theverge.com/)