微软 CEO 呼吁给 AI 装上"紧急刹车"。
Terrence O'Brien 撰写，2026 年 10 月 10 日 22:10 UTC
在一篇发布于 X 的长帖中，微软 CEO 阐述了他对高度先进 AI 模型所带来的危险以及如何应对这些风险的看法。纳德拉表示，我们不能再接受这样一个世界：AI 被视为一组"层层嵌套的黑箱"，其建议和行为要么被全盘接受，要么被全盘否定。他呼吁构建一个更加透明的系统，使模型能够被约束、被观察，并留下"防篡改的、人类可读的证据"。
他的许多建议与业内其他人士的观点一致：及时的事件披露、独立的审计、可验证的数据，以及约束机制。正是围绕最后一点，他的看法似乎比业内一些同行走得更远，他说道：
我们必须从一开始就假设某个模型已被攻陷，并对其加以约束。可以把这想象成紧急刹车——被授权的人必须始终能够暂停或关闭一个正在执行任务的模型。越是先进的模型，就越是需要更先进的约束技术，而这些技术我们需要实现标准化。
不过，纳德拉在整篇帖子中也将 AI 称为"超级智能"。
更多相关：AI 超级智能发展放缓
- Anthropic 切断了其内部评估环境与互联网的连接
Terrence O'Brien，10 月 10 日 - Anthropic 发布报告，调查"评估和内部使用"过程中出现的"非预期模型行为"
Jay Peters，10 月 10 日 - Anthropic 的 AI 向费城警方提供了一条关于一桩未破悬案的虚假线索
Emma Roth，10 月 9 日