热点事件历史事件
AI拒绝能力可靠性争议
1 篇报道1 个报道来源11 天前更新
先了解这件事
AI 综述
2026年10月9日，MIT Technology Review 发表文章指出，AI 的拒绝能力已成为安全体系的核心，但其机制基于概率、并不可靠。文章回顾，Anthropic 于2021年提出模型应“有用、诚实、无害”，如今公司通过红队测试和 AI 训练 AI 来强化拒绝，却仍难阻止用户利用先进模型研究病原体或组建自主无人机蜂群。文章还警告，拒绝的边界由企业秘密划定，政府介入后可能被用于压制合法言论。
AI 根据报道生成 · 11 天前更新
最新进展10月9日 17:00
MIT Technology Review 发文质疑 AI 拒绝机制基于概率、不可靠。报道时间线
沿着报道，了解事件的不同侧面。
10月9日
- MIT Technology Review · AI我们太相信 AI 说“不”的能力了
MIT Technology Review 文章指出，AI 的拒绝能力已成为安全体系的核心，但机制基于概率、并不可靠。Anthropic 2021 年提出模型应“有用、诚实、无害”，如今公司通过红队测试和 AI 训练 AI 来强化拒绝，却仍难阻止用户利用先进模型研究病原体或组建自主无人机蜂群。文章还警告，拒绝的边界由企业秘密划定，政府介入后可能被用于压制合法言论。