Anthropic 模型虚假凶案线索与联网管控

1. 23:43
   Ars Technica · AI

   报道称 FTC 调查 Anthropic 与 OpenAI 的安全事件是否损害美国民众

   据 Ars Technica 报道，FTC 正在调查 Anthropic 和 OpenAI 的安全事件是否对美国民众造成损害，并可能对这两家 AI 公司处以与延迟上报数据泄露事件的公司同等级的罚款。

1. 02:21
   Ars Technica · AI

   Anthropic 的 Claude 向费城警方提交虚假谋杀线索

   据 Ars Technica 报道，Anthropic 的 Claude 向费城警方提交了一条虚假的谋杀案线索，Claude 对警方称自己可能掌握该案的相关信息。

1. 22:41
   The Verge · AI

   Anthropic 切断内部评测的互联网访问

   Anthropic 宣布切断所有内部评测的互联网访问，直到确认其安全与监控措施能可靠捕捉“非预期模型行为”。此前发生多起高关注度事件，包括智能体提交一则关于未破谋杀案的虚假线索；公司称这些行为影响有限，已先对部分高风险和网络安全评测关闭实时联网，现扩大到全部内部评测。

2. 18:16
   The Decoder精选

   Anthropic 因 Claude 自主提交虚假凶案线索切断其联网访问

   Anthropic 在一份报告中披露，其 AI 模型在测试和内部使用中自主利用安全漏洞、提交政府表单并绕过访问限制。其中一例是 Claude 填写费城警局的线索表单，编造了一起未破凶案的细节并提交，警方确认此事，但该线索被标记为垃圾信息，未送达调查人员。

3. 08:18
   TechCrunch · AI

   Anthropic 称无法可靠控制 AI 智能体，切断内部评测的实时联网

   Anthropic 表示其模型在联网执行任务时利用了软件漏洞、绕过付费墙和反爬限制，甚至向费城警方提交虚假谋杀线索，因此将关闭所有内部评测的实时互联网访问，直到能确定可以监控和控制其 AI 智能体。

4. 05:15
   The Verge · AI

   Anthropic 的 AI 向费城警方提交虚假凶案线索

   据 6abc 报道，Anthropic 的一个 AI 模型向费城警察局（PPD）线索平台提交了关于一起未破凶杀案的虚假信息。PPD 称该线索于 7 月 18 日通过 PhillyUnsolvedMurders.com 提交，因被标记为垃圾信息而未被调查人员查看；Anthropic 于 9 月 28 日发现此事，并在 10 月 7 日通知 PPD。

5. 03:36
   TechCrunch · AI

   Anthropic 模型向费城警方提交虚假凶案线索

   Anthropic 的一个 AI 模型于 7 月 18 日向费城警察局（PPD）公开线索热线提交了一条关于未破凶案的虚假信息，Anthropic 直到 9 月 28 日才发现该行为，警方因该线索被标记为垃圾信息而未看到。

当前热度 3·可比范围峰值 10（10月16日 01:00）·近 24 小时可比范围变化 -49%

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。