Matthew Green：AI 冲击下公钥加密或面临信心危机
密码学家 Matthew Green 称，有 1% 的概率我们生活在 Minicrypt（公钥加密不可能存在的假想世界），另有 15% 的概率会实质性失去对现有公钥加密算法的信心。他指出，AI 制造意外发现的速度远超人类更新标准的速度，两者相差数个数量级，只有提前做好准备才能从这类冲击中恢复。
全部AI 动态
全部动态
今日 7 条Simon WillisonAI 评分3030
MIT Technology Review · AIAI 评分3838 我们太相信 AI 说“不”的能力了
MIT Technology Review 文章指出，AI 的拒绝能力已成为安全体系的核心，但机制基于概率、并不可靠。Anthropic 2021 年提出模型应“有用、诚实、无害”，如今公司通过红队测试和 AI 训练 AI 来强化拒绝，却仍难阻止用户利用先进模型研究病原体或组建自主无人机蜂群。文章还警告，拒绝的边界由企业秘密划定，政府介入后可能被用于压制合法言论。
Simon WillisonAI 评分1212 Carson Gross：编程本质是解决问题与控制复杂度，AI 时代仍是可行职业
Carson Gross 认为，编程本质上就是两件事：用计算机解决问题，以及在解决问题时学会控制复杂度。他表示难以想象未来“用计算机解决问题并控制其复杂度”的能力会贬值，因此即便 AI 工具出现，编程仍将是可行的职业。
Latent SpaceAI 评分3434 Periodic Labs 的 Liam Fedus 与 Ekin Dogus Cubuk 谈"合成超级智能"：从半导体到超导体
Periodic Labs 联合创始人 Liam Fedus 与 Ekin Dogus Cubuk 在 Latent Space 播客中提出"合成超级智能"（synthesis superintelligence）愿景：以物理实验为环境的强化学习、AI 驱动的材料表征、DFT 与高通量实验室，训练模型学习做科学的过程而非只看已发表结果。
The Verge · AIAI 评分2222 《Artificial》：一部紧贴 OpenAI 与 Sam Altman 真实事件的讽刺传记片
Luca Guadagnino 执导的讽刺传记片《Artificial》在纽约电影节首映，聚焦 OpenAI CEO Sam Altman 的崛起与被短暂罢免，剧情紧贴真实事件。
The Verge · AIAI 评分6060 Meta Muse 与 OpenAI Dots 能替你打理生活吗
The Verge 的 Decoder 播客中，资深 AI 记者 Hayden Field 与主持人 Nilay Patel 讨论 Meta Muse、OpenAI Dots 和 xAI Grok Bot 掀起的消费级 AI 智能体浪潮。
MIT Technology Review · AIAI 评分3636 机器人领域的 AI 突破短期内不会改变你的生活
MIT Technology Review 与 Aventine 合作的文章指出，尽管马斯克称 Tesla Optimus 未来能以每台低至 2 万美元自动化几乎所有人类劳动、并预测 2027 年底前向公众发售，但许多机器人研究者对此持怀疑态度。
MIT Technology Review · AIAI 评分2020 AVEVA 如何为自主工业 AI 构建更安全的落地路径
AVEVA 首席技术官 Arti Garg 提出，工业 AI 正从预测分析转向基础模型、物理 AI 与智能体 AI，但因其直接作用于物理系统，安全与可靠性成为部署前提。AVEVA 的责任 AI 框架强调安全、效率与人类监督，主张 AI 应增强而非取代关键决策中的人，并设置护栏界定自动化与人工负责的边界。Garg 还参与 IEEE 工作组，制定覆盖电力、能源、水资源与碳的 AI 环境影响测量标准。
Simon WillisonAI 评分1212 Ben Affleck 谈机器学习与视觉特效：从卷积神经网络到 Transformer
Ben Affleck 表示自己从胶片转向数字电影时期开始对技术产生兴趣，能写"相当糟糕的 Python 脚本"。他提到视觉特效工作流多年来一直包含机器学习，早期用卷积神经网络处理 tensor 做边缘检测和特征提取，从而更方便地抠出绿幕画面并替换背景。他将卷积神经网络称为 Transformer 的前身，后者只是能同时进行更多计算。
TechCrunch · AIAI 评分3434 Tony Fadell 谈首波 AI 硬件为何失败，以及下一步走向
Tony Fadell 在 MIT Future Fest 上指出，Rabbit R1、Humane AI pin、Limitless pendant 这批"Gen 1" AI 硬件失败的原因是没解决任何真实需求，只是极客觉得有趣的技术。他认为成功的 AI 智能体必须完全在设备端运行，兼顾隐私与轻量化，并称目前只有 Apple 具备硬件、芯片等全部条件，但缺少自己的顶级 AI 模型。
Simon WillisonAI 评分88 Michael Lynch 谈软件博客写作的反模式
Michael Lynch 撰文列举软件博客写作的常见反模式，包括冗长开场、误判读者已有知识、假设读者读过旧文、过度正式，以及用链接代替术语解释。Simon Willison 坦言自己常犯依赖链接这一条，并认同要用自己的口吻写作。他指出，随着大量开发者把写作交给 AI，软件博客正变得千篇一律，读者更渴望有个性的文字。
Simon WillisonAI 评分3838 EmbeddingGemma 2 采用 Apache 2.0 许可
EmbeddingGemma 2 采用 Apache 2.0 许可，Simon Willison 认为嵌入模型不应使用闭源、专有、仅托管的方案。嵌入模型通常需要计算并存储数千甚至数百万条嵌入向量，一旦厂商停供该模型，用户就得为重新计算这些存量向量付费。他本人不愿自行托管模型，更愿意付费使用托管服务，同时保留在停供时自行运行开放权重版本或另寻供应商的余地。
The DecoderAI 评分4040 微软发布诺奖经济学家 Daron Acemoglu 的看空 AI 预测：十年仅拉动 GDP 增长 1.5%
微软刊发了诺奖经济学家 Daron Acemoglu 的看空预测：AI 十年内仅拉动 GDP 增长约 1.5%，最多替代 5% 的岗位，远低于部分 AI 实验室的预期。他认为瓶颈在人性——企业需重新分配任务、提升员工技能并重组流程，这一过程可能比电气化普及更漫长，更大的模型也无法解决。他还称，增强人类技能的 AI 在生产力上会胜过完全自动化。
The Verge · AIAI 评分3434 苹果、Google 探索"不录像"的 AI 硬件，重新定义"录制"边界
苹果正研发一款不保存视频录像的智能家居摄像头，改用 AI 将视觉数据转为描述家中情况的文本片段，并支持人脸识别；Google 可穿戴设备负责人 Sandeep Waraich 也提出智能眼镜摄像头可只做图像传感器、不保存任何画面。苹果称 Audio Intelligence 功能不录制音频，原始数据在 S11 处理器安全隔离区处理完后即删除。
Microsoft ResearchAI 评分2222 Microsoft 研究：AI 评测如何暴露传统 benchmark 之外的“意外失败”
Microsoft 伙伴研究经理 Jennifer Neville 在 Microsoft Research Podcast 中讨论了评测如何推动 AI 系统性能边界，以及模型在传统 benchmark 之外测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的经历，分享了使用当前 AI 系统的实用建议，并强调当结果偏离预期时应仔细审视数据。
The Verge · AIAI 评分5050 Sam Altman 称 AI 值得付出代价，社会应接受“一些坏事”发生
OpenAI CEO Sam Altman 在 Politico 的 Decoded 播客中表示，AI 带来的好处将远超代价，世界应接受黑客攻击、诈骗等“一些坏事”发生。
MIT Technology Review · AIAI 评分1010 如何将预测分析带入智能体 AI 时代
企业 AI 的竞争前沿已从预测转向自主决策，深度学习与生成式 AI 驱动的智能分析让 AI 能实时训练、持续进化，不再依赖季度刷新。预测引擎的数据来源也从规整的数值记录扩展到杂乱的非结构化交互数据，推动企业从被动回顾走向务实前瞻。Everest Group 合伙人 Vishal Gupta 认为，"分析"一词正让位于 AI。
Import AIAI 评分2222 Import AI 475：群体扩展、Google DeepMind 为生物设计加水印与 AI 科学经济
Toby Ord 分析指出，AI 群体（swarm）是一种新的推理扩展形式，4 个智能体的群体完成同一任务所需 token 总量约为单智能体的两倍，但因并行运行理论上可将耗时减半；不过群体扩展存在类似经济学的“踩脚”递减效应，10 倍智能体仅带来 3 至 5 倍性能提升。
The Verge · AIAI 评分2222 观点：我们的大脑并不适合应对 AI
神经科学家 Paul Cisek 提出，大脑并非图灵机式的信息处理器，而是进化而来的反馈控制系统，用棒球接高飞球说明：人靠"保持球在视野中固定位置"的简单启发式行动，而非计算弹道。作者据此认为，AI 如同认知层面的垃圾食品，迎合当下却损害人类数千年演化出的认知系统。
MIT Technology Review · AIAI 评分2222 人们一边痛恨 AI，一边为何又离不开它？
调查显示，美国多数成年人认为 AI 对个人和社会的负面影响大于正面，年轻人尤为悲观；但 ChatGPT 在 5 月月活突破 10 亿，Gemini 在 7 月达到 9.5 亿，Pew 数据显示一半美国成年人已使用聊天机器人。作者认为，人们反感的并非技术本身，而是科技公司无孔不入的推销方式，而开源替代方案与各州逾 2100 项 AI 法案仍为消费者留出选择空间。
TechCrunch · AIAI 评分3838 特朗普把 AI 改叫"超级智能"，科技巨头签署不具约束力的安全承诺
特朗普本周召集扎克伯格、贝索斯、马斯克、Dario Amodei 等 AI 高管，宣布美国政府不再称"人工智能"而改称"超级智能"，并签署"Joint Commitment on Frontier Responsibilities"。
The Verge · AIAI 评分2626 新泽西州前副州长用 AI 自证清白：称多个 AI 平台未认定其性骚扰
因性骚扰调查于 9 月 25 日被迫辞职的新泽西州前副州长 Dale Caldwell，在 NJ PBS 采访中称他把调查报告"喂给多个 AI 平台"，AI 59 次被问及"结论会是什么"时，没有任何一个 AI 认定存在性骚扰。AI 聊天机器人以迎合用户著称，常说出用户想听的话。
Simon WillisonAI 评分3636 Simon Willison：默认硬性预算上限应成为所有按量付费服务的标配
Simon Willison 呼吁按量付费的 API 和服务默认设置硬性预算上限，即达到 $X/月后直接切断并返回错误，而非仅发警告邮件。他指出 AWS 已在 9 月 16 日推出月度支出上限功能，项目超限后当月暂停，但该功能目前仅向有限客户开放；Google Cloud 已于 7 月推出类似的 Spend Caps。他认为企业和个人更愿意看到报错，而不是收到 $10,000+ 的意外账单。
Simon WillisonAI 评分1010 Simon Willison 发布九月赞助者专属通讯
Simon Willison 已发送九月赞助者专属月度通讯，订阅者可付费 $10/月 获取。本期内容涵盖更多 Fable 级模型、一场价格战、3D 图形与 Blender 及像素艺术、LLM 进军数学领域、更多意外网络攻击、vulnapocalypse 波及 Datasette、当前正在使用的工具、本月软件发布以及 2026 年 LLM 进展回顾。
The DecoderAI 评分2626 Altman 称将 AI 神化是"真实的安全问题"，不再提"天空中的魔法智能"
OpenAI CEO Sam Altman 公开反对将 AI 模型与宗教类比，称人们"把宗教力量或对人类判断力的让渡归于 AI 模型"让他"非常不安"，并称这是一个"真实的安全问题"。
The Verge · AIAI 评分2222 Splice CEO Kakul Srivastava：AI 写的邮件正在杀死真正的对话
Splice CEO Kakul Srivastava 表示，AI 撰写的文档和邮件正在毁掉真正的对话——一旦看不出文字背后是否有人，围绕它的讨论就会变成另一种更糟的对话，且无法回头。她认为音乐领域同理，并强调 Splice 的 AI 产品始终把人类放在创作过程中心。
The DecoderAI 评分2929 DeepMind 研究人员提出"人工共生智能"，替代奇点论
DeepMind 研究人员提出"人工共生智能"（Artificial Symbiotic Intelligence）概念，主张 AI 研究的核心挑战是协调由智能体、人和连接系统组成的复杂网络，而非构建孤立的机器智能。
TechCrunch · AIAI 评分3636 Brian Chesky 访谈：AI 智能体需要自己的操作系统
Airbnb 本周随秋季更新上线新的 AI 搜索，CEO Brian Chesky 在访谈中表示聊天机器人不适合电商，Airbnb 未来三到六个月将探索支持多人同时使用的“multiplayer”AI 界面。他认为行业缺少真正为 AI 打造的操作系统，AI 应在内核层运行，并称 ChatGPT 去年初的应用商店尝试因缺少 SDK 和操作系统而效果不佳。
TechCrunch · AIAI 评分2222 白宫把 AI 改名为"超级智能"，但只有 2% 消费者买单
白宫本周召集扎克伯格、贝索斯、马斯克与 Anthropic 的 Dario Amodei 等科技 CEO 签署 AI 安全承诺，特朗普称其"具有道德约束力"，并签署行政令将 AI 正式更名为"超级智能"。与此同时，Meta 和 OpenAI 正为自家 AI 产品换上更亲和的形象，但 AI 领域最大的收入仍来自企业端，消费者 AI 的经济账依旧难看。
MIT Technology Review · AIAI 评分1212 MIT Technology Review：自主 AI 如何重新定义企业智能
MIT Technology Review 报告指出，企业 AI 正从工具转向"智能体式转变"的运营模式，2026 年全球 AI 投资预计达 2.5 万亿美元，同比增长 44%。报告认为企业 AI 的扩展瓶颈是结构性的，领先企业先重设计流程再选模型，并以数据就绪而非数据规模取胜。报告建议重建数据基础设施、采用可组合架构，并解决 AI 主权问题。
The Verge · AIAI 评分3434 AI 幻觉让"顾客永远是对的"更难应付：服务员、护林员、幼教都遇到拿 ChatGPT 当权威的客人
生成式 AI 的普及正在让服务业顾客用 ChatGPT 的答案反驳从业者：纽约服务员 Madison 称有客人无视贝类过敏警告，坚称 ChatGPT 说菜里没有贝类；酒侍被客人用 ChatGPT 取代，甚至被要求提供根本不存在的酒款。
MIT Technology Review · AIAI 评分5050 别被迷惑——LLM 并不会真正推理
前 Google DeepMind 研究员指出，LLM 靠逐个预测 token 生成答案，其链式推理仍由同一套 next-token 预测完成，缺乏可检视的持久认知状态、知识与推理的分离，且思维链常是事后编造。他认为真正的机器推理应借鉴 AlphaGo 的搜索架构，维护显式的认知状态。
Latent SpaceAI 评分3434 Latent Space 对话 MIT 的 Alex Zhang：从 GPU 内核、RLM 到智能体集群
MIT 研究者 Alex Zhang 在 Latent Space 播客中讲述其从 GPU Mode、KernelBench 到 Recursive Language Models（RLM）的研究路径，并称基于 RLM 的 harness 是首个接近解决 ARC-AGI-3 的方案，早于 OpenAI 的 Astra。
OpenAI NewsAI 评分1515 OpenAI：先进 AI 或成突破性创意背后的日常执行关键
OpenAI 发文探讨先进 AI 对突破性创意背后日常工作的价值，认为执行环节可能决定下一阶段经济的形态与进步速度。文章未给出具体模型、参数或评测数据。
Simon WillisonAI 评分6060 Matthew Green：沙箱能否隔离失控智能体
密码学家 Matthew Green 在《Is sandboxing sufficient to contain rogue agents?》一文中提出，被分别隔离在沙箱中的智能体发现可以在共享包缓存里给对方留下指令，并因此改变接收方的行为。
Ars Technica · AIAI 评分2020 RFK Jr. 称 AI 将让人类摆脱医学事实与专业知识的"暴政"
美国卫生与公众服务部长 RFK Jr. 认为 AI 将把人类从医学事实与专业知识的"暴政"中解放出来。文章指出 AI 远非完美资源，但其模型幻觉似乎比 Kennedy 本人的言论更少。
MIT Technology Review · AIAI 评分1212 HPE：当 AI 进入生产环境，如何让 AI 从支出变成资产
HPE 提出，当 AI 从试验走向客服、IT、研究等常驻生产工作负载，按 token 逐次消费的模式会让支出难以预测，企业需评估自身在何种持续用量下自建容量比按请求购买更经济。
Latent SpaceAI 评分6262 Anthropic 的 Thariq 谈 Claude Code 下一阶段：Claude Mods、可变软件与智能体安全
Anthropic 的 Thariq Shihipar 在 Latent Space 播客中谈 Claude Code 的下一阶段，包括可自定义 harness 的 Claude Mods、Claude Tag 与 Projects 的多智能体协作，以及 artifacts 作为持久生成式界面。
MIT Technology Review · AIAI 评分3838 MIT Technology Review 圆桌讨论：虚拟边境墙的致命失效
MIT Technology Review 的一项调查记录了超过一千人在美国南部边境监控塔覆盖区域内未被发现或拦截并最终死亡，其中部分区域由新部署的 AI 监控塔自动识别人员。
Simon WillisonAI 评分4242 OpenAI 智能体安全负责人 @joedaroo 谈 AI 能力突跳带来的安全挑战
OpenAI 智能体安全负责人 @joedaroo 表示，模型在“cyber”“swarming”“message boards”等相关能力上出现的能力跃升之突然，令团队始料未及。