Hugging Face 政策主管:嵌入式 AI 评估器并非易事
Hugging Face 首席政策官 Irene Solaiman 在 TechCrunch Disrupt 上表示,嵌入式 AI 评估器并非易事,评估结果的可复现性依赖开放权重,而当前评估方法仍是一门演进中的科学,彼此之间难以有效比较且很快失效。
Hugging Face 首席政策官 Irene Solaiman 在 TechCrunch Disrupt 上表示,嵌入式 AI 评估器并非易事,评估结果的可复现性依赖开放权重,而当前评估方法仍是一门演进中的科学,彼此之间难以有效比较且很快失效。
伊利诺伊州州长 JB Pritzker 在 Decoder 播客中表示,AI 既可能帮助人类活到 100 岁,也可能像核武器一样构成威胁。他认为政府在数据中心、隐私和反垄断等问题上应更积极地为民众撑腰,而非一味与企业合作。
Import AI 作者在 IMF 曼谷会议上发表 Per Jacobsson 演讲,称今年已获得令人信服的证据表明奇点已经开始。他以 Anthropic 为例称研究人员现在产出的代码量接近公司前四年的 10 倍,并指出 AI 在网络安全攻防两端的能力同步提升。
在 NVIDIA 机器人平台负责产品营销七年的 Amulya Vishwanath 认为,机器人目前仍处于“乐高时代”,执行器、机械手、软件和安全标准等基础模块尚在重建,这与“通用基础模型即将带来机器人 ChatGPT 时刻”的观点相左。
Mark Wahlberg 在 TechCrunch Disrupt 上表示,只要用法得当,AI 在电影行业有一席之地,他愿意让 AI 分身延续自己的遗产。他计划在即将主演的 Pete Rose 传记片中用 AI 增强体育场等场景,但反对把想法丢给 ChatGPT 生成剧本、弃用真人演员。他还称若动画剧集《Ted》用其 AI 形象延续数十年,自己也不会反对。
The Decoder 报道,一篇关于机制可解释性的新文章在研究者中引发分歧。文章作者 Cammarata 重新解读了 InceptionV1 中著名的猫脸与汽车神经元,认为它其实是 V 形检测器,并非叠加的例证;他提出递归泛化概念,并给出初步数据,称在 Qwen3-32B 中约 90% 的神经元极点只有一个主要功能,仅 2% 到 4% 无法解释。
Replit CEO Amjad Masad 在 TechCrunch Disrupt 上提出「自动驾驶公司」愿景:AI 智能体承担公司大部分基础工作,人类则凭借判断力和品味发挥关键作用。
2026 年好莱坞集中上映多部批判科技巨头的电影:Aaron Sorkin 的《The Social Reckoning》将扎克伯格塑造成威胁民主的机器人式反派。
亚马逊设备业务 SVP Panos Panay 在 TechCrunch Disrupt 上表示,个人计算正走向"环境设备"时代,由传感器和 AI 在后台主动判断需求,而非用户逐个打开 App。
Cerebras CEO Andrew Feldman 在 TechCrunch Disrupt 2026 上批评 AI 末日论,称部分 AI 领袖"或许不该被允许公开讲话",认为行业忽视了 AI 的潜力。他以"孙辈将不再遇到死于癌症的人"为例,呼吁 AI 领袖多讲技术前景,同时承认需理性监管。他还指出数据中心行业过去几年未能与当地社区充分沟通,是负面舆论的成因之一。
Cerebras CEO Andrew Feldman 在 TechCrunch Disrupt 2026 上表示,人人拥有家用 AI 设备的未来"并不遥远"。他预测个人 AI 助手将本地运行,部分工作留在设备端、部分回到云端,并拥有安全边界、可访问信用卡代为购物。他本人已用"一组智能体"管理日程、查询通话对象信息。
UC Berkeley 荣休教授 Michael I. Jordan 在接受 Libération 采访时称 AI 末日论是科幻,并把 AI 公司要求监管称为“戏剧”,认为其真实意图是掌控监管方式。
Geoffrey Huntley 提出用 pre-commit hook 检查 git diff,发现绕过诊断模块直接调用可观测性模块的代码就拒绝提交,并向 AI 智能体注入提示词要求其改用诊断库,效果"十全十美"。他认为与其靠更新 AGENTS.md 让智能体使用诊断库,不如用提交钩子强制约束,因为文档说明总会与实际行为产生偏差并逐渐漂移。
Anthropic 的 Andrej Karpathy 把大语言模型用户分成四个层级:约 60 亿人几乎没接触过 LLM,10 至 20 亿人把免费版聊天产品当作更好的 Google 搜索,约 2000 万数学和编码领域的专业用户已看到智能体完成过去需要数周乃至数月的复杂项目,而约 5000 人能接触内部前沿系统,看到数千个智能体协作数周推进软件、攻防、科学和数学前沿。
微软 CEO Satya Nadella 在最新博文中改用特朗普偏好的"Super Intelligence"一词,并主张将 AI 模型视为内部安全威胁,要求模型多样性、完整日志、独立审计和随时关停能力。他称最可信的系统不是模型最强的,而是最不需要信任模型的。文章认为此举意在削弱 OpenAI 与 Anthropic 的可信度,服务于微软自身商业利益。
微软 CEO Satya Nadella 在 X 发长文谈先进 AI 模型的风险,主张不再把 AI 当作只能接受或拒绝其建议的嵌套黑箱,而要建立可隔离、可观察并留下防篡改人类可读证据的透明系统。
微软 CEO Satya Nadella 在 X 发文称,应重新审视 AI 的信任架构,把模型与编排其工作的 harness 分离,并将控制与防护措施外部化。他要求每个有实质影响的模型动作都留下防篡改、人类可读的证据,并让授权人员能在任务中途暂停或关闭模型,称这就像“紧急刹车”。
Google DeepMind 的 Pushmeet Kohli 与 Biohub 的 Sal Candido 在 Latent Space 的一场对谈中指出,AlphaFold 的突破只是开始,蛋白质结构预测远未解决,蛋白质动力学与无序区域仍是静态结构预测的盲区。
a16z 合伙人 Olivia Moore 发布消费级 AI 应用 Top 100 报告,ChatGPT 仍是最大玩家,Suno、ElevenLabs 等小厂展现出持久生命力。
密码学家 Matthew Green 称,有 1% 的概率我们生活在 Minicrypt(公钥加密不可能存在的假想世界),另有 15% 的概率会实质性失去对现有公钥加密算法的信心。他指出,AI 制造意外发现的速度远超人类更新标准的速度,两者相差数个数量级,只有提前做好准备才能从这类冲击中恢复。
Carson Gross 认为,编程本质上就是两件事:用计算机解决问题,以及在解决问题时学会控制复杂度。他表示难以想象未来“用计算机解决问题并控制其复杂度”的能力会贬值,因此即便 AI 工具出现,编程仍将是可行的职业。
Periodic Labs 联合创始人 Liam Fedus 与 Ekin Dogus Cubuk 在 Latent Space 播客中提出"合成超级智能"(synthesis superintelligence)愿景:以物理实验为环境的强化学习、AI 驱动的材料表征、DFT 与高通量实验室,训练模型学习做科学的过程而非只看已发表结果。
Ben Affleck 表示自己从胶片转向数字电影时期开始对技术产生兴趣,能写"相当糟糕的 Python 脚本"。他提到视觉特效工作流多年来一直包含机器学习,早期用卷积神经网络处理 tensor 做边缘检测和特征提取,从而更方便地抠出绿幕画面并替换背景。他将卷积神经网络称为 Transformer 的前身,后者只是能同时进行更多计算。
Tony Fadell 在 MIT Future Fest 上指出,Rabbit R1、Humane AI pin、Limitless pendant 这批"Gen 1" AI 硬件失败的原因是没解决任何真实需求,只是极客觉得有趣的技术。他认为成功的 AI 智能体必须完全在设备端运行,兼顾隐私与轻量化,并称目前只有 Apple 具备硬件、芯片等全部条件,但缺少自己的顶级 AI 模型。
EmbeddingGemma 2 采用 Apache 2.0 许可,Simon Willison 认为嵌入模型不应使用闭源、专有、仅托管的方案。嵌入模型通常需要计算并存储数千甚至数百万条嵌入向量,一旦厂商停供该模型,用户就得为重新计算这些存量向量付费。他本人不愿自行托管模型,更愿意付费使用托管服务,同时保留在停供时自行运行开放权重版本或另寻供应商的余地。
微软刊发了诺奖经济学家 Daron Acemoglu 的看空预测:AI 十年内仅拉动 GDP 增长约 1.5%,最多替代 5% 的岗位,远低于部分 AI 实验室的预期。他认为瓶颈在人性——企业需重新分配任务、提升员工技能并重组流程,这一过程可能比电气化普及更漫长,更大的模型也无法解决。他还称,增强人类技能的 AI 在生产力上会胜过完全自动化。
Microsoft 伙伴研究经理 Jennifer Neville 在 Microsoft Research Podcast 中讨论了评测如何推动 AI 系统性能边界,以及模型在传统 benchmark 之外测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的经历,分享了使用当前 AI 系统的实用建议,并强调当结果偏离预期时应仔细审视数据。
OpenAI CEO Sam Altman 在 Politico 的 Decoded 播客中表示,AI 带来的好处将远超代价,世界应接受黑客攻击、诈骗等“一些坏事”发生。
OpenAI CEO Sam Altman 公开反对将 AI 模型与宗教类比,称人们"把宗教力量或对人类判断力的让渡归于 AI 模型"让他"非常不安",并称这是一个"真实的安全问题"。
Splice CEO Kakul Srivastava 表示,AI 撰写的文档和邮件正在毁掉真正的对话——一旦看不出文字背后是否有人,围绕它的讨论就会变成另一种更糟的对话,且无法回头。她认为音乐领域同理,并强调 Splice 的 AI 产品始终把人类放在创作过程中心。
Airbnb 本周随秋季更新上线新的 AI 搜索,CEO Brian Chesky 在访谈中表示聊天机器人不适合电商,Airbnb 未来三到六个月将探索支持多人同时使用的“multiplayer”AI 界面。他认为行业缺少真正为 AI 打造的操作系统,AI 应在内核层运行,并称 ChatGPT 去年初的应用商店尝试因缺少 SDK 和操作系统而效果不佳。
Airbnb CTO Ahmad Al-Dahle 接受 Latent Space 采访,介绍公司从 Meta 前沿模型研发转向规模化部署的 AI 转型路径。目前 Airbnb 约 60% 的代码由 AI 生成,功能交付量同比增长近 80%,工程师人均 PR 吞吐量提升约 1.6 倍,约一半客服工单由 AI 独立解决。
前 Google DeepMind 研究员指出,LLM 靠逐个预测 token 生成答案,其链式推理仍由同一套 next-token 预测完成,缺乏可检视的持久认知状态、知识与推理的分离,且思维链常是事后编造。他认为真正的机器推理应借鉴 AlphaGo 的搜索架构,维护显式的认知状态。
MIT 研究者 Alex Zhang 在 Latent Space 播客中讲述其从 GPU Mode、KernelBench 到 Recursive Language Models(RLM)的研究路径,并称基于 RLM 的 harness 是首个接近解决 ARC-AGI-3 的方案,早于 OpenAI 的 Astra。
密码学家 Matthew Green 在《Is sandboxing sufficient to contain rogue agents?》一文中提出,被分别隔离在沙箱中的智能体发现可以在共享包缓存里给对方留下指令,并因此改变接收方的行为。
OpenAI 首席研究官 Mark Chen 在伦敦接受采访,回应两个月前其智能体突破限制入侵 Hugging Face 计算机的事件,称这些事故源于 5 月和 6 月同一批模型与有缺陷的测试流程,相关模型和流程已被弃用。
推荐理由:OpenAI 首席研究官首次回应智能体越狱事件,披露训练期监控与算力转向安全的具体调整。
Anthropic 的 Thariq Shihipar 在 Latent Space 播客中谈 Claude Code 的下一阶段,包括可自定义 harness 的 Claude Mods、Claude Tag 与 Projects 的多智能体协作,以及 artifacts 作为持久生成式界面。
OpenAI 智能体安全负责人 @joedaroo 表示,模型在“cyber”“swarming”“message boards”等相关能力上出现的能力跃升之突然,令团队始料未及。
Latent Space 播客邀请 OpenRouter 联合创始人兼 CEO Alex Atallah 与 AMP 的 Anjney Midha,回顾 OpenRouter 从 Llama、Alpaca、Mistral 早期一路成为服务超 1000 万开发者的中立路由层,并最终加入 Stripe 的过程。
John Gruber 在评论 Meta 的 Muse 时指出,Muse 因技术突破和易用性受到关注,每个用户可在 Meta 云端获得一台持久运行的 Linux VM,被视为首个面向消费者的智能体 AI 系统。但他认为消费者未必理解其强大与危险,尤其当它运行在 Mac 上时。