跑在手机、电脑与边缘设备上的 AI：小模型、本地推理与端侧芯片的进展。
NVIDIA RTX Spark 笔记本已上市，搭载 Blackwell RTX GPU 与 Grace CPU，最高 1 petaflop AI 算力和 128GB 统一内存，起售价 2399 美元。华硕、戴尔、惠普、联想、微软和微星首批推出该机型，NVIDIA 在北京、柏林、首尔、旧金山、台北和伊斯坦布尔等地举办上市活动，黄仁勋在柏林现场现身。
推荐理由：原文给出 RTX Spark 笔记本的规格、起售价和上市渠道，读者可据此判断本地 AI 的硬件门槛。
Meta 发布 Muse Spark Open 模型，称其是迄今能力最强的美国开放权重模型，也是同类中首个能在两台搭载最新 MLX 框架的 Apple M5 Ultra Mac Studio 上桌面运行。
推荐理由：Meta 与 Apple 罕见合作，让 816B 参数开源模型可在两台 Mac Studio 上本地运行，可观察端侧大模型的部署边界。
NVIDIA 发布 RTX Spark，一款面向创作者、游戏玩家和 AI 智能体的 Windows PC，并将于 10 月 16 日在旧金山、柏林、台北、北京、伊斯坦布尔、首尔等地举办发布活动。
推荐理由：NVIDIA 官方公布 RTX Spark 面向本地 AI 的定位与全球发布活动，并汇总多家评测对性能的初步反馈。
NVIDIA 发布 Nemotron 3.5 Super VL，这是一个 120B 参数开放模型，面向常驻智能体任务，官方称其多模态智能体任务准确率与自家最大推理模型相当，参数量约为其五分之一，吞吐量最高为同类模型的 5 倍。
推荐理由：NVIDIA 一次放出三款覆盖数据中心到端侧的开放模型，并给出参数、量化与部署入口，便于判断本地智能体的选型空间。
Google DeepMind 与新加坡政府科技局（GovTech）合作，基于轻量级 Gemma 模型微调出可在普通智能手机上运行的端侧诈骗检测模型，用于识别冒充公共机构、银行和本地人物的诈骗对话。
推荐理由：原文给出了端侧诈骗检测的两阶段流水线与治理约束，读者可据此判断隐私与安全如何兼顾。
Liquid AI 发布 LFM2.5-24B-A2B，一个 24B 参数、每 token 仅激活 2B 的推理模型，面向端侧私有智能体，会先思考再作答并调用工具。
推荐理由：Liquid AI 给出 24B-A2B 的端侧推理速度与智能体基准对比，可据此判断本地智能体的可行边界。
NVIDIA 宣布 RTX Spark 笔记本将于 10 月 16 日上市，最高 128GB 统一内存、1 petaflop AI 算力，并同步推出面向本地智能体的软件与模型更新。
推荐理由：NVIDIA 官方一次性列出 RTX Spark 首发时的本地智能体、模型与开发工具清单，可据此判断端侧 AI 工作流的可用边界。
在旧金山微软 Windows AI 与 Surface 活动上，NVIDIA 与微软宣布为 Windows PC 上的 AI 智能体共同设计软硬件，并开放 RTX Spark 笔记本预售，10 月 16 日开售，紧凑型台式机 11 月上市。
推荐理由：英伟达与微软把智能体运行所需的系统级容器和本地算力硬件一起端上桌面，读者可据此判断本地跑大模型的门槛变化。
Liquid AI 发布 d1 决策模型家族的两款开源权重模型 d1-3B 和 d1-omni-600M（实验性）。
推荐理由：Liquid AI 开源两款决策模型，给出端侧延迟与七项基准对比，可据此判断小模型做结构化决策的可行性。
Google DeepMind 发布 EmbeddingGemma 2，一个基于 Gemma 4 架构、Apache 2.0 许可的开源多模态嵌入模型，参数量 740M，可把文本、图像、音频和视频映射到统一嵌入空间。
推荐理由：官方给出 740M 参数、模块化编码器与量化后内存占用等细节，可据此判断端侧多模态检索的落地边界。
Google 发布新一代联邦学习系统，用可信执行环境（TEE）为数据匿名化提供可验证、可审计的保证，Gboard 已采用该系统上线英语和日语下一词预测模型，隐私保证更强且准确率提升。
推荐理由：Google 公布基于 TEE 的新一代联邦学习系统设计，并给出 Gboard 已上线的实际部署效果。
NVIDIA 将于 10 月 23 日通过 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 推出 64GB 统一内存版 DGX Spark，起售价 4,999 美元，保留 GB10 Grace Blackwell 超级芯片、DGX OS 和完整 NVIDIA AI 软件栈，可本地运行最高 1000 亿参数模型。
推荐理由：原文给出 64GB 新配置的售价、上市时间与双机集群性能数据，读者可据此判断本地跑大模型的成本与扩展方式。
Hugging Face 在 transformers 中加入 GGUF 支持，用户可从 Hub 选取 GGUF 检查点，通过 from_pretrained 传入 gguf_file 在本地加载并生成。
推荐理由：Hugging Face 官方说明 transformers 接入 GGUF 的加载方式与性能对比，可据此判断本地推理工作流的变化。
Google DeepMind 发布多语言手语转文本模型 SL2T，并在 Pixel 11 的 Gboard 和 Live Transcribe 中上线手语听写功能，首批支持美国手语（ASL）转英文。
推荐理由：官方披露了 SL2T 的训练规模、手语到文本的翻译路径与隐私处理方式，可了解手语 AI 从实验室进入消费产品的技术取舍。
Google Research 发布一种新架构，将多 Token 预测（MTP）头挂接到已冻结的 Gemini Nano v3 模型上，在 Pixel 9 和 10 系列上实现开箱即用的加速。
推荐理由：Google 把 MTP 头挂到冻结的 Gemini Nano v3 上，读者可了解端侧推理在内存与能耗约束下的具体优化路径。
Google DeepMind 发布 Gemma 4 12B，一款面向笔记本电脑的智能体多模态模型，介于边缘端 E4B 与 26B MoE 之间，可在 16GB VRAM 或统一内存上本地运行。
推荐理由：Gemma 4 12B 用无编码器架构把多模态能力压到 16GB 显存，读者可据此判断本地智能体的可行边界。
Google Research 在 Nature 发表研究，提出 PHRM 系统，利用手机前置摄像头在面部解锁后的数秒内拍摄视频，通过深度学习在后台估算心率与静息心率。
推荐理由：Google 用手机前摄在解锁后被动测心率，并公开迄今最大规模手机视频数据集与预训练模型。
H Company 发布 Holo3.1 系列 computer-use 模型，基于 Qwen 家族，覆盖 0.8B、4B、9B 和 35B-A3B 四种尺寸，并首次提供 FP8、Q4 GGUF 和 NVFP4 量化权重用于本地推理。
推荐理由：Holo3.1 给出跨环境、跨框架与本地量化部署的具体数据，可据此判断 computer-use 智能体在端侧落地的可行性。
Google DeepMind 发布 Gemma 4 开源模型家族，包含 E2B、E4B、26B MoE 和 31B Dense 四个尺寸，采用 Apache 2.0 许可。
推荐理由：Gemma 4 以四个尺寸覆盖端侧到工作站，并给出 Apache 2.0 许可与首日工具支持，读者可据此判断本地部署与微调的选择空间。
Google DeepMind 的 Gemma 4 多模态模型家族已在 Hugging Face 上线，采用 Apache 2 许可，支持图像、文本和音频输入并生成文本，共五个尺寸：E2B、E4B、12B Unified、31B 和 26B A4B。
推荐理由：Gemma 4 五档尺寸与 12B 无编码器统一多模态的架构取舍，为端侧多模态选型提供了具体参照。