Hark 发布主打隐私的 AI 个人助理 Hark Pro
创业公司 Hark 正式发布 AI 个人助理 Hark Pro,用户可免费使用,重度用户可订阅付费档。该产品基于专门为电脑操作训练的模型,可接入邮件、日历、硬盘、信用卡等数字生活数据并代为执行任务,界面为全屏主页加聊天框、操作提示流和名为 panels 的迷你仪表盘。
创业公司 Hark 正式发布 AI 个人助理 Hark Pro,用户可免费使用,重度用户可订阅付费档。该产品基于专门为电脑操作训练的模型,可接入邮件、日历、硬盘、信用卡等数字生活数据并代为执行任务,界面为全屏主页加聊天框、操作提示流和名为 panels 的迷你仪表盘。
苹果正研发一款不保存视频录像的智能家居摄像头,改用 AI 将视觉数据转为描述家中情况的文本片段,并支持人脸识别;Google 可穿戴设备负责人 Sandeep Waraich 也提出智能眼镜摄像头可只做图像传感器、不保存任何画面。苹果称 Audio Intelligence 功能不录制音频,原始数据在 S11 处理器安全隔离区处理完后即删除。
一款命令行工具能从 macOS 27 中快速移除 Apple Intelligence,并释放超过 12GB 存储空间。
本地 Qwen3.8-27B-Q4_K_M.gguf 在禁用推理时做英文单词加法仅得 23.57% 数值准确率,格式合规率 96.17%,但一至三位数操作数准确率 97.04%,十至十三位数骤降至 6.44%。启用推理后 169 次配对测试中答对 167 次。该实验在 DGX Spark 上复现 GPT-4o 两年前的同类测试。
开源命令行工具 RemoveMacAI 可一键关闭 Apple Intelligence 功能、删除其本地模型并阻止 macOS 重新下载,释放约 12GB 空间。
挪威正着手对可录制旁观者的 AI 眼镜展开政府层面的监管行动,希望争取时间制定永久性规则。这是此类 AI 眼镜首次面临重大政府监管压力。
Meta 宣布开源项目 Muse Gadgets,提供 ESP32 开发板固件和 Linux SDK,让爱好者把自制设备接入其 AI 智能体 Muse,代码采用 Apache 2.0 许可,并设有 Discord 社区讨论。
Meta 开源了相关代码,允许用户自制搭载其新 AI 智能体 Muse 的硬件设备。Meta 建议的项目包括把 Muse 装到彩色 E Ink 屏上显示提醒、装到 HDMI 棒上投到大屏,或装到小尺寸触屏设备上做成类似 DIY Muse Charm 的形态;用户可用现成的 ESP32 开发板或 Raspberry Pi 配合其 SDK 接入显示屏、按钮、传感器和执行器。
Google 发布新一代联邦学习系统,用可信执行环境(TEE)为数据匿名化提供可验证、可审计的保证,Gboard 已采用该系统上线英语和日语下一词预测模型,隐私保证更强且准确率提升。
推荐理由:Google 公布基于 TEE 的新一代联邦学习系统设计,并给出 Gboard 已上线的实际部署效果。
2019 年发布的 Nvidia Shield TV Pro 现零售价涨至 299.99 美元,较此前贵了 100 美元,涨价原因与 AI 相关。
NVIDIA 将于 10 月 23 日通过 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 推出 64GB 统一内存版 DGX Spark,起售价 4,999 美元,保留 GB10 Grace Blackwell 超级芯片、DGX OS 和完整 NVIDIA AI 软件栈,可本地运行最高 1000 亿参数模型。
推荐理由:原文给出 64GB 新配置的售价、上市时间与双机集群性能数据,读者可据此判断本地跑大模型的成本与扩展方式。
Simon Willison 用 GPT-6 Astra 构建了实验性工具 Photo Scrubber,可自动识别人脸并模糊处理。该工具基于 Google 的 MediaPipe C++ 库,通过 @mediapipe/tasks-vision 编译为 WebAssembly,并使用 BlazeFace 人脸检测模型,全程在本地运行。
Hugging Face 在 transformers 中加入 GGUF 支持,用户可从 Hub 选取 GGUF 检查点,通过 from_pretrained 传入 gguf_file 在本地加载并生成。
推荐理由:Hugging Face 官方说明 transformers 接入 GGUF 的加载方式与性能对比,可据此判断本地推理工作流的变化。
oMLX 作者兼维护者 Jun Kim 加入 Hugging Face,继续主导 oMLX 并支持 MLX 社区。oMLX 由此从副业转为全职维护且获资金支持的项目,仍保持 Apache 2.0 开源许可。Hugging Face 计划让 oMLX 成为新想法的试验场,并简化 transformers 模型定义到 MLX 参考实现的转换流程。
Google Research 提出 PhotoScan,一个可从普通 2D 手机照片估算体脂率、Android-to-Gynoid 脂肪比(A/G)和 Visceral-to-Subcutaneous 脂肪面积比(V/S)的深度学习框架。
Google DeepMind 发布多语言手语转文本模型 SL2T,并在 Pixel 11 的 Gboard 和 Live Transcribe 中上线手语听写功能,首批支持美国手语(ASL)转英文。
推荐理由:官方披露了 SL2T 的训练规模、手语到文本的翻译路径与隐私处理方式,可了解手语 AI 从实验室进入消费产品的技术取舍。
Google Research 发布一种新架构,将多 Token 预测(MTP)头挂接到已冻结的 Gemini Nano v3 模型上,在 Pixel 9 和 10 系列上实现开箱即用的加速。
推荐理由:Google 把 MTP 头挂到冻结的 Gemini Nano v3 上,读者可了解端侧推理在内存与能耗约束下的具体优化路径。
Google DeepMind 发布 Gemma 4 12B,一款面向笔记本电脑的智能体多模态模型,介于边缘端 E4B 与 26B MoE 之间,可在 16GB VRAM 或统一内存上本地运行。
推荐理由:Gemma 4 12B 用无编码器架构把多模态能力压到 16GB 显存,读者可据此判断本地智能体的可行边界。
Google Research 在 Nature 发表研究,提出 PHRM 系统,利用手机前置摄像头在面部解锁后的数秒内拍摄视频,通过深度学习在后台估算心率与静息心率。
推荐理由:Google 用手机前摄在解锁后被动测心率,并公开迄今最大规模手机视频数据集与预训练模型。
H Company 发布 Holo3.1 系列 computer-use 模型,基于 Qwen 家族,覆盖 0.8B、4B、9B 和 35B-A3B 四种尺寸,并首次提供 FP8、Q4 GGUF 和 NVFP4 量化权重用于本地推理。
推荐理由:Holo3.1 给出跨环境、跨框架与本地量化部署的具体数据,可据此判断 computer-use 智能体在端侧落地的可行性。
Google 发布一套面向隐私分析的零信任聚合方案,将新型单次消息加密聚合协议与 TEE 结合,设备无需多轮在线即可提交数据。该设计使原始数据在任何服务器内存中都不会被暴露或重建,仅在数据完成聚合并匿名化后才在设备外处理明文,并借助 TEE 远程认证向参与者证明协议按公开代码正确执行。
Hugging Face 为 Reachy Mini 推出完全本地化的语音对话方案,基于其 speech-to-speech 级联管线(VAD → STT → LLM → TTS),无需云端和 API key。
Hugging Face 发布 Transformers.js 浏览器扩展教程,演示如何在 Manifest V3 约束下用 Gemma 4 E2B 构建本地 AI 功能。
Google DeepMind 发布 Gemma 4 开源模型家族,包含 E2B、E4B、26B MoE 和 31B Dense 四个尺寸,采用 Apache 2.0 许可。
推荐理由:Gemma 4 以四个尺寸覆盖端侧到工作站,并给出 Apache 2.0 许可与首日工具支持,读者可据此判断本地部署与微调的选择空间。
Google DeepMind 的 Gemma 4 多模态模型家族已在 Hugging Face 上线,采用 Apache 2 许可,支持图像、文本和音频输入并生成文本,共五个尺寸:E2B、E4B、12B Unified、31B 和 26B A4B。
推荐理由:Gemma 4 五档尺寸与 12B 无编码器统一多模态的架构取舍,为端侧多模态选型提供了具体参照。
Hugging Face 博客发布 NXP 的嵌入式机器人 AI 实践指南,覆盖数据集录制、VLA 策略微调(ACT 与 SmolVLA)及端侧优化。NXP 以"把茶包放进杯子"任务录制 120 个 episode,将机械臂工作空间划分为 11 个 10×10 cm 聚类,并推荐使用夹爪相机提升精细操作成功率。指南还介绍了 NXP i.MX 95 SoC 经优化后实现的实时性能。
Transformers.js v4 已在 NPM 发布,可通过 npm i @huggingface/transformers 安装,距 2025 年 3 月启动开发约一年。
推荐理由:官方给出 v4 的 WebGPU 运行时重写、构建提速与包体积变化,可据此判断浏览器端推理的工程收益。
Google Research 在 EMNLP 2025 发表的论文提出一种分解式工作流,先由小多模态 LLM 逐屏总结用户交互,再从摘要序列中提取意图,在移动端和网页轨迹上均优于 CoT 提示和端到端微调。该方法用 Gemini 1.5 Flash 8B 即达到 Gemini 1.5 Pro 的相当效果,成本与速度仅为后者一小部分,适用于端侧部署。
Google 研究团队提出基于时序卷积网络(TCN)的多头深度学习模型,仅凭单只 Pixel Watch 的 IMU 信号和用户身高,即可直接估算步速、步长、摆动时间、支撑时间等多项步态指标。在 246 名参与者、约 7 万个步行片段的大规模验证中,手表估算在多数指标上达到 Pearson r >0.80、ICC >0.80,与 Pixel 6 手机估算无显著差异(p >0.05)。
Mistral 发布 Mistral 3 系列,包括 14B、8B、3B 三个小尺寸稠密模型和迄今最强的 Mistral Large 3,后者为稀疏 MoE 架构,41B 激活参数、675B 总参数,全部以 Apache 2.0 许可开源。
推荐理由:Mistral 3 一次性放出从 3B 到 675B 的 Apache 2.0 权重,读者可据此判断开源模型在端侧与前沿两端的当前水位。
AnyLanguageModel 发布,这是一个 Swift 包,作为 Apple Foundation Models 框架的替代方案,支持多种模型提供方。
推荐理由:原文给出统一 API 与多后端接入方式,读者可据此判断 Apple 平台本地与云端模型集成成本的变化。
Google Research 发布端到端语音到语音翻译(S2ST)模型,直接生成译文音频并保留原说话人音色,延迟从级联方案的 4–5 秒降至 2 秒。该模型基于 AudioLM 框架和 Transformer 模块,采用流式编码器与解码器,并用时间同步数据管线训练,音频以 RVQ token 表示,100 ms 片段约需 16 个 token。
推荐理由:Google 端到端语音翻译把延迟从 4–5 秒压到 2 秒,并已落地 Meet 与 Pixel 10,可据此判断实时同传的可用边界。
Google Research 提出可证明隐私洞察(PPI),结合 LLM、差分隐私(DP)与可信执行环境(TEE),在保证个体数据不可被查看、聚合结果匿名的前提下分析 GenAI 工具的使用情况。
推荐理由:Google 把 LLM、差分隐私与 TEE 组合成可外部验证的隐私分析流程,读者可了解端侧数据洞察的工程路径。
IBM 发布 Granite 4.0 家族中最小的一批模型 Granite 4.0 Nano,包含 4 个 instruct 模型及对应 base 版本,参数规模为 ~350M 和 ~1.5B,采用 hybrid-SSM 与 Transformer 两种架构,以 Apache 2.0 许可开源并原生支持 vLLM、llama.cpp 和 MLX。
Hugging Face 发布教程,介绍用 Optimum Intel 和 OpenVINO 在 Intel CPU 上三步本地运行 SmolVLM2-256M-Video-Instruct 视觉语言模型,无需 GPU。第一步将模型转换为 OpenVINO IR,第二步用 8-bit 权重量化或静态量化压缩模型,第三步执行推理,并可通过 device="gpu" 在 Intel GPU 上加载。
Arm 将于 10 月 22-23 日参展 PyTorch Conference,展示基于 PyTorch 和 ExecuTorch 的 AI 应用开发与部署方案。
Hugging Face 博客发布三部分系列文章,记录如何将 RedNote 的 3B 参数 OCR 模型 dots.ocr 转换到端侧运行,组合使用 Core ML 跑视觉编码器和 MLX 跑 Qwen2.5-1.5B 语言模型主干。
推荐理由:记录了把 3B OCR 模型从 PyTorch 转换到 Core ML 的完整排错过程,对端侧部署有可迁移的参考价值。
Hugging Face 用 OpenVINO.GenAI 在 Intel Core Ultra 上为 Qwen3-8B 智能体做推测解码加速,以 Qwen3-0.6B 为草稿模型先取得约 1.3× 提速,再通过剪掉 28 层中的 6 层并用 Qwen3-8B 生成的合成数据微调,将提速提升至约 1.4×。
Hugging Face 的 Swift 库 swift-transformers 发布 1.0,为 Apple Silicon 平台本地模型开发提供 Tokenizers、Hub 及 Core ML 模型推理组件。
Google 发布 EmbeddingGemma,一款面向端侧场景的多语言嵌入模型,308M 参数、2K 上下文窗口,支持 100 多种语言,量化后内存占用低于 200 MB。
推荐理由:308M 参数、2K 上下文、支持 100 多种语言,读者可据此判断端侧 RAG 与多语言检索的落地空间。