TimeScope:你的视频大模型能看多长的视频?
Hugging Face 开源长视频理解基准 TimeScope,通过在 1 分钟至 8 小时的视频中插入 5-10 秒的"针"片段,评测模型的局部检索、信息综合与细粒度时序感知三项能力。测试显示,包括 Gemini 2.5-Pro 在内的领先视觉语言模型在真正的长视频任务上仍表现吃力,性能随视频变长明显下滑。
Hugging Face 开源长视频理解基准 TimeScope,通过在 1 分钟至 8 小时的视频中插入 5-10 秒的"针"片段,评测模型的局部检索、信息综合与细粒度时序感知三项能力。测试显示,包括 Gemini 2.5-Pro 在内的领先视觉语言模型在真正的长视频任务上仍表现吃力,性能随视频变长明显下滑。
Mistral 为 Le Chat 上线一批新功能,包括预览版 Deep Research 模式、由新语音模型 Voxtral 驱动的语音模式、由推理模型 Magistral 支持的多语言推理、用于整理对话的 Projects,以及与 Black Forest Labs 合作的高级图像编辑。
推荐理由:官方一次性公布 Le Chat 的深度研究、语音、推理与图像编辑多项能力,可据此判断其产品路线与可用入口。
Hugging Face 与 Pollen Robotics 发布开源机器人 Reachy Mini,Lite 版 399 美元、带 Raspberry Pi 4 与电池的 Compute 版 499 美元,均需另付税费和运费,预计约 90 天发货。
推荐理由:Reachy Mini 给出了开源硬件规格、两档价格与 Hugging Face 行为库入口,可据此判断桌面机器人开发门槛。
Hugging Face 以 nanoVLM 项目为例,展示如何用五阶段构建高效多模态数据管道,解决 GPU 空转与填充浪费问题。朴素填充阶段约 60% 的 batch 被空 token 占用,随后通过约束填充、背包算法打包和 ConstantLengthDataset 逐步优化。
Hugging Face 发布 SmolLM3,一个完全开源的 3B 模型,在 11T token 上训练,支持 think/no_think 双模式推理、6 种语言和最长 128k 上下文。该模型在 3B 规模上超越 Llama-3.2-3B 和 Qwen2.5-3B,并与 Qwen3、Gemma3 等 4B 模型竞争。团队同时公开了预训练、中训练、后训练及合成数据生成的完整配方和数据集。
推荐理由:Hugging Face 公开了 SmolLM3 的完整训练配方与数据配比,读者可据此复现或改进 3B 级小模型。
NVIDIA 发布 Llama Nemotron Nano VL,一个基于 Llama-3.1-8B-Instruct 和 C-RADIOv2-VLM-H 视觉编码器的 8B 视觉语言模型,面向发票、合同等复杂文档的 OCR 与信息抽取,已在 Hugging Face 上线并可通过 NVIDIA NIM API 调用。
Gemma 3n 正式在 transformers、timm、MLX、llama.cpp、transformers.js、ollama 和 Google AI Edge 等主流开源库中可用,发布 gemma-3n-E2B 与 gemma-3n-E4B 两个尺寸,各有 base 和 instruct 两个版本。
推荐理由:原文给出 Gemma 3n 在主流开源库的落地方式与端侧内存占用,读者可据此判断本地多模态部署的可行性。
Hugging Face 发布 ScreenSuite,一个面向 GUI Agent 的综合评测套件,统一整合了 13 个基准,覆盖感知、定位、单步动作和多步智能体四类能力。
推荐理由:Hugging Face 开源 GUI Agent 评测套件,统一 13 个基准并支持 Docker 本地部署,可据此判断视觉语言模型的智能体能力。
H Company 发布 Holo1 系列 Action VLM 和 WebClick 多模态定位基准,Holo1 包含 3B 与 7B 两个版本,基于 Qwen2.5-VL 架构,7B 版本在常见 UI 定位基准上平均准确率达 76.2%。
推荐理由:Holo1 开源了 GUI 定位模型与 WebClick 基准,并给出 Surfer-H 在 WebVoyager 上的成本与准确率数据,便于评估网页自动化方案。
Hugging Face 发布 nanoVLM,一个用纯 PyTorch 训练视觉语言模型(VLM)的轻量工具包,可在免费 Colab 上启动训练,灵感来自 nanoGPT。
推荐理由:Hugging Face 开源 nanoVLM,用纯 PyTorch 和可读代码把 VLM 训练流程拆解到可复现,适合想理解多模态对齐细节的读者。
Hugging Face 发文回顾过去一年视觉语言模型(VLM)的关键变化,涵盖 any-to-any、推理、小尺寸、MoE 解码器、视觉语言动作模型等新趋势。
Mistral AI 发布 Mistral Medium 3,称其在多项基准上达到 Claude Sonnet 3.7 的 90% 或以上,成本为每百万 token 输入 0.4 美元、输出 2 美元。
推荐理由:官方给出 Mistral Medium 3 的定价、对标模型与部署门槛,可据此判断企业自部署的成本与可行性。
Meta 发布 Llama Guard 4,一个从 Llama 4 Scout 剪枝而来的 12B 稠密多模态安全模型,可评估纯文本和图文输入,覆盖 MLCommons 定义的 14 类危害及代码解释器滥用,可在单张 24GB 显存 GPU 上运行。
推荐理由:Meta 发布 12B 多模态安全模型与两款提示注入分类器,并给出可直接运行的 transformers 示例。
TNG 基于 olmOCR-7B-0225-preview 微调出一款忠实 OCR 引擎,解决了原模型忽略页眉页脚信息的问题。团队用 Qwen2.5-VL-72B-Instruct 生成 8000 份文档数据集,在 8xH100 节点上训练 2.5 个 epoch,使模型能完整提取发票等文档的页眉页脚内容并保留表格解析能力。该微调模型已在 Hugging Face 开源。
Language Technologies Lab 发布 Visual Salamandra,将 Salamandra Instructed 7B 大语言模型扩展至图像和视频多模态任务。
ChatGPT 的视觉与语音功能可帮助团队处理多模态输入,并以更自然的方式沟通。
Meta 发布 Llama 4 Maverick(约 400B 总参数)和 Llama 4 Scout(约 109B 总参数)两款 MoE 模型,均为 17B 激活参数,原生支持文本与图像输入,已在 Hugging Face Hub 上线。
推荐理由:文章给出 Llama 4 两款 MoE 模型的参数、上下文长度与架构细节,便于判断其部署门槛与长上下文能力。
NVIDIA 在 GTC 2025 上发布三项面向物理 AI 开发的开源成果:世界基础模型 Cosmos Transfer、Physical AI Dataset 以及人形机器人基础模型 NVIDIA Isaac GR00T N1。
推荐理由:NVIDIA 在 GTC 2025 一次性开源世界模型、数据集与人形机器人基础模型,读者可据此了解物理 AI 开发可用的工具链。
Mistral AI 发布 Mistral Small 3.1,在 Mistral Small 3 基础上提升文本性能与多模态理解,上下文窗口扩展至 128k tokens,推理速度达 150 tokens/秒,并以 Apache 2.0 许可开源。
推荐理由:官方给出 Mistral Small 3.1 的多模态、128k 上下文与单卡可跑规格,便于判断小模型端侧部署的取舍。
Google 发布 Gemma 系列新模型 Gemma 3,提供 1B、4B、12B、27B 四种尺寸,含预训练与指令微调版本。其中 4B、12B、27B 支持图像与文本输入,上下文窗口达 128k,支持 140 多种语言,1B 版本仅支持文本、上下文 32k。
推荐理由:梳理 Gemma 3 的四种尺寸、多模态与 128k 上下文等规格,并给出 transformers 与端侧推理的可用入口。
Mistral AI 发布光学字符识别 API Mistral OCR,可接收图片和 PDF,按顺序交错提取文本与图像,并作为 Le Chat 文档理解的默认模型。
推荐理由:官方给出 Mistral OCR 的定价、基准对比与自托管选项,读者可据此判断它在文档解析与 RAG 流程中的位置。
Cohere For AI 发布 Aya Vision 系列开源权重视觉语言模型,包含 8B 和 32B 两个版本,覆盖 23 种语言。32B 版本在 AyaVisionBench 和 mWildVision 的成对比较中,对 Llama-3.2 90B Vision、Molmo 72B、Qwen2.5-VL 72B 等参数量超过自身两倍的模型取得 50% 至 64% 的胜率。
推荐理由:原文给出 8B 与 32B 两个开源权重的多语言视觉语言模型及训练细节,读者可据此判断小参数模型在多语言多模态上的位置。
Hugging Face 与印度科学研究所(IISc)及 ARTPARK 达成合作,旨在提升印度多模态多语言数据集 Vaani 的可访问性与易用性。Vaani 由 IISc/ARTPARK 与 Google 于 2022 年发起,目标采集超 15 万小时语音和 1.5 万小时转写文本,覆盖全印 773 个地区、100 万人,目前已开源 790 小时转写音频,涵盖 54 种语言。
Google 发布 SigLIP 2 系列多语言视觉语言编码器,在 SigLIP 的 sigmoid loss 基础上加入解码器、自蒸馏 Global-Local loss 与 Masked Prediction loss 等训练目标,在零样本分类、图文检索和视觉表征迁移上均优于旧版 SigLIP。
推荐理由:梳理 SigLIP 2 相比前代新增的训练目标与 naflex 动态分辨率变体,便于判断视觉编码器的选型。
Hugging Face 发布 SmolVLM2 系列视频理解模型,包含 2.2B、500M 和 256M 三个参数规模,并称 500M 与 256M 是迄今最小的视频语言模型。
推荐理由:Hugging Face 发布三档小尺寸视频理解模型,并给出 MLX 与 Transformers 的即用示例,可据此判断端侧视频理解的门槛变化。
Google 发布 PaliGemma 2 Mix,这是基于 SigLIP 和 Gemma 2 的 PaliGemma 2 视觉语言模型系列中经过多任务混合微调的版本,覆盖 OCR、长短描述、视觉问答、目标检测和图像分割等任务。模型提供 3B、10B、28B 三种参数规模和 224、448、896 三种分辨率,支持 HF Transformers 与 JAX 框架,并已上线演示。
Mistral AI 发布 Mistral Saba,这是其首个专门针对区域语言的模型,拥有 24B 参数,基于中东和南亚精心整理的数据集训练。该模型在阿拉伯语和泰米尔语等南印度语言上表现突出,响应速度超过 150 tokens/秒,可在单 GPU 系统上本地部署,并提供 API 访问。
推荐理由:Mistral 推出首个区域语言模型,24B 参数可在单 GPU 本地部署,为中东和南亚市场提供定制化选择。
Mistral AI 发布新版 le Chat,定位覆盖生活与工作的综合 AI 助手,同时上线 iOS、Android,并推出 Pro 和 Team 订阅以及处于私有预览的 Enterprise 版本。
推荐理由:官方一次性给出 le Chat 的移动端、Flash Answers 速度指标与 Pro 定价,可据此判断其与现有助手的差异。
Hugging Face 为 smolagents 加入视觉支持,可在智能体流程中原生使用视觉语言模型。图片既能在 run 方法中一次性传入并存入 TaskStep 的 task_images,也能通过 step_callbacks 在每步把截图写入 ActionStep 的 observation_images。
推荐理由:官方给出 smolagents 接入视觉语言模型的两条路径与回调写法,可据此改造现有智能体流程。
Hugging Face 发布 SmolVLM-256M 和 SmolVLM-500M 两款视觉语言模型,其中 256M 被称为全球最小的 VLM,共提供两个 base 和两个指令微调共四个 checkpoint。
推荐理由:SmolVLM 家族新增 256M 与 500M 两个小尺寸多模态模型,读者可据此了解小模型在视觉语言任务上的取舍与部署方式。
Mistral AI 宣布与法新社(AFP)达成全球合作,其 AI 助手 Le Chat 将接入 AFP 新闻专线内容,为用户提供基于可靠事实的回复。Le Chat 将利用 AFP 每日六种语言(法语、英语、西班牙语、葡萄牙语、德语、阿拉伯语)发布的 2,300 条新闻专线,覆盖其全球 1,700 名记者的报道。该集成将在未来几周内向所有 Le Chat 用户推出。
Hugging Face 发布多语言视觉文档检索嵌入模型 vdr-2b-multi-v1,可直接编码文档页面截图,无需 OCR 或分块即可跨语言检索。模型基于 MrLight/dse-qwen2-2b-mrl-v1,与 LlamaIndex 合作训练,覆盖意大利语、西班牙语、英语、法语和德语,并同步开源含 50 万样本的 vdr-multilingual-train 数据集。
OpenAI 的视频生成模型 Sora 现已可在 sora.com 使用。用户可生成最高 1080p 分辨率、最长 20 秒的视频,支持宽屏、竖屏和方形画幅。用户可导入自己的素材进行扩展、重混和融合,也可完全由文本生成新内容。
推荐理由:OpenAI 官方公布 Sora 的开放入口与分辨率、时长、画幅等具体能力,读者可据此判断可用范围。
Google 发布新一代视觉语言模型 PaliGemma 2,沿用 SigLIP 图像编码器,文本解码器升级为 Gemma 2,提供 3B、10B、28B 三种参数规格,均支持 224x224、448x448、896x896 三种输入分辨率,而上一代 PaliGemma 仅有 3B 版本。
推荐理由:Google 新视觉语言模型给出 3B 到 28B 三种规格与三档分辨率,可据此判断微调选型空间。
Hugging Face 发布 SmolVLM 系列 2B 视觉语言模型,包含 Base、Synthetic 和 Instruct 三个版本,模型权重、数据集、训练配方与工具均以 Apache 2.0 协议开源。
推荐理由:2B 视觉语言模型给出显存占用与吞吐对比,可据此判断端侧多模态部署的可行边界。
OpenAI 发布案例,展示如何用 GPT-4o 的视觉微调能力构建更智能的地图。
BAAI 推出 FlagEval Debate 平台,让大模型以辩论方式互相对抗,目前支持英语、中文、阿拉伯语和韩语四种语言的辩论竞赛。该平台采用专家评审与用户投票的双重评估机制,并允许开发者自定义模型参数与对话风格,以解决静态评测和 Chatbot Arena 等平台缺乏区分度、模型孤立生成及投票偏差等问题。2024 年 Q3 的实验显示,当前大多数模型都能参与辩论。
Mistral AI 为免费生成式 AI 助手 le Chat 上线多项 beta 功能:带引用的联网搜索、用于构思与就地编辑和导出的 Canvas、由新多模态模型 Pixtral Large 驱动的文档与图像理解、由 Black Forest Labs Flux Pro 驱动的图像生成,以及可复用提示词并分享给同事的 Agents。
推荐理由:官方列出 le Chat 新增的联网搜索、Canvas、文档图像理解与图像生成,并给出与主流助手的逐项对比。
Mistral AI 发布 Pixtral Large,一个基于 Mistral Large 2 构建的 124B 开放权重多模态模型,含 1B 参数视觉编码器和 128K 上下文窗口,可容纳至少 30 张高分辨率图像。
推荐理由:官方给出 Pixtral Large 在多项多模态基准上的对比数据与开放权重许可,读者可据此判断其与 GPT-4o、Gemini-1.5 Pro 的位置。
Hugging Face 发布 CinePile 2.0 长视频问答数据集,采用其提出的对抗式数据集精炼(adversarial dataset refinement)方法改进数据质量。