跳到正文

#数据/训练

今日 2 条
6月18日周四
6月17日周三
6月11日周四
6月8日周一
  1. Google DeepMind62

    Google DeepMind 公布塞拉利昂 AI 教学试验结果

    Google DeepMind 发布在塞拉利昂开展的预注册随机对照试验结果,使用 Guided Learning 的学生数学成绩比对照组提升 0.258 个标准差,相当于八周内取得约 1.2 至 1.7 年的常规学习进度。

    推荐理由:原文给出塞拉利昂随机对照试验的量化结果与交互数据,可了解 AI 辅助教学在真实课堂中的效果边界。

6月4日周四
6月3日周三
6月1日周一
5月29日周五
5月27日周三
  1. Mistral AI60

    Mistral 推出物理 AI,将 Emmi AI 并入企业工程栈

    Mistral 宣布将 Emmi AI 并入公司,推出面向工业工程的物理 AI 能力,作为其企业解决方案中的新基础能力。该能力从几何与边界条件直接预测完整物理场,单次前向推理在单 GPU 上以秒级完成,而非传统求解器所需的数小时到数周。

    推荐理由:Mistral 把物理仿真模型并入企业平台,读者可据此判断工程仿真工作流会被怎样改写。

  2. Mistral AI38

    Mistral 收购 Emmi AI,加码航空航天、汽车、半导体与能源领域的 Physics AI 研究

    Mistral 收购 Emmi AI,并加倍投入面向航空航天、汽车、半导体和能源等实体产业的 Physics AI 基础研究。其已发布成果包括 AB-UPT,可在单张 GPU 上处理 9M 表面和 140M 体积网格的原始几何数据而无需重新网格化,以及首个大规模多物理过程端到端深度学习代理模型 NeuralDEM。

  3. Hugging Face Blog62

    Hugging Face 在 TRL 中实现 Delta Weight Sync,用 Hub Bucket 传输万亿参数增量

    Hugging Face 在 TRL 中落地 Delta Weight Sync:只把 RL 优化器步之间真正变化的 bf16 权重编码成稀疏 safetensors 文件,上传到 Hugging Face Bucket,再由 vLLM 拉取应用。

    推荐理由:TRL 把稀疏增量权重同步落到可 pip 安装的实现,读者可据此判断跨机房异步 RL 的部署成本变化。

5月23日周六
  1. Mistral AI62

    Mistral 收购 Physics AI 公司 Emmi AI

    Mistral AI 本周签署最终协议,收购 Physics AI 先驱 Emmi AI,以强化其作为工业企业 AI 转型伙伴的定位。Emmi AI 成立于奥地利,团队超过 30 名研究人员和工程师,其大型工程模型可把多日计算替换为实时仿真并构建数字孪生,团队将于 5 月加入 Mistral 的 Science 与 Applied AI 团队。

    推荐理由:Mistral 通过收购补齐 Physics AI 能力,读者可了解其工业 AI 布局与科学路线图的具体落点。

5月20日周三
5月16日周六
  1. Google DeepMind38

    Google DeepMind Co-Scientist 加速肝病机制发现

    爱丁堡大学团队用 Google DeepMind 的 Co-Scientist 研究 MASH 肝病,系统整合肝生物学与药理学证据,提出 NLRP3 炎症小体是连接炎症与代谢的关键分子桥梁,该假设随后经实验验证。这一发现有望推动针对 MASH 的靶向联合疗法,并解释了药物 resmetirom 为何仅对少数符合条件的患者有效。

  2. Google DeepMind38

    Google DeepMind Co-Scientist 助力发现抗肝纤维化药物

    斯坦福大学医学院遗传学家 Gary Peltz 利用 Google DeepMind 的 Co-Scientist 筛选抗肝纤维化药物,其提出的 3 个候选药物中有 2 个在活体人类肝细胞测试中阻断纤维化并促进肝细胞再生,而 Peltz 自行挑选的 2 个药物均无效。其中癌症药物 vorinostat 阻断了 91% 可驱动肝硬化的损伤反应。相关研究已发表于 Advanced Science。

5月15日周五
5月12日周二
5月2日周六
4月30日周四
4月29日周三
  1. Hugging Face Blog60

    Granite 4.1 LLM 是如何构建的:五阶段预训练、SFT 与多阶段 RL 全流程

    IBM Granite 团队发布 Granite 4.1 系列稠密 decoder-only LLM(3B、8B、30B),基于约 15T token 的五阶段预训练流程,上下文窗口最长扩展至 512K token,并以 Apache 2.0 许可开源。

    推荐理由:Granite 4.1 完整披露五阶段预训练、SFT 与多阶段 RL 的数据配比和训练配置,可对照其 8B 稠密模型追平 32B MoE 的结论。

4月27日周一
4月22日周三
  1. Google DeepMind62

    Google DeepMind 发布 Decoupled DiLoCo 分布式训练架构

    Google DeepMind 发布 Decoupled DiLoCo 分布式训练架构,把大规模训练拆成异步通信的计算孤岛,降低带宽需求并隔离硬件故障。测试中该系统在整块 learner unit 掉线后仍能继续训练并自动重新接入,用 Gemma 4 模型验证的 ML 性能与传统训练方法持平。

    推荐理由:原文给出异步训练在带宽、故障隔离和跨代硬件上的实测结果,可据此判断分布式预训练的成本与容错边界。

4月21日周二
4月16日周四
4月10日周五
4月9日周四
4月1日周三
3月31日周二
  1. Hugging Face Blog22

    OpenMed 用 165 美元训练跨 25 物种的 mRNA 语言模型

    OpenMed 构建了覆盖结构预测、序列设计与密码子优化的端到端蛋白质 AI 流水线,其中 CodonRoBERTa-large-v2 以困惑度 4.10、Spearman CAI 相关性 0.40 明显优于 ModernBERT。团队随后扩展到 25 个物种,用 55 GPU-hours 训练出 4 个生产模型,并搭建了目前其他开源项目未提供的物种条件化系统。

3月25日周三
3月21日周六
  1. Hugging Face Blog66

    NVIDIA 发布一天内构建领域专用嵌入模型的微调教程

    NVIDIA 发布教程,介绍用单张 GPU 在一天内将通用嵌入模型微调为领域专用模型,无需人工标注。流程基于 NeMo Data Designer 生成合成问答数据、挖掘难负样本并微调 Llama-Nemotron-Embed-1B-v2,在 NVIDIA 公开文档数据上 Recall@10 和 NDCG@10 提升超过 10%。

    推荐理由:NVIDIA 给出从合成数据到部署的完整嵌入模型微调流程,并附 Atlassian 在 Jira 数据上的实测提升。

3月18日周三