跳到正文

#Google

今日 0 条
7月9日周二
6月27日周四
6月24日周一
  1. Hugging Face Blog22

    Hugging Face 伦理与社会通讯 #6:构建更好的 AI,数据质量为何至关重要

    Hugging Face 发布《伦理与社会通讯 #6》,聚焦高质量数据对 AI 开发的重要性。文章指出好数据并非只是准确或量大,而是契合特定用途,需具备相关性、全面性、时效性并减少偏见,同时强调数据质量能提升模型表现、泛化能力与效率,并推动公平与可问责。

5月14日周二
4月19日周五
4月10日周三
4月9日周二
2月23日周五
2月21日周三
  1. Hugging Face Blog78

    Google 发布开源大模型 Gemma,Hugging Face 全面集成

    Google 发布开源大模型家族 Gemma,包含 2B 和 7B 两种尺寸,各有基础版和指令微调版,上下文长度 8K tokens。Gemma-7B 在 LLM Leaderboard 上得分 63.75,性能与 Mistral 7B 相当。

    推荐理由:Google 发布 Gemma 开源模型家族,读者可了解其两种尺寸、基准表现及在 Hugging Face 生态中的部署与微调路径。

1月25日周四
1月4日周四
10月25日周三
10月3日周二
7月17日周一
4月27日周四
1月24日周二
12月9日周五
  1. Hugging Face Blog62

    图解基于人类反馈的强化学习(RLHF)

    Hugging Face 博客图解 RLHF 的完整流程,将其拆为预训练语言模型、收集人类偏好数据训练奖励模型、用 PPO 微调语言模型三个核心步骤。文中说明奖励模型输出标量奖励,并用 KL 散度惩罚约束策略偏离初始模型,同时介绍了 TRL、TRLX、RL4LMs 等开源实现及 Anthropic 在 Hub 上发布的数据集。

    推荐理由:文章把 RLHF 拆成预训练、奖励模型、PPO 微调三步,并梳理了 TRL、TRLX、RL4LMs 等开源工具与主要论文,适合作为理解该流程的入门参考。

10月13日周四
8月19日周五
8月18日周四
7月25日周一
3月23日周三
3月2日周三
2月11日周五
12月15日周三
  1. Hugging Face Blog60

    Hugging Face 将 Perceiver IO 加入 Transformers,统一处理文本图像音频视频

    Hugging Face 将 Google DeepMind 的 Perceiver IO 加入 Transformers 库,这是首个基于 Transformer、可处理文本、图像、音频、视频、点云等多种模态及其组合的神经网络。

    推荐理由:Hugging Face 把 Perceiver IO 接入 Transformers,读者可了解这套统一处理文本、图像、音频、视频的架构如何实现。

10月25日周一
  1. Hugging Face Blog42

    Hugging Face 用 10 亿句对训练句嵌入模型

    Hugging Face 在社区周期间用 10 亿句对训练出 SOTA 句嵌入模型,硬件为 7 块 TPU v3-8,并获得 Google Flax、JAX 与 Cloud 团队指导。训练采用批内负样本的对比学习目标(InfoNCE/NTXentLoss),通过增大 batch size、引入 hard negatives 和跨数据集组批提升效果。模型与数据集已在模型卡中公开。

10月20日周三
3月18日周四
2月9日周二
6月20日周六
3月6日周三
6月13日周二
  1. OpenAI News62

    OpenAI 与 DeepMind 合作研究从人类偏好中学习

    OpenAI 与 DeepMind 安全团队合作开发了一种算法,通过让人类在两种候选行为中指出哪个更好,来推断人类想要的目标。OpenAI 称,构建安全 AI 系统的一步是免去人类编写目标函数的需要,因为用简单代理替代复杂目标或把复杂目标写偏,可能导致不良甚至危险的行为。

    推荐理由:OpenAI 与 DeepMind 安全团队合作提出从人类偏好推断目标的方法,可了解早期对齐研究的一条思路。

6月21日周二