如何用 Sentence Transformers 开启你的第一个机器学习项目
Hugging Face 发布入门指南，以 Sentence Transformers（ST）为例讲解如何从零启动第一个机器学习项目。ST 可将句子、段落和图像转为嵌入向量，并用 util.cos_sim 计算余弦相似度，支持语义搜索、聚类和模型蒸馏等应用。该库在 GitHub 已获近 8,000 stars，超过 3,000 个项目依赖它。
#数据/训练
#数据/训练
今日 5 条Hugging Face BlogAI 评分2222
OpenAI News精选AI 评分7070 OpenAI 用 Video PreTraining 训练神经网络玩 Minecraft
OpenAI 通过 Video PreTraining（VPT）在大量无标注的人类 Minecraft 游戏视频数据集上训练神经网络，仅使用少量承包商标注数据。经微调后，模型能学会制作钻石工具，这一任务通常需要熟练人类花费 20 多分钟、约 24000 次操作。模型使用键盘按键和鼠标移动这类原生人类交互接口，具有较强通用性，是迈向通用计算机使用智能体的一步。
推荐理由：OpenAI 用大量无标注人类游戏视频预训练网络，仅需少量标注数据即可学会制作钻石工具。
OpenAI NewsAI 评分4040 训练大型神经网络的技术
大型神经网络是近期许多 AI 进展的核心，但其训练是一项困难的工程与研究挑战，需要协调一整个 GPU 集群来完成单次同步计算。
Hugging Face BlogAI 评分4040 TAPEX：无需真实数据的高效表格预训练
微软提出 TAPEX，通过让 BART 学习充当神经 SQL 执行器，在合成 SQL 查询语料上完成表格预训练，无需真实数据。该方法在 WikiSQL、TabFact、SQA 和 WikiTableQuestions 四个基准上均取得 SOTA，其中 WikiSQL 准确率达 89.6%，WikiTableQuestions 达 57.5%。
Hugging Face BlogAI 评分1212 Hugging Face 机器学习专家访谈：Sasha Luccioni 谈 AI 碳足迹与数据伦理
Hugging Face 研究科学家 Sasha Luccioni 在访谈中介绍了她在 Big Science 项目中主持碳足迹工作组的工作，研究范围涵盖 GPU 训练时长、制造成本乃至一封邮件产生的 CO2 排放。她还参与数据工作组，关注数据策展、多语言性与模型训练数据的伦理问题。
Hugging Face BlogAI 评分3636 使用 PyTorch FullyShardedDataParallel 加速大模型训练
Hugging Face 展示了如何用 Accelerate 库无需改代码即可调用 PyTorch 的 FullyShardedDataParallel（FSDP）训练大模型。
Hugging Face BlogAI 评分2222 用 Kili 和 HuggingFace AutoTrain 构建意见分类流水线
HuggingFace AutoTrain 与数据标注平台 Kili 可组合成一套主动学习流水线，用于文本分类。
Hugging Face BlogAI 评分2222 在 Habana Gaudi 上快速上手 Transformers：AWS 上微调 BERT 实战
Hugging Face 与 Habana Labs 合作，将 Gaudi 加速器的性价比优势带入 Transformers，其训练机器学习模型的性价比相比最新 GPU 版 Amazon EC2 实例最高提升 40%。
Hugging Face BlogAI 评分2222 Hugging Face 推出教育计划：目标 2023 年底教会 500 万人机器学习
Hugging Face 发布教育计划，目标在 2023 年底前教会 500 万人机器学习。该计划面向所有人、初学者和教师，提供 NLP、深度强化学习、Gradio 演示构建等免费课程，以及已翻译成 8 种语言的教师工具包。此前 3 月的 ML demo.cratization 巡讲已为 16 个国家超 1000 名学生授课。
Hugging Face BlogAI 评分2222 用机器学习打造高效客户服务：Hugging Face 实战指南
Hugging Face 发布博客，演示如何用其生态工具搭建客户服务场景的文本分类系统，将客户消息按满意度分为 very unsatisfied 到 very satisfied 五类，以优先回复最不满意的客户。文章以 Amazon reviews multi 数据集为例，说明如何按任务类型筛选数据集并评估质量与规模，并建议用内部数据训练模型。
Hugging Face BlogAI 评分3838 Hugging Face Hub 推出 CO2 排放追踪与低排放模型筛选功能
Hugging Face Hub 新增 emissions_threshold 参数，可按训练碳排放量筛选模型，例如上限 100 克可筛出 191 个模型，下限 500 克则筛出 10 个。transformers 集成 codecarbon，训练时自动记录排放数据并生成 emissions.csv，方便写入模型卡。
Hugging Face BlogAI 评分2222 Habana Labs 与 Hugging Face 合作加速 Transformer 模型训练
Habana Labs 与 Hugging Face 宣布合作，将 Habana 的 SynapseAI 软件套件与 Hugging Face Optimum 开源库集成，开发者只需几行代码即可在 Habana Gaudi 处理器上加速 Transformer 训练。
Hugging Face BlogAI 评分3838 如何用 Python 入门情感分析
Hugging Face Hub 上已有超过 215 个情感分析模型，配合 transformers 的 pipeline 类，5 行 Python 代码即可完成情感分析。Hub 共收录超 27000 个模型，覆盖约 28 种语言，并提供 Colab notebook 供用户用自己的数据测试。
Hugging Face BlogAI 评分2222 如何用 AutoNLP 和 Prodigy 构建主动学习流水线
Hugging Face 的 AutoNLP 与 Explosion 的标注工具 Prodigy 可组合成主动学习流水线：用 Prodigy 对 BBC News 数据集做 NER 标注，仅约 20 条样本即可用 AutoNLP 训练模型。
Hugging Face BlogAI 评分4242 Hugging Face 从零训练 GPT-2 代码生成模型 CodeParrot
Hugging Face 发布教程，介绍如何从零训练 GPT-2 large（1.5B 参数）代码生成模型 CodeParrot，可自动补全 Python 代码。
Hugging Face BlogAI 评分4040 Hugging Face 推出 Data Measurements Tool：交互式数据集分析工具
Hugging Face 发布开源 Python 库与无代码界面 Data Measurements Tool，基于 Dataset 和 Spaces Hub 及 Streamlit 构建，可在线构建、测量和比较数据集。该工具能自动计算缺失值、词汇量、标签分布、实例长度、重复项及 Zipf 定律拟合度等指标，帮助数据集创建者和用户进行负责任的数据开发。
Hugging Face BlogAI 评分3030 如何用 Intel 技术加速 PyTorch 分布式微调
Hugging Face 博客展示了如何在 Intel Xeon Scalable（Ice Lake）CPU 集群上加速 PyTorch 分布式微调：借助 Intel extension for PyTorch 和 oneCCL 通信库，在 MRPC 数据集上微调 BERT 模型，从单机扩展到 2 台、4 台服务器并测量加速比。
Hugging Face BlogAI 评分3030 大语言模型：新的摩尔定律？
微软和 NVIDIA 发布 Megatron-Turing NLG 530B，号称全球最大最强的生成式语言模型，但复现成本接近 1 亿美元，单台 DGX A100 服务器售价 19.9 万美元、功耗达 6.5 千瓦。
Hugging Face BlogAI 评分2222 Hugging Face 课程第二部分发布暨社区活动
Hugging Face 课程第二部分将于 11 月 15 日发布，聚焦 token 分类、语言建模、翻译、摘要和问答等 NLP 任务，并深入讲解 Datasets 与 Tokenizers。配套社区活动包含两天讲座和团队项目，AWS 通过 Amazon SageMaker 提供免费算力，完成项目者可获结业证书。
Hugging Face BlogAI 评分4242 Hugging Face 用 10 亿句对训练句嵌入模型
Hugging Face 在社区周期间用 10 亿句对训练出 SOTA 句嵌入模型，硬件为 7 块 TPU v3-8，并获得 Google Flax、JAX 与 Cloud 团队指导。训练采用批内负样本的对比学习目标（InfoNCE/NTXentLoss），通过增大 batch size、引入 hard negatives 和跨数据集组批提升效果。模型与数据集已在模型卡中公开。
Hugging Face BlogAI 评分2222 用遥感（卫星）图像与描述文本微调 CLIP
一个跨 12 个时区的团队用 RSICD、UCM 和 Sydney 三个遥感数据集微调了 OpenAI 的 CLIP，使其能按文本描述检索卫星图像。训练采用对比学习，并用 Torchvision 图像增强与 Marian MT 回译文本增强抑制过拟合。模型、项目页与 demo 均已公开，可用于以文本查询大规模卫星图像库。
OpenAI NewsAI 评分4242 OpenAI 用人类反馈摘要书籍
OpenAI 利用人类反馈来扩展 AI 系统在难以评估任务上的监督能力，并将其应用于书籍摘要。
Hugging Face Blog精选AI 评分6262 Hugging Face 提出 DeDLOC：40 名志愿者协作预训练孟加拉语模型 sahajBERT
Hugging Face 团队提出 DeDLOC 协作式分布式训练方法，可自适应参与者的网络与硬件条件，并用 40 名志愿者在互联网上预训练出孟加拉语模型 sahajBERT。
推荐理由：Hugging Face 团队用 40 名志愿者在互联网上预训练出孟加拉语模型，给出了分布式协作训练在真实场景中的完整方法与评测结果。
OpenAI NewsAI 评分4242 OpenAI 研究：用精选数据集微调可改善语言模型行为
OpenAI 研究发现，通过在小型精选数据集上微调，可以改善语言模型在特定行为价值观方面的表现。
Hugging Face BlogAI 评分2828 用 🤗 Transformers 和 Amazon SageMaker 分布式训练 BART/T5 做摘要
Hugging Face 与 Amazon SageMaker 合作推出优化版 Deep Learning Containers，配合 SageMaker Python SDK 中的 HuggingFace estimator，一行代码即可启动训练。
Hugging Face BlogAI 评分2222 Hugging Face 工程师谈构建神经网络时的调试思路与常见误区
Hugging Face 工程师分享构建和调试神经网络的思考流程：先放下机器学习、专注分析数据，再从逻辑回归、word2vec、fastText 等简单基线起步，并敢于拆开那些"5 行代码"模板看内部实现。作者建议实现完成后先尝试过拟合 16 个样本的小批量数据，若无法达到 0 loss，很可能实现有误，而非模型表达能力不足。
Hugging Face BlogAI 评分5252 Hugging Face 支持用 PyTorch/XLA 在 Cloud TPU 上训练 Transformer
Hugging Face 与 PyTorch/XLA 团队合作，让 Trainer 模块可直接在 Cloud TPU 上训练模型，用户保持原有 Hugging Face trainers 接口不变。
Hugging Face BlogAI 评分2727 如何用预训练语言模型检查点热启动编码器-解码器模型
Hugging Face 发布教程，介绍如何用 BERT、GPT2 等预训练检查点热启动编码器-解码器模型，跳过昂贵的预训练阶段。基于 Rothe 等人 2020 年的论文，该方法在多个序列到序列任务上以极低训练成本达到与 T5、Pegasus 等大型预训练模型相当的效果，并附有 🤗Transformers 的完整代码示例。
Hugging Face BlogAI 评分4040 Hugging Face Transformers 与 Ray Tune 集成实现超参数搜索
Hugging Face Transformers 在 3.1 版本中与 Ray Tune 集成，用户只需添加几行代码即可调用 HyperBand、Bayesian Optimization、Population-Based Training 等调参算法。
Hugging Face BlogAI 评分5050 Hugging Face 发布 pytorch_block_sparse：用块稀疏矩阵让语言模型更小更快
Hugging Face 发布 PyTorch 扩展 pytorch_block_sparse，其 BlockSparseLinear 可直接替换 torch.nn.Linear，让语言模型更小更快。
OpenAI NewsAI 评分5252 OpenAI 用人类反馈训练摘要模型
OpenAI 将人类反馈强化学习（RLHF）应用于语言模型训练，使其在摘要任务上表现更好。
OpenAI News精选AI 评分6262 OpenAI 发布 Image GPT：用 Transformer 生成图像
OpenAI 发现，正如在语言上训练的大型 Transformer 模型能生成连贯文本，同一模型在像素序列上训练后也能生成连贯的图像补全和样本。通过建立样本质量与图像分类准确率之间的相关性，研究显示其最佳生成模型在无监督设置下所含特征可与顶级卷积网络竞争。
推荐理由：OpenAI 用同一 Transformer 架构处理像素序列，并给出生成质量与分类精度的关联证据。
OpenAI News精选AI 评分8080 OpenAI 论文：语言模型是少样本学习器
OpenAI 发布论文《Language models are few-shot learners》，探讨语言模型的少样本学习能力。该页面正文抓取失败，仅标题可用。
OpenAI News精选AI 评分6262 OpenAI 分析：ImageNet 训练算力每 16 个月减半
OpenAI 发布分析称，自 2012 年以来，在 ImageNet 分类上训练神经网络达到同等性能所需的算力每 16 个月减少一半。相比 2012 年，训练到 AlexNet 水平所需算力减少 44 倍，而同期摩尔定律只带来 11 倍的成本改善。OpenAI 认为，在近期投入较高的 AI 任务上，算法进步带来的收益超过传统硬件效率提升。
推荐理由：OpenAI 用 ImageNet 训练算力数据量化算法进步速度，可与摩尔定律对比理解 AI 效率来源。
Hugging Face Blog精选AI 评分6262 如何用 Transformers 和 Tokenizers 从零训练一个新语言模型
Hugging Face 发布教程，演示如何用 transformers 和 tokenizers 库从零训练一个语言模型，并以世界语为例训练了 84M 参数（6 层、768 隐藏维度、12 注意力头）的 EsperBERTo。
推荐理由：以世界语为例完整演示从语料、分词器到预训练与下游微调的全流程，可迁移到其他低资源语言。
OpenAI NewsAI 评分4141 OpenAI 研究：深度神经网络中的双下降现象
OpenAI 发现双下降现象同样出现在 CNN、ResNet 和 Transformer 中：随着模型规模、数据规模或训练时间增加，性能先提升、再变差、然后再次提升。这种效应通常可通过精细的正则化避免，但其成因尚不完全清楚，OpenAI 将其视为重要研究方向。
OpenAI NewsAI 评分3838 OpenAI 发布 Procgen Benchmark：16 个程序生成环境
OpenAI 发布 Procgen Benchmark，包含 16 个易于使用的程序生成环境，用于直接衡量强化学习智能体学习可泛化技能的速度。
OpenAI News精选AI 评分6565 OpenAI 用人类偏好微调 774M 参数 GPT-2
OpenAI 用人类反馈对 774M 参数的 GPT-2 语言模型进行微调，在多项任务上成功匹配外部人类标注者的偏好，但这些偏好并不总与 OpenAI 自身一致。在摘要任务中，标注者偏好直接从输入中整句复制的内容，模型因此学会了复制；摘要任务需要 6 万条人类标注，而按不同风格续写文本等更简单的任务只需 5 千条。OpenAI 表示其动机是让安全技术更接近“机器与人对话”这一通用任务。
推荐理由：OpenAI 用人类偏好微调 GPT-2 的早期实验，展示了不同任务所需标注量的差异，以及标注者偏好与研究者预期不一致的现象。
OpenAI News精选AI 评分6262 OpenAI 提出 Sparse Transformer，序列建模长度提升 30 倍
OpenAI 开发了 Sparse Transformer，一种深度神经网络，在预测文本、图像或声音序列中下一个内容的任务上创下新纪录。它通过对注意力机制做算法改进，从比此前长 30 倍的序列中提取模式。
推荐理由：OpenAI 用稀疏注意力把序列建模长度提升 30 倍，可了解长序列建模的早期技术路线。
OpenAI NewsAI 评分4242 OpenAI 提出能量模型（EBM）隐式生成与泛化方法
OpenAI 在能量模型（EBM）的稳定可扩展训练上取得进展，样本质量和泛化能力优于现有模型。EBM 生成通过投入更多算力持续精修答案，在低温下可生成与 GAN 媲美的样本，同时具备似然类模型的模式覆盖保证。