跳到正文

#Anthropic

今日 7 条
1月28日周三
12月4日周四
  1. Hugging Face Blog71

    Hugging Face 让 Claude 微调开源 LLM:Skills 工具实操教程

    Hugging Face 发布 Hugging Face Skills 工具,让 Claude Code、Codex、Gemini CLI 等编码智能体能够实际提交云端 GPU 训练任务、监控进度并把模型推送到 Hugging Face Hub。

    推荐理由:Hugging Face 官方教程展示用 Claude Code 等编码智能体完成微调全流程,读者可据此复现从数据校验到 GGUF 转换的完整链路。

11月19日周三
  1. Google DeepMind80

    Google 发布智能体开发平台 Antigravity

    Google 发布智能体开发平台 Antigravity,目前以公开预览形式免费提供,支持 macOS、Linux 和 Windows。平台在传统 AI IDE 之外新增 Manager 界面,可并行编排多个智能体,并通过任务列表、实现方案、截图和浏览器录制等 Artifacts 让用户验证智能体工作。

    推荐理由:Google 把 IDE 改造成以智能体为中心的开发平台,读者可据此判断编码工作流的形态变化。

9月29日周一
8月27日周三
  1. OpenAI News60

    OpenAI 与 Anthropic 公布联合安全评估结果

    OpenAI 与 Anthropic 公布首次联合安全评估的结果,双方互相测试对方模型在失准、指令遵循、幻觉、越狱等方面的表现。评估同时呈现了进展、挑战,以及跨实验室合作的价值。

    推荐理由:两家头部实验室互相测试对方模型的对齐与越狱表现,读者可了解跨实验室安全评估的做法与发现。

8月19日周二
  1. Hugging Face Blog38

    如何通过 Hugging Face Spaces 让 Claude 生成图像

    将 Claude 连接 Hugging Face MCP Server 后,可直接调用 ZeroGPU Spaces 上的图像生成模型。FLUX.1 Krea [dev] 主打消除"AI 感",输出更接近专业摄影的真实质感;Qwen-Image 擅长遵循提示词与准确渲染文字,适合海报、标牌等信息图设计。用户可在 MCP 设置中添加对应 Space 工具,并同时启用两者对比效果。

2月1日周四
  1. Hugging Face Blog62

    Hugging Face 发布用开源模型实现 Constitutional AI 的完整配方

    Hugging Face 发布了一套用开源模型实现 Constitutional AI(CAI)的端到端配方,并开源了 llm-swarm 工具,用于在 GPU Slurm 集群上基于 TGI 和 vLLM 进行可扩展的合成数据生成。

    推荐理由:Hugging Face 给出用开源模型复现 Constitutional AI 的完整配方,含数据集、模型与 Slurm 集群推理工具,可迁移到自定义对齐流程。

10月25日周三
2月24日周五
  1. Hugging Face Blog38

    Hugging Face 详解大语言模型红队测试:方法、风险与最佳实践

    红队测试通过构造自然语言提示词诱导 LLM 生成有害内容,从而暴露模型漏洞,与对抗攻击不同,其提示词对人类可读。GPT3 早期版本曾表现出性别歧视与针对穆斯林的偏见,微软 Tay 和 Bing 的 Sydney 聊天机器人则是缺乏充分红队评估的反面案例。红队可由人工或另一个 LM 执行,针对经 RLHF 或 SFT 对齐的模型需采用角色扮演等创造性攻击方式,未来需建立多方协作的数据集与最佳实践。

1月24日周二
12月9日周五
  1. Hugging Face Blog62

    图解基于人类反馈的强化学习(RLHF)

    Hugging Face 博客图解 RLHF 的完整流程,将其拆为预训练语言模型、收集人类偏好数据训练奖励模型、用 PPO 微调语言模型三个核心步骤。文中说明奖励模型输出标量奖励,并用 KL 散度惩罚约束策略偏离初始模型,同时介绍了 TRL、TRLX、RL4LMs 等开源实现及 Anthropic 在 Hub 上发布的数据集。

    推荐理由:文章把 RLHF 拆成预训练、奖励模型、PPO 微调三步,并梳理了 TRL、TRLX、RL4LMs 等开源工具与主要论文,适合作为理解该流程的入门参考。