跳到正文

#语音

今日 1 条
1月14日周三
  1. Google Research62

    Google 发布 MedGemma 1.5 4B 与医疗语音模型 MedASR

    Google 发布 MedGemma 1.5 4B,新增对 CT、MRI 和全切片病理等高维医学影像的支持,并保留 2D 图像与文本能力。官方称在内部基准上,CT 病灶分类准确率从 58% 提升到 61%,MRI 从 51% 提升到 65%,MedQA 从 64% 提升到 69%。

    推荐理由:官方给出 MedGemma 1.5 与 MedASR 的基准对比和开源入口,可据此判断医疗多模态模型的可用边界。

1月7日周三
12月13日周六
12月4日周四
11月21日周五
  1. Hugging Face Blog34

    Hugging Face Open ASR Leaderboard 新增多语言与长音频赛道,并发布 60+ 模型趋势预印本

    Hugging Face 的 Open ASR Leaderboard 新增多语言与长音频转录赛道,并发布覆盖 60+ 模型、18 家机构、11 个数据集的 ASR 趋势预印本。Conformer 编码器加 LLM 解码器在英语转录准确率上领先,CTC/TDT 解码器吞吐量快 10–100 倍;多语言仍以 Whisper Large v3 为强基线,长音频则闭源系统暂时领先。

11月19日周三
  1. Google Research76

    Google 发布端到端实时语音翻译模型,延迟降至 2 秒

    Google Research 发布端到端语音到语音翻译(S2ST)模型,直接生成译文音频并保留原说话人音色,延迟从级联方案的 4–5 秒降至 2 秒。该模型基于 AudioLM 框架和 Transformer 模块,采用流式编码器与解码器,并用时间同步数据管线训练,音频以 RVQ token 表示,100 ms 片段约需 16 个 token。

    推荐理由:Google 端到端语音翻译把延迟从 4–5 秒压到 2 秒,并已落地 Meet 与 Pixel 10,可据此判断实时同传的可用边界。

10月28日周二
9月22日周一
8月28日周四
7月17日周四
  1. Mistral AI66

    Mistral 为 Le Chat 推出 Deep Research、语音模式等多项新功能

    Mistral 为 Le Chat 上线一批新功能,包括预览版 Deep Research 模式、由新语音模型 Voxtral 驱动的语音模式、由推理模型 Magistral 支持的多语言推理、用于整理对话的 Projects,以及与 Black Forest Labs 合作的高级图像编辑。

    推荐理由:官方一次性公布 Le Chat 的深度研究、语音、推理与图像编辑多项能力,可据此判断其产品路线与可用入口。

7月15日周二
  1. Mistral AI80

    Mistral 发布 Voxtral 语音理解模型,24B 与 3B 双版本开源

    Mistral 发布 Voxtral 语音理解模型,提供 24B 和 3B 两种尺寸,均以 Apache 2.0 许可开源并上线 API。模型支持 32k token 上下文,可处理最长 30 分钟音频转写或 40 分钟音频理解,具备内置问答与摘要、多语言自动检测和语音触发函数调用能力。

    推荐理由:Mistral 开源语音理解模型,给出两种尺寸、Apache 2.0 许可与 API 定价,读者可据此判断语音能力的开放程度与成本。

6月26日周四
5月13日周二
4月22日周二
4月9日周三
4月8日周二
3月20日周四
  1. OpenAI News62

    OpenAI 在 API 中推出新一代音频模型

    OpenAI 在 API 中推出新一代音频模型,开发者首次可以指示文本转语音模型以特定方式说话,例如“像一位有同理心的客服人员那样说话”,为语音智能体带来新的定制能力。

    推荐理由:OpenAI 在 API 中上线新一代音频模型,开发者可首次用自然语言指令控制语音表达方式。

2月27日周四
  1. Hugging Face Blog38

    Hugging Face 与 IISc 合作,推动印度多语言模型构建

    Hugging Face 与印度科学研究所(IISc)及 ARTPARK 达成合作,旨在提升印度多模态多语言数据集 Vaani 的可访问性与易用性。Vaani 由 IISc/ARTPARK 与 Google 于 2022 年发起,目标采集超 15 万小时语音和 1.5 万小时转写文本,覆盖全印 773 个地区、100 万人,目前已开源 790 小时转写音频,涵盖 54 种语言。

2月25日周二
12月20日周五
12月17日周二
  1. OpenAI News78

    OpenAI 发布 o1 模型及多项开发者工具更新

    OpenAI 发布 o1 模型,并同步带来 Realtime API 改进、新的微调方法等面向开发者的更新。官方称此次更新面向开发者,涵盖模型与工具两方面。

    推荐理由:OpenAI 官方一次性公布 o1 模型与 Realtime API、微调方法等开发者工具更新,可据此了解其开发者侧能力布局。

10月22日周二
10月1日周二
  1. OpenAI News73

    OpenAI 推出 Realtime API

    OpenAI 发布 Realtime API,开发者现在可以在自己的应用中构建快速的语音到语音体验。

    推荐理由:OpenAI 开放 Realtime API,开发者可据此判断语音交互应用的接入方式与能力边界。

6月8日周六
5月20日周一
5月13日周一
  1. OpenAI News82

    OpenAI 发布新旗舰模型 GPT-4o

    OpenAI 宣布推出新旗舰模型 GPT-4 Omni(GPT-4o),可实时跨音频、视觉和文本进行推理。

    推荐理由:OpenAI 发布新旗舰模型 GPT-4o,可实时跨音频、视觉和文本推理,读者可据此了解其多模态能力定位。

5月1日周三
4月24日周三
3月29日周五
2月27日周二
  1. Hugging Face Blog58

    Hugging Face 发布 TTS Arena,用盲测投票给语音合成模型排名

    Hugging Face 发布 TTS Arena,用户输入文本后由两个模型分别合成语音,投票选出更自然的一方,结果汇总为公开排行榜。首批参评模型包括 ElevenLabs、MetaVoice、OpenVoice、Pheme、WhisperSpeech 和 XTTS,投票前不显示模型名称以避免偏见。榜单初期为空,随投票累积自动更新,排名采用类似 Elo 的算法。

1月19日周五
12月20日周三
9月25日周一
8月30日周三
  1. Hugging Face Blog60

    AudioLDM 2 推理加速:用 Diffusers 把生成时间从 14 秒降到 1 秒

    Hugging Face 博客介绍如何在 Diffusers 库中加速 AudioLDM 2 的文本到音频推理,通过半精度、flash attention、torch.compile 和更换调度器等方法,把 10 秒音频的生成时间从约 14 秒降到 1 秒以内,音质下降很小。

    推荐理由:原文给出四种开箱即用的推理优化手段,读者可据此把 AudioLDM 2 的生成耗时从 14 秒压到 1 秒以内。

8月9日周三
6月19日周一
  1. Hugging Face Blog50

    如何为低资源 ASR 微调 MMS Adapter 模型

    Hugging Face 发布教程,介绍如何基于 Meta AI 的 MMS 检查点微调 Adapter 层以适配低资源语言的 ASR。MMS 预训练检查点覆盖 1400 多种语言、参数量 300M 至 1B,每个 Adapter 层仅约 2.5M 权重,微调 10-20 分钟即可获得极低词错误率。低资源语言推荐用 Adapter 训练替代全模型微调,更省内存且性能更好。

6月2日周五
  1. Hugging Face Blog22

    如何在 Unity 中用 Hugging Face Unity API 实现语音识别

    Hugging Face 发布教程,讲解如何在 Unity 游戏中通过 Hugging Face Unity API 实现语音识别,将语音转为文本,可用于下达指令、与 NPC 对话或提升无障碍体验。教程演示了搭建含开始/停止按钮与 TextMeshPro 文本框的场景,用 Microphone.Start() 以 44100 Hz 录制最长 10 秒音频,再编码为 WAV 格式发送至 API。

5月18日周四
  1. OpenAI News78

    OpenAI 推出 ChatGPT iOS 应用

    OpenAI 发布 ChatGPT iOS 应用,可同步对话记录并支持语音输入,同时带来最新的模型改进。

    推荐理由:OpenAI 官方发布 ChatGPT iOS 应用,给出对话同步与语音输入两项能力,读者可据此了解移动端入口的初始形态。

2月8日周三
  1. Hugging Face Blog60

    SpeechT5 上线 Hugging Face Transformers,支持语音合成、识别与语音转换

    Hugging Face 宣布 SpeechT5 已集成进 Transformers 库,官方 checkpoint 发布在 Hugging Face Hub,并提供语音合成、语音转换和自动语音识别三个 Spaces 演示。

    推荐理由:SpeechT5 以同一套编码器解码器架构覆盖 TTS、语音转换与 ASR,读者可据此了解多任务语音模型的复用方式。

12月15日周四