NVIDIA 发布 Nemotron 3.5 Transcribe：面向 40 种语言转录的开源 30B MoE 模型，激活参数约 4B

NVIDIA 发布了 Nemotron 3.5 Transcribe，一款激活参数 4.3B 的开放权重语音 LLM：支持 40 种语言转录，提供说话人标签与词级时间戳，在 English Open ASR Leaderboard 上平均 WER 为 4.71%。

NVIDIA 发布了 Nemotron 3.5 Transcribe，一款专为转录打造的开放权重语音 LLM。单个模型即可处理 40 种语言、最长 1 小时的录音；通过一条文本指令即可为每次请求指定输出风格，可选形式包括逐字（verbatim）、书面体、带说话人归属、结合上下文以及译文输出。对开发者而言，它可以替代原本各自独立的 ASR、说话人分离（diarization）与对齐工具。

Nemotron 3.5 Transcribe 是 NVIDIA 的语音增强语言模型（SALM），把音频和指令转换为文本：音频编码器将嵌入送入 LLM 解码器，使转录变为可提示（promptable）的任务。NVIDIA 在技术研究报告中指出，并不存在唯一“正确”的转写——数字、填充词、领域术语的写法取决于看输出的人。NVIDIA 将其定位为转录专精模型，而非通用助手。

模型名写作 30B-A4B，但 checkpoint 实际约含 34B 参数，多出的权重来自 1.3B 的 MTP 模块与音频组件。

训练包含一个监督微调（SFT）阶段：256 块 H100 上进行 28,500 步；随后是短暂的 RL 阶段：400 次 GSPO 更新，奖励为 1 减 WER。模型共计见过约 172 万（1.72M）小时去重音频，含重复约 650 万小时。

以下所有数字均为 NVIDIA 在技术报告中的自报数据。

权重提供 BF16、FP8、NVFP4 与 GGUF 格式，可选配 DFlash2 草稿模型。OpenMDW-1.1 许可证允许商用。

支持的运行时包括带 NeMo Speech 插件的 vLLM 0.32.0、Transformers 与 SGLang-Omni 0.2.0；vLLM 暴露 OpenAI 兼容 API。

该模型的主要速度优势来自 NVIDIA 的 Nemotron Transcribe NIM：在 NVFP4 加 DFlash2 之下，单张 RTX PRO 6000 Blackwell Server Edition 每秒可转录 2,238 秒音频，处理 30 秒片段仅需 0.13 秒。但有个门槛：这些服务端优化尚未开源。NVIDIA 预计发布当日的 vLLM 路径约慢 2 倍；在单张 H100 上以 BF16 加 MTP2 估算约为 410 RTFx。

微调方面，NVIDIA 测试了 17 个任务，每个任务在单块 GB300 上约耗时 0.5–2.3 GPU 小时。

*当前 9 组测试集排行榜上的竞品分数来自 NVIDIA 报告，其引用的是 2026 年 10 月的 Hugging Face 排行榜结果。该排行榜的测试集在竞品发布各自模型卡之后已有变动，因此两行 WER 数据不可直接互换对比。