全部文章0

BestBlogs.dev量子位的朋友们··访问 1

又快又聪明,阿里发布 Qwen-Audio-3.0-Realtime:实时语音大模型四项功能升级

原网页

📌 一句话摘要

阿里发布 Qwen-Audio-3.0-Realtime 实时语音大模型,在推理、工具调用、共情对话和双工交互四个维度同步升级,并提供更强的 Plus 与更快的 Flash 版本。

📝 详细摘要

本文报道阿里巴巴于 7 月 15 日发布的最新实时语音交互模型 Qwen-Audio-3.0-Realtime。文章从四个主线展开:通过直接生成策略和 On-Policy Distillation 框架缓解时延与推理深度的矛盾,在 VoiceBench 等基准上取得高口语鲁棒性;基于 FunctionCall 协议实现无需显式指令即可调用外部工具,并自动融合上下文记忆;通过动态语气、节奏和副语言信号实现共情对话,在 VStyle 基准上达到 SOTA;内置多模态感知双工控制子模型,支持嘈杂环境下防误打断、多方锁定与自然过渡。同时介绍了多教师蒸馏框架(口语偏好、通用问答、Agentic、音频理解四个教师)来保障不偏科。文末注明内容由阿里巴巴提供,量子位获授权转载。

💡 主要观点

  1. 通过直接生成与在线策略蒸馏解决实时语音模型的推理深度损失问题。 Quick 回答时延敏感场景直接生成,推理任务由文本大模型实时纠正回答,在 VoiceBench 上口语化 prompt 仅比标准 prompt 下降 2 分。
  2. Agent 工具调用无需用户明显指令,支持多轮上下文衔接。 基于 FunctionCall 协议自动触发工具,调用结果融入对话记忆;例如用户先查川菜馆再追问评分,模型能自动复用上次地图结果。
  3. 共情对话通过动态语气、节奏与副语言信号摆脱机械感,在 S2S 语音指令遵循基准 VStyle 上达到 SOTA。 模型能根据对话情境调整语调、加入笑声或叹息,在辩论场景中保持恰当强度,在情感陪伴中展现共情回应。
  4. 双工交互支持嘈杂环境防误打断与多说话人锁定。 内置多模态感知子模型分析音频、语义和声纹,在餐厅等背景噪声下不出错,多人讨论中锁定主对话对象。
  5. 多教师蒸馏框架(口语、通用、Agentic、音频理解)保障模型在各维度不偏科。 四个教师分别专注于口语化表达、基础问答、工具调用与副语言理解,共同蒸馏至语音模型,实现均衡能力提升。

📊 文章信息

AI 初评:75 来源:量子位 作者:量子位的朋友们 分类:人工智能 语言:中文 阅读时间:7 分钟 字数:1569 标签: 大语言模型, 语音AI, AI Agent, 多模态AI, 实时交互 阅读完整文章