← 返回信息流
模型 arXiv 论文 · Anuj Diwan, David Harwath, Eunsol Choi 2026-10-29 17:21 🔥 热度 4

在自回归语音克隆TTS模型中发现可解释的声学特征

解析自回归语音克隆TTS模型中的可解释声学特征

原文:Discovering Interpretable Acoustic Features in Autoregressive Voice-Cloning TTS Models

语音克隆TTS模型能从简短的语音提示中合成未见说话人的声音,但其表征和使用哪些声学属性仍不清楚。我们引入了一个面向自回归语音克隆TTS模型的基于特征的可解释性框架,通过稀疏探测、引导和定量自动可解释性来分析来自稀疏自编码器(SAE)、PCA和随机方向的特征。我们聚焦于Qwen3-TTS,并将探测和引导扩展到另外5个模型以测试跨架构的泛化性。这些模型编码了音高、能量、噪声和口音等概念,但稀疏预测和引导仅对部分概念有效。强探测并不总能转化为引导,反之亦然。SAE适用于对人类标注概念和新概念发现的稀疏探测,而PCA在密集探测和引导方面具有竞争力。自动可解释性在Qwen3-TTS中发现了684个自动验证的SAE特征,涵盖说话人聚类、说话风格和录音条件等已知概念之外的内容。总体而言,我们对自回归语音克隆TTS模型进行了全面的可解释性研究。

查看原文 ↗ 技术论文多模态

📌 相关阅读

innocent world / Mr.Children【虹の彼方へ放つ ハイトーン女性ボーカル|AI Cover】 热度 9 椰林晚风|舒缓国语雷鬼氛围(AI音乐,中英双语) 热度 9 首个面向个性化移动智能体的用户中心基准iPrefBench发布!精准评估「该猜就猜、该问就问」的智能助手能力 【 AI 智能体】【HCI人机交互】【 大模型 评测】 热度 9 突破扩散语言 模型 解码瓶颈!SPOT用提交顺序预测实现最高9.9倍生成吞吐量 【 大模型 加速】【扩散语言 模型 】【论文解读】 热度 9 不用扩散 模型 也能做视觉生成?编码Agent视觉生成能力上限深度实测 【多模态 大模型 】【 AI 生成内容】 热度 9