← 返回信息流
论文 Reddit-MachineLearning · /u/cloud_kj 2026-10-28 17:17 🔥 热度 2

鸡尾酒会音频作为反向图灵测试:人类胜过语音模型,但优势不够大 [P]

鸡尾酒会音频反向图灵测试:人类略胜语音模型

原文:Cocktail-party audio as a reverse Turing test: humans beat speech models, but not by enough [P]

大家好——我想分享一个我做过的小项目,测试从背景嘈杂声中挑出一个声音能否区分人类和机器,思路类似音频CAPTCHA。设置:40个合成片段:一个目标句子由合成语音朗读,混合在多个背景声音之上,背景声音朗读随机短片段(错开开始,衰减4 dB)。来自18个会话的146次人工转写,允许无限次重放。8种模型配置,每个片段一次推理:Whisper base/small、Vosk、Wav2Vec2、Qwen3-ASR 0.6B、Parakeet CTC 0.6B,以及Gemini 3.8 Flash,分别使用朴素提示和指示关注主说话人的提示。主要指标:词准确率(1 − WER,下限为0);默认通过阈值=词准确率≥0.5。TL;DR:人类在这项任务上更好,但差距太窄,无法成为可靠的CAPTCHA。结果:人类平均词准确率0.71,而带指令的Gemini为0.54(Qwen3-ASR为0.55)。通过率:人类77%,Gemini 55%。注意:从≥0.5到≥0.9的任何阈值都接近不了我最初粗略的心理目标:人类>80%,机器<20%。与Gemini的同片段配对差距:+0.13(95% CI +0.03到+0.23,会话级bootstrap);AUC 0.62。仅指令提示就将Gemini从0.34提升到0.54。重放对人类没有可测量的帮助;人们也会重放对模型来说最难的片段。对人和每个模型来说,错误都随着句子接近末尾而增加。局限性:样本小(18个会话,主要是英语母语者)、单一合成设置、没有源分离,除Gemini外没有大型或商业ASR。我翻出了休眠的博客写了一篇分析(https://www.kelvinjiang.com/2026/10/can-machines-follow-voice-through-crowded-room.html),也分享了代码、数据和音频语料库:https://github.com/cloudkj/crosstalk 非常欢迎对方法的反馈,尤其是关于如何让音频对人类保持简单但对模型始终困难的想法!由/u/cloud_kj提交 [链接] [评论]

查看原文 ↗ 技术论文

📌 相关阅读

【中配】2011 年 ImageNet 机器超人类:Jeff Dean 揭秘深度学习转折点 热度 9 大模型 Token机制硬核解密 热度 9 吞吐量最高提升109.9倍!兼顾精度与效率的大语言 模型 个性化推荐新框架DuoLM 【 大模型 推荐系统】【论文解读】 热度 9 大模型 自主探索就能发现隐藏物理定律?全新LongChang框架实现无任务引导的全自动科学发现 【 大模型 科研】【 AI 论文解读】 热度 9 大模型 答错,是检索的锅吗 热度 9