流式 TTS 首包 1.8 秒才出声 按 20 字切包为什么还慢

陆零云 36 0
客服的语音播报接 CosyVoice 流式接口,用户点播放到听见第一个字要 1.8 秒,长句更久。第一反应是模型推理慢,加了 GPU 还是这个数,说明瓶颈不在算力上。 在服务端打点,文本进队列到第一块音频返回只花 240 毫秒,剩下 1.5 秒全在等文本攒够。原来的逻辑是收到 80 个字才送去合成,怕断句碎。改成 20 字一包,首包降到 1.1 秒,可播出来的句子中间有明显停顿,像机器人在喘气。 试过 10 字一包,首包 0.9 秒,停顿更密,语气词全丢。...