模型架構與訓練策略:從 Qwen3-TTS 微調至多教師蒸餾

開發者 smirki 以 Qwen3-TTS 0.6B 為基礎進行微調,目標是打造一個速度快、體積小且語音自然的助手模型。為了讓模型能正確處理內嵌標籤(如情緒、方向),首先訓練分類器標註 YODAS 和 Open Yap 資料集中的強度、事件(笑聲、哭聲等)、情緒與方向資訊,隨後透過監督式微調(SFT)將這些標籤能力注入基礎模型。

接著採用多教師線上蒸餾(Multi-teacher OPD)技術,分別訓練針對聲音複製、指令理解及文字標籤處理的專家模型,最後再透過線上策略蒸餾將所有教師模型的知識整合回主模型。開發者表示,在嘗試合併教師模型時,發現專注於說話者相似度的教師模型效果最佳,因此最終版本保留了該特性。

Lure-Turbo 的速度優化:壓縮推論步驟達成四倍即時速度

為了進一步提升推理速度,開發者嘗試構建一個 12 層的 300M 參數模型,但發現音質略顯單薄。隨後他發現可以透過訓練並簡化代碼預測器(Code Predictor),將原本的 15 次推論步驟壓縮至 3 次,從而大幅提升速度。

最終推出的 Lure-Turbo 模型利用從現有檢查點進行的 OPD 訓練,達到了即時語音因子(RTF)0.14 的表現,這意味著其生成速度是真實語音播放速度的四倍以上。作為對比,5B 參數的 Fish S2 Pro 模型 RTF 為 0.195,而 Lure-Turbo 在保持相同說話者相似度指標(ECAPA 0.699)的情況下,速度更快且參數更少。

Lure-TTS Engine:跨平台推理引擎與低延遲優化

開發者同時發布了名為 Lure-TTS Engine 的推理引擎,該引擎基於 faster-qwen3-tts (CUDA)、mlx-audio (Mac) 和 audio.cpp (CPU) 構建。它提供統一的 Python API、CLI 及 OpenAI 相容伺服器介面,支援在 Mac、NVIDIA GPU 或任何 CPU 上執行 Lure、Lure Turbo 及其他 Qwen3-TTS 12Hz 檢查點。

在 RTX 4090 硬體環境下測試顯示,該引擎將首音輸出延遲從參考代碼的 10.6 秒大幅降低至 0.17 秒,整體推理速度提升約五倍(RTF 從 2.54 降至 0.53)。這主要得益於串流式 0.32 秒區塊處理、CUDA Graphs 技術以及最多同時批次處理 8 個請求的優化機制。

訓練成本與未來開發方向

整個模型的訓練過程未使用高於 RTX PRO 6000 的 GPU,總訓練成本控制在 200 美元以內(RTF 測試則使用 H100)。開發者坦言自己仍在該領域學習與實踐中,並歡迎社群協助評估輸出品質或提供運算資源與研究想法。

未來的開發重點包括改進特定標籤(如大笑、低語)在長句中的表現、處理情緒切換以及實現自由形式的改寫功能。此外,開發者計畫構建更優異的標籤器,以便重新執行整個訓練循環,進一步提升模型對細微語音特徵的控制能力。