解決 Coqui AI 關閉後的訓練斷層與依賴問題
Coqui AI 停止營運後,XTTS v2 模型缺乏官方的 DVAE 音訊分詞器與 Latent HiFi-GAN 聲碼器訓練代碼。過去僅有 GPT 微調流程較為常見,其他階段的訓練管線要么未發布,要么處於碎片化狀態。
此外,現代 PyTorch(2.4+ 版本)升級過程中常因缺少 torchcodec 或授權提示而導致依賴衝突。Open-XTTS-Trainer 旨在解決這些問題,提供一個能在 Python 3.10–3.13 環境下直接運行的模組化訓練套件。
透過動態擴展詞彙表支援新語言腳本
原始 XTTS v2 模型硬編碼僅支援 17 種語言,當輸入包含印地語、阿拉伯語或泰米爾語等新 Unicode 腳本的文本時,會因詞彙超出範圍或矩陣維度錯誤而崩潰。
新工具的第二階段(Text & Vocab Extender)能掃描新的語言語料庫,識別唯一的 Unicode 字形並將其附加到分詞器中。該過程會動態調整 GPT 嵌入矩陣的大小,同時確保不損壞現有權重,從而實現對新腳本的支援。
整合三個組件的訓練流程與技術細節
該套件涵蓋 XTTS v2 的三個核心組件訓練。第一階段為 DVAE 音訊分詞器,採用 Gumbel-Softmax 碼本退火技術與梅爾譜重建損失函數進行訓練與微調。
第三階段為 Latent HiFi-GAN 神經聲碼器,使用多週期(MPD)和多尺度(MSD)判別器以及特徵匹配損失函數進行潛空間條件化的聲碼器訓練。第二階段則包含自迴歸 GPT 的訓練循環。
GPU 測試結果僅驗證組件級收斂性
開發者在 NVIDIA T4 GPU 上使用 LJSpeech 和 JFK 演講等真實人類語音數據進行了基準測試。測試顯示 HiFi-GAN 的梅爾重建損失在 10 個週期內從 190.83 降至 63.49,降幅達 67%;判別器 MPD 與 MSD 穩定在 3.62,未出現模式崩潰。
DVAE 的梅爾誤差同樣從 8.14 降至 2.71,降幅為 67%。開發者明確指出,這些數據僅驗證了各組件層級的訓練收斂性與梯度穩定性,完整的端到端文字轉語音推理需將訓練好的模組整合回標準 XTTS 生成管線中進行評估。




