壓縮技術與組件構成
該邊緣版本將所有應用程式需打包的元件總大小控制在11.84 MB,包括模型權重、語音庫、文本前端處理模組以及Python執行環境。
核心聲學模型擁有925萬參數,採用注意力機制結合雙向Mamba-3架構,並透過量化感知訓練(QAT)壓縮至int4格式。
聲碼器部分使用620萬參數的Vocos風格架構,從charactr/vocos-mel-24khz模型蒸餾而來,同樣經過int4量化感知訓練處理。
文本前端處理完全基於numpy實作,運行時不依賴NLTK、g2p_en、torchaudio或num2words等外部函式庫。
語音品質與參數控制表現
根據開發者本地執行的Open TTS Leaderboard協議測試結果,邊緣版本的詞錯誤率(WER)為0.96%,與原版fp32模型相同。
UTMOS自然度評分從原版的4.20降至4.11,下降幅度約0.1分,開發者指出這幾乎全部來自小型int4聲碼器的影響。
量化過程保留了參數控制能力,包括語速、音量、音調、音調範圍、句尾升調、停頓、傾斜度及氣聲等12項控制參數,均維持至少95%的原版效果。
模型支援50種風格標籤與內聯標記功能,允許使用者透過特定語法調整語速、音量或加入停頓指令。
執行效能與硬體限制
在2018年款Threadripper處理器且處於負載狀態下,僅使用CPU進行測試時,4執行緒的實時因子(RTF)為0.053,約為即時速度的19倍。
從輸入到產生第一段音頻的延遲約為120毫秒,並支援句子級別的串流輸出。
開發者強調,模型權重在載入時會反量化回fp32格式,因此壓縮帶來的優勢主要在於檔案大小而非執行速度。
若要進一步提升邊緣裝置上的執行效率,需要針對特定硬體編寫新的運算核心(kernels)。
功能限制與未來規劃
目前版本僅支援英文,並提供200種語音選擇,這僅是完整版模型中2,825種語音的子集。
邊緣版本不包含聲音複製、自由文本提示或流式精煉器(flow refiner)功能,這些高級特性仍保留在完整版模型中。
情緒標籤主要作為風格切換開關,其中「快速」與「憤怒」等特定情緒的控制效果較弱。
開發者徵求社群回饋,特別關注聲碼器品質差距以及對ONNX、行動裝置或WASM等邊緣目標平台的支援需求。




