本地運行架構與授權條款差異

Phonon 的設計核心在於將語音合成過程完全移至使用者裝置端,避免傳統雲端 TTS 服務所需的網路往返傳輸。這種架構確保輸入的文字內容保留在本地,且在無網路環境下仍能運作。團隊於四月份宣布該專案後,經過六個月與合作夥伴及早期使用者的協作,進一步縮小模型尺寸並增加語言支援與自訂聲音功能。

授權方面,Phonon 31m 版本僅支援英文,採用 Apache 2.0 授權,允許開發者免費使用於商業產品中。其他模型(如 Phonon 40m)則採用 CC BY-NC 授權,僅限非商業專案免費使用;若用於商業產品,定價將基於使用者數量而非語音生成量計算。

技術基礎與訓練挑戰

Phonon 源自 Pocket TTS 技術線,採用 Flow Matching(流匹配)技術來生成音頻,這與其他常見 TTS 系統的建模技術有顯著不同。這種方法使得團隊能在極小的模型參數下維持高品質的語音輸出,但也帶來了訓練上的挑戰。

開發團隊指出,初期訓練過程存在數值不穩定問題,需要透過多種技巧調整才能確保在五種支援語言中均能產出高品質結果。Phonon 採用自回歸方式生成音頻潛變量(audio latents),每個步驟輸出的潛變量會作為下一步的輸入,並以此計算訓練損失。

在技術實現上,Phonon 將音頻編碼器視為類似語言模型中的分詞器角色,負責將音頻映射為潛變量。聲音並非錄音檔案,而是預先計算好的說話者潛變量張量(speaker latents),這些數據存放在 gradium/phonon-voices 中供載入使用。

效能表現與基準測試結果

Phonon 在 Hugging Face 推出的 Open TTS Leaderboard 上取得了顯著成績。該排行榜評估了超過 9,000 個 TTS 模型,指標涵蓋可懂度(以詞錯誤率 WER 衡量)、速度(以逆實時因子和音頻首字生成時間 TTFA 衡量)以及自然度(英語使用 UTMOS,韓語使用 KOMOS)。

在可懂度方面,Phonon 在德語和西班牙語測試中排名第一,在所有評估語言中均進入前三名,且其模型大小僅為競爭對手的百分之一左右。在速度方面,Phonon 在 CPU 串流基準測試的音頻首字生成時間(Time-to-first audio)項目上位居榜首。

為了優化效能,團隊開發了名為 ptts 的新推理框架,支援超過 10 種後端,包括 CPU(Intel, Arm, WebAssembly)、GPU(CUDA, Vulkan, Metal, WebGPU)以及 NPU(Apple Core ML, Snapdragon)。此外,Phonon 也整合進 Hugging Face Transformers v5.21 版本,作為參考 PyTorch 實現,針對 GPU 吞吐量進行批次生成優化。

應用場景與開發者生態

Phonon 可在手機、筆電、單板電腦及瀏覽器標籤頁中運行。官方展示了多個實際應用案例,包括在關閉 Wi-Fi 的 Apple Watch 上指導咖啡沖泡步驟、在無訊號 iPhone 上計數健身次數、以及由 Autonomous 機器人 Lamp 扮演的角色對話等。

開發者社群已開始基於 Phonon 進行二次開發,例如 ExecuTorch 轉換讓模型能在瀏覽器中的訪客 GPU 上運行,Micdrop 專案將其整合至 Node.js 應用中。Phonon 在發布後的前兩週內下載次數超過 20 萬次,並持續在 Hugging Face 平台上保持熱度。

除了內建的 100 多種聲音外,使用者可透過 Gradium Studio 使用語音克隆(Voice Cloning)或語音設計(Voice Design)功能創建自訂聲音。這些自訂聲音檔案下載後可直接載入 Phonon 模型中,實現完全離線運行。

未來發展與客製化服務

Gradium 團隊表示,Phonon 是其首個開放權重發布版本,未來將繼續擴展功能。對於記憶體預算有限的用戶,團隊可提供更小型的模型;若需要韓語、阿拉伯語或日語支援,也可進行訓練。

針對擁有特定詞彙庫的產品需求,團隊提供微調(Fine-tuning)服務。開發者可透過官方管道聯繫,提出具體的客製化需求,包括語言擴展、模型壓縮及領域適應性調整等。