LFM3-Omni-2B 模型可在瀏覽器端透過 WebGPU 本地執行

LFM3-Omni-2B 全模態模型展示其在瀏覽器中透過 WebGPU 技術完全本地運行的能力。該模型無需額外語音辨識或合成模組，即可處理視覺、音訊與文字輸入，並在 M4 Max 硬體上達到約每秒 280 個 token 的生成速度。

AI 新聞雷達編輯團隊·本站收錄：2026/10/31 03:43（台灣時間）·閱讀約 2 分鐘

本站收錄時間為新聞雷達完成整理的時間，不代表事件發生時間。原文日期僅在取得明確來源證據時顯示；未標示者請參閱下方原始來源。

30 秒掌握

LFM3-Omni-2B 是首個宣稱能在瀏覽器內完全端到端運行的全模態模型，整合了視覺、音訊與文字處理，無需依賴獨立的 ASR 或 TTS 系統。

透過自訂 WebGPU kernels，該模型在 Apple M4 Max 晶片上可達到約每秒 280 個 token 的生成速度，首個文字 token 延遲為 90 毫秒，首個音訊 token 延遲為 140 毫秒。

開發者已於 Hugging Face Spaces 提供線上 Demo，讓使用者可直接在瀏覽器中體驗該模型的本地推理能力。

瀏覽器端全模態運行的技術實現

LFM3-Omni-2B 被描述為首個能在瀏覽器中 100% 本地執行的真正全模態（omni）模型。其運作方式是完全端到端的，意味著它不需要搭配獨立的自動語音辨識（ASR）或文字轉語音（TTS）模型來處理多模態輸入與輸出。

該模型能夠接受視覺、音訊或文字作為輸入，並產生交錯的文字與音訊 token。此架構意味著單一模型可直接處理多種輸入並產生交錯輸出，無需串接獨立模組。

為了在瀏覽器環境中實現高效推理，開發團隊使用了自訂的 WebGPU kernels。根據發布資訊，該模型在 Apple M4 Max 硬體上運行時，可達到約每秒 280 個 token（tok/s）的生成速度。

在延遲表現方面，從輸入到產生首個文字 token 的時間為 90 毫秒，而產生首個音訊 token 的時間則為 140 毫秒。上述數據為來源提供的特定硬體下的測試結果。

來源提供了位於 Hugging Face Spaces 的 LFM3-Omni-2B-WebGPU 示範應用連結。使用者可以透過該連結直接在瀏覽器中測試模型的功能，無需安裝額外軟體或依賴雲端伺服器進行推理。