測試設定與硬體環境

此次測試使用 MOSS-Transcribe-Diarize 0.9B 模型,該模型設計為在單一推理過程中同時輸出轉錄文字、時間戳與說話者標籤。執行平台為 M5 Pro MacBook Pro,配備 64 GB 記憶體,並透過 Apple Silicon 的 MPS(Metal Performance Shaders)後端調用 GPU 進行運算。

測試資料取自 AMI Meeting Corpus 測試集的第 12 行音訊,長度為 17 分 29 秒(1,049 秒),包含四位說話者的頭戴式麥克風混合錄音。AMI 資料集採用 CC BY 4.0 授權。

執行參數嚴格遵循模型 README 提供的 transformers 程式碼範例,設定為 fp32 精度、SDPA 注意力機制與貪婪解碼(greedy decoding)。過程中未啟用熱詞(hotwords)、語音活動偵測(VAD)或其他後處理步驟。

效能數據與準確度評估

模型處理上述 1,049 秒的音訊檔案共耗時 714 秒,換算後約為即時速度的 0.68 倍(real-time factor)。在說話者辨識方面,若採用標準的 0.25 秒容錯範圍(collar)並進行最佳說話者對應映射,計算出的說話者混淆率僅為 0.08%,意味著絕大多數轉錄內容都被正確歸因到對應的人物。

然而,整體對話錯誤率(Diarization Error Rate, DER)在相同條件下為 15.4%。DER 是一個綜合指標,涵蓋了漏字、多字以及說話者標記錯誤,這顯示雖然說話者身分辨識準確,但在時間戳對齊或文字轉錄的完整性上仍有改進空間。

測試結果顯示模型具備處理重疊說話(overlapping speech)的能力。在生成的 317 個語音片段中,有 87 個片段的開始時間早於前一個片段的結束時間,且這些重疊片段均被正確標記為不同的說話者 ID,表明模型能將打斷或同時說話的情況分離並標註。

原始輸出範例與限制說明

使用者提供了未經修改的原始輸出開頭部分,格式為時間戳加上說話者標籤(如 S01, S02)後接轉錄文字。例如:[10.88][S01]Are we we're not allowed to dim the lights... 以及 [29.04][S03]Is she gonna answer me or not? 緊接著 [29.84][S01]Yeah, I've got.,顯示模型確實捕捉到了說話者 S03 與 S01 之間的時間重疊。

此次評估僅針對「誰說了什麼」以及「何時說」進行評分,因為所使用的 AMI 參考標準主要涵蓋這些資訊。這不代表對轉錄文字內容的語法或語義準確性進行了全面評估。

該測試為單一會議案例,結果可能無法直接推廣至所有類型的會議錄音或硬體配置。使用者在貼文中也呼籲其他擁有 Apple Silicon 設備的使用者,若能提供 pyannote 3.1 搭配 Whisper 模型在相同 AMI 測試檔案上的 DER 與執行時間數據,將有助於進行更直接的效能比較。