團隊背景與研究目標

MOSS團隊位於上海,其根源來自復旦大學的OpenMOSS研究團隊以及上海創新研究院。該團隊於10月30日太平洋時間上午8點至11點在Reddit進行AMA問答活動,並在之後48小時內持續回覆提問。

團隊表示其廣泛的研究目標是建立能追蹤周圍環境變化的AI,包括人們說了什麼、看到了什麼以及情況如何隨時間改變。這涵蓋了語音生成、音訊與視覺理解,以及同步的影音生成技術。

影像生成模型MOSS-Image的規格與授權

MOSS-Image是一款文字轉影像模型,採用5B參數的DiT(Diffusion Transformer)主幹架構。該模型支援中文與英文的文字渲染功能,並提供JSON格式的版面控制選項。

基礎模型權重、微調後權重以及隨附的推論程式碼均以Apache 2.0授權發布。根據團隊說法,MOSS-Image在Hugging Face上持續位居熱門文字轉影像模型之列,其ComfyUI版本已記錄超過370萬次下載量。

語音與音效生成的多樣化選擇

團隊提供多種針對不同場景優化的語音生成模型。MOSS-TTS負責語音合成與聲音複製,而MOSS-TTSD則專注於多說話者對話、長篇對話及播客內容的生成。

為了即時應用,團隊推出了MOSS-TTS-Realtime以支援串流語音生成,以及僅有100M參數的輕量級模型MOSS-TTS-Nano,後者專為CPU友好的串流推論設計。此外,還有無需參考音訊即可從文字描述設計聲音的MOSS-VoiceGenerator,以及從文字生成音效的MOSS-SoundEffect。

音訊理解與視覺處理能力

在音訊理解方面,團隊提供了具備說話者標籤與時間戳記轉錄功能的MOSS-Transcribe-Diarize,以及能對語音、環境聲音和音樂進行理解與推理的MOSS-Audio。另有專門處理歌詞、樂器編制及結構理解的MOSS-Music模型。

視覺方面,MOSS-VL支援包含長影片在內的影像與影片理解,而MOSS-VL-Realtime則能即時理解串流影片。團隊還開發了MOVA模型,能夠同步生成影音內容。