SR-SWA 如何解決長序列計算瓶頸

Unlimited OCR 2 的核心改進在於引入 Sparse Reference Sliding Window Attention (SR-SWA)。該技術將文字與視覺的注意力互動從超長序列壓縮至一組固定大小的工作參考集（例如 512 tokens），以此限制計算複雜度，並消除隨文件增長而產生的二次方注意力縮放問題。

SR-SWA 透過將文字與視覺的注意力互動從超長序列壓縮至一組固定大小的工作參考集（例如 512 tokens），來限制計算複雜度。這種機制使得每步解碼的延遲和記憶體佔用幾乎保持恆定，不受文件實際長度的影響。

實現有限視窗下的無限範圍解析

得益於 SR-SWA 技術，Unlimited OCR 2 聲稱能在有限的上下文視窗內實現真正的無邊界文件解析（unbounded document parsing within a finite context window）。這意味著模型不再受限於傳統固定長度輸入的限制，能夠處理理論上任意長度的文檔。

這種架構設計有效消除了隨著文件增長而產生的記憶體瓶頸與二次方注意力縮放問題，使模型在處理極長文檔時仍能維持穩定的運行效率。

在多頁與百頁級基準測試中達到 SOTA

官方發布指出，Unlimited OCR 2 在多個基準測試中取得了最先進（State-of-the-Art, SOTA）的性能表現。這包括處理數十頁文件的 MPDocBench 以及專門針對極端長文檔的百頁級基準 MarathonDocBench。

官方發布指出，Unlimited OCR 2 在多個基準測試中取得了最先進（State-of-the-Art, SOTA）的性能表現。這包括處理數十頁文件的 MPDocBench 以及專門針對極端長文檔的百頁級基準 MarathonDocBench。