決策模型運作機制與成本效益

elephant-1 並非傳統生成式語言模型，其設計目的是接收狀態輸入（如工單、文件或待篩選提示）以及一組是非題、多選題或排序評分問題，並直接從選項字母的 logits 讀取機率分佈。

所有問題共用同一個狀態預填充（prefill），因此額外增加的問題僅需對其短後綴進行一次前向傳播，大幅降低批量決策任務的運算開銷。

根據 Artificial Analysis 的獨立評估，elephant-1 在 Decision Index 獲得 65 分，與 d1-ultra 並列第一。然而，elephant-1 每百萬次任務的成本約為 8 美元，而 d1-ultra 則需約 31 美元，成本僅約四分之一。

基準測試表現與適用場景限制

Decision Index 是 Artificial Analysis 將 AA-Omniscience-Decision（知識與幻覺）、HLE-MultiChoice、When2Call 和 WildGuardTest 等指標進行等權重混合後的綜合評分。

在細項測試中，elephant-1 在 When2Call 獲得 95 分，WildGuardTest 獲得 93 分，顯示其在守則過濾與工具調用閘控方面表現強勁。

然而，在 Omniscience 測試中，該模型的非幻覺率高達 93%，但準確率僅為 12%。這意味著模型經過刻意訓練，傾向於回答「不知道」而非猜測，因此不適用於需要精確回憶冷門事實的場景。

開發團隊指出，路由決策、守則過濾、工具調用閘控以及大規模的 LLM-as-judge 應用是其最佳適用場景。

架構調整與訓練數據策略

在架構上，elephant-1 保留了 GDN 層的因果特性，但將全注意力層中的因果遮罩替換為區塊雙向遮罩。這使得問題區塊可以看到所有選項，並允許跨問題重用前綴快取。

技術報告聲稱，在固定數據條件下，此架構相較於純因果架構帶來 48.6 對 44.8 的效能提升，但該數據僅來自單次執行結果。

訓練混合集包含 621 萬個範例，其中 58% 為核心決策技能，16% 為安全與棄權機制，16% 為判斷與專家領域，10% 為轉換後的公開數據集。

合成數據經過由五位評審組成的標註小組審核，需至少四位同意才能通過，隨後進行去污染、代理審查以排除答案洩漏，並透過短程試訓練驗證。

效能提升來源與部署條件

報告指出，大部分效能增益來自數據處理。將訓練混合集規模擴大 16 倍，使其在公開 Jev 指標上的分數從 45.5 提升至 66.0。

對所有 253 個數據來源進行審核與修復，貢獻了剩餘約 8 分的提升。損失函數結合交叉熵與 Brier 項，並包含一個訓練過的「不知道」選項，在 128 張 H100 GPU 上執行單個 epoch。

elephant-1 的姊妹模型 mammoth-1（27B 參數）在 Jev Decision Index 0.4 上獲得 71.24 分，排名第一；而 elephant-1 則以 62.65 分成為 15B 以下參數規模的最佳成績，並在 208 個模型中並列第八。

自託管部署需透過附帶的 setup.sh 腳本在單張 CUDA GPU 上運行。最大上下文長度為 16k tokens，超過長度的請求會被拒絕而非截斷。