有效範圍內PBT速度顯著落後網格搜尋

研究者在模數97加法任務、35%訓練分割、小型MLP架構下，比較了PBT與網格搜尋在學習率及權重衰減上的表現。實驗設定包含20個群體成員、20,000步全批次訓練，並確保兩者計算量相等。

結果顯示，網格搜尋的最佳固定參數組合平均在317 ± 29步達到95%驗證準確率，而PBT則需耗費2667 ± 2244步。在所有測試種子中，PBT的收敛速度均慢於網格搜尋，因為網格搜尋的角落已包含最佳解。

從無效參數死區出發時PBT展現救援能力

當初始超參數設定在學習率1e-4至1e-3、權重衰減0.01至0.08的範圍時，該區域內沒有任何固定設定能觸發Grokking。在此條件下，固定設定與慢速PBT均無法成功（0/3種子），但快速PBT（每100步調整一次，倍率為×0.5或×2）則有3/3種子成功達到目標。

快速PBT的成功路徑顯示，學習率先降至下限，接著權重衰減升至上限，最後學習率再回升。驗證損失函數在早期偏好低學習率與低權重衰減的組合，這對於Grokking而言是錯誤方向，但該趨勢後期會反轉。

動態調度機制比群體複製更為關鍵

消融實驗顯示，即使使用隨機捐贈者進行權重交換，PBT仍能脫困，只是時間較晚；若完全移除選擇機制，成員雖能暫時Grokking但隨後會失去該狀態。這表明超參數的動態調整路徑是成功的主因，而非群體間的權重複製。

研究者將勝出的學習率與權重衰減調度方案應用於全新初始化的模型上，發現55/60次測試能達到95%準確率；但若僅使用該調度的幾何平均值作為固定參數，則0/60次成功。這進一步證實結果取決於超參數隨時間的變化策略。

隨機搜尋在寬廣範圍內仍具效率優勢

在10個種子的測試中，從死區出發時，廣泛隨機搜尋達到95%準確率的中位數步數為300步，遠優於PBT的6,650步。此外，PBT有時會陷入學習率下限與權重衰減上限的角落而無法脫離。

研究者指出，PBT在此實驗中並非加速工具，而是用於從不良參數範圍中救援的手段。然而，該結論僅基於單一任務、單一模型架構與特定數據分割，且多數測試僅使用3至10個種子，統計顯著性（p值）多高於0.05。