Problem

大型推理模型（LRM）在處理任務時存在系統性效率低下：模型常在簡單問題上過度思考（Overthink），卻在困難問題上思考不足（Underthink）。現有的統一長度懲罰或固定路由方法，往往為了節省運算量而犧牲了困難實例的準確度。

Method

提出 When2Think 框架，核心技術為「實例級難度感知控制」（IDAC）。該機制利用預先計算的準確度與標記使用量統計數據來調節推理深度，並結合驗證器獎勵與批次標準化優勢，實現穩定且無須額外獎勵模型的優化。這使模型能自主決定何時使用直覺快思（System 1）或深度慢思（System 2）。

Results

在數學競賽基準測試 AIME24 上，When2Think 的 Pass@3 比基準模型提升了 10.0%，同時標記使用量減少了 27.9%。在 AIME25 測試中，該方法達到 40.0% 的 Pass@3 表現，顯著優於傳統的壓縮技術與單純的路由基準模型。

Significance

此研究解決了推理模型在效能與成本之間的權衡難題，證明透過難度自適應的運算分配，模型能在不損失精度的前提下大幅降低運算開銷。這為開發更智慧、更具經濟效益的 AI 推理系統提供了一套具備擴展性的後訓練框架。