30秒で理解
このサーベイは推論モデルの進展を3つの軸で整理する：訓練時の報酬設計、推論時の計算配分、評価時のリーク対策。最も重要な結論は、テスト時計算の効果には明確な変曲点があり、「長く考えさせる」ことが常に有効とは限らない、という点だ。
論文の要点
サーベイは Chain-of-Thought プロンプティングからプロセス報酬モデル、テスト時探索までの主要な技術路線を網羅し、公開ベンチマークでの横断比較を整理している。
記憶しておきたい3つの結論：
- プロセス報酬 vs 結果報酬：数学系タスクではプロセス報酬が優位だが、オープンエンドなタスクでは設計の良い結果報酬も遜色ない。
- テスト時計算には変曲点がある：思考トークンを増やすと効果は最初急峻に、その後平坦になる。簡単なタスクでは過剰思考が精度を下げることもある。
- 評価リークは過小評価されている：主要ベンチマークの問題文の近似原文が事前学習コーパスに存在し、リーダーボードの差の一部は推論ではなく記憶に由来する可能性がある。
著者らの表現は抑制的だ：我々が測っているのは「ベンチマークスコアの向上」であり、「推論能力の向上」とは限らない。
この結果をどう使うか
モデル選定では総合スコアではなくタスクの型を見るべきだ。構造化された検証可能なタスク（数学・コード）は推論モデルの恩恵が最大で、文章生成や要約の差は宣伝ほど大きくない。
アプリケーション開発では、変曲点の存在は「推論予算に上限を設けることが品質最適化でもある」ことを意味する。
