コーディングエージェントには「潜在的なプログラミング地平」がある——新たな研究がLLMが編集を事前に予測することを明らかに

KTH王立工科大学のチームが、大規模言語モデルがコーディングエージェント内で生成しているコードについて実際に何を知っているかを掘り下げた論文を発表した。見出し：LLMはプログラムの現在の状態に反応するだけではない——コードが向かう先の内部表現を維持しているように見え、時には編集がディスクに書き込まれる25ステップ前からそれを予測する。

彼らがやったこと

研究者らは、LLM（2つのモデル、2つのベンチマーク）がコーディングエージェントとして動作している間、その残差ストリーム活性化に対してロジスティック回帰プローブを訓練した。プローブは、現在のコードがパースできるか、テストに合格するか、失敗テストを減らすか、またはリグレッションを導入するかを解読した。結果：正しさのAUCは最大0.83——つまり、隠れ状態はプログラム品質に関する驚くほどクリーンな信号を運んでいる。

しかし、より興味深い発見は時間的なものである。エージェントがまだ行っていない将来の編集の結果を予測するように訓練されたプローブは、最大約25ステップ先まで偶然以上のパフォーマンスを示した。著者らはこれを潜在的なプログラミング地平と呼ぶ。モデルの内部表現は、自身の行動よりも先に進んでいる。

これが重要な理由

コーディングエージェント（GitHub Copilot、Cursor、Devinなど）はブラックボックスである。プロンプトを受け取り、推論-編集-テストのループを実行し、コードを生成する。モデルが実際にプログラムのセマンティクスを追跡しているのか、それとも単にパターンマッチングで進んでいるのか、ほとんど可視性がない。この論文は、モデルが確かにプログラムの構造化された内部モデルを構築していること、そしてこのモデルが予測的であり、単なる反応的ではないという証拠を提供する。

外的妥当性の証明として、プローブは再訓練なしでベンチマーク間を転移した。これは、潜在表現がベンチマーク固有のアーティファクトではなく、マルチステップタスク中にLLMがコードをエンコードする一般的な特性であることを示唆している。

落とし穴

プローブは隠れ状態に対するロジスティック回帰——単純な線形読み出し——である。つまり、信号は存在するが、ノイズも多い。25ステップの地平は上限であり、先を見るほどパフォーマンスは低下する。そして論文は、この地平を使ってエージェントの振る舞いを改善できることを示しているわけではなく、存在することを示しているだけである。

それでも、これはメカニズム的解釈可能性の確かな作品である。自身の潜在状態を内省できるコーディングエージェントを構築する扉を開く——おそらく、悪い編集がコミットされる前に軌道修正することも可能にする。それは真の飛躍となるだろう。