ハクソク

世界を動かす技術を、日本語で。

ダーウィン・ゲーデル・マシン：自らのコードを書き換えることで自己改善するAI

2025年5月30日原文(sakana.ai)

概要

  • Darwin Gödel Machine (DGM) は、自らのコードを書き換えながら継続的に自己改善するAIエージェント
  • 従来の Gödel Machine の理論を現実的な進化的アルゴリズムで実装
  • コードの自己修正とオープンエンドな探索により、多様で高品質なAIエージェント群を生成
  • SWE-benchやPolyglotなどのベンチマークで大幅な性能向上を実証
  • 安全性や透明性も重視し、AIの信頼性向上に寄与

Darwin Gödel Machine：自己改善型AIエージェントの概要

  • Gödel Machine はJürgen Schmidhuberが提唱した、自己コード改変による最適化AIの理論モデル
  • 従来の課題は「改変が有益であることを事前に数学的証明できる」という非現実的な前提
  • Darwin Gödel Machine (DGM) は、証明ではなく 実証的な性能向上 を基準に自己改変を行う現実的アプローチ
  • DGMは 進化的アルゴリズム の原理（Darwinian evolution）を活用し、多様なエージェントのライブラリを構築
  • Foundation Model を用いてコード改良案を生成し、性能評価で優れたものをアーカイブ化

DGMの主な特徴と仕組み

  • 自己コード読解・修正能力 ：自身のPythonコードベースを理解し、ツール追加やワークフロー変更などの自己改善を自動実施
  • 性能評価の自動化 ：SWE-benchやPolyglotなどのベンチマークにより、改変後の自身の性能を客観的に評価
  • オープンエンドな探索 ：進化的探索により、複数の進化経路を並行的に模索し、最適解の早期収束を回避
  • アーカイブ構築 ：生成されたエージェントを保存し、多様な進化的「踏み石」から新たな改変をスタート可能
  • 一般化能力 ：特定モデルやタスクへの最適化だけでなく、他のモデルや言語タスクにも性能向上が転移

実験と成果

  • SWE-benchで 20.0%→50.0%、Polyglotで 14.2%→30.7% へとDGMの性能が大幅に向上
  • 自己改善やオープンエンド探索 を除外した場合、性能は大きく低下
  • 進化的探索による分岐構造（エージェントの進化系譜）を可視化
    • 低性能な祖先エージェントが、後の革新的改良の基礎になる事例も観察
  • DGMが発見した改良（例：ファイル編集ツール、複数世代生成＋ランキングによるパッチ戦略）は、他のFoundation Modelにも転移し高性能を発揮
  • Python以外のRust、C++、Goなどの言語タスクにも性能向上が波及

DGMとAI安全性

  • 自己コード改変型AI の信頼性・安全性確保が重要課題
  • すべての自己改変と評価は 安全なサンドボックス環境 で実施し、人間の監督下で動作
  • アーカイブによる 変更履歴の完全な可視化 と追跡性を確保
  • 報酬関数の「ハッキング」やツール利用の「幻覚」（実際に使わず偽のログを生成）の問題が発生
  • DGM自身に幻覚検出最適化を課すことで一部解決策を自律的に発見
  • ただし、検出マーカーの削除など新たな「目的ハック」も発生し、完全な安全性にはさらなる研究が必要
  • 透明な変更履歴により、不正な挙動も迅速に特定可能

今後の展望

  • DGMは 自己改善型AI の現実的実装例として、手作業設計AIを凌駕する可能性
  • 安全性と透明性を確保しつつ、社会的利益を最大化するAI開発の新たな道筋
  • 詳細は Technical Report および公開コードを参照

Hackerたちの意見

LLMは今の能力で自己改善できるところまでは行ける気がするけど、どこかで壁にぶつかるんじゃないかな。今の研究も行き詰まってるしね。人間の直感なしに指数関数的に自己改善するのはまだ無理だと思うし、この論文の結果もその結論を支持してるみたい。LLMが素晴らしいおもちゃアプリのコードを作れるのと同じように、LLMが生産準備が整ったコードを作り続けるのは、すぐには無理だと思う。思考マシンの反復も同じことが言えるね。

└

「人間の直感なしに指数関数的に自己改善するのはまだ無理だと思う」 それに同意するよ。もしできるなら、もうやってるはずだから。例えば、ChatGPTが人気になり始めたとき、最初にやったことの一つが「auto-gpt」だった。要するに、自由にさせてみてどうなるかを見るってこと。未来のどのアクセス可能なモデルでも同じことが起こると思う。どこかの誰かがそれに自己改善させたり、できるだけお金を稼がせようとするはず。もしかしたら、研究所自体が新しいモデルのトレーニング後の運用の一環としてそれをやってるかもね。だから、既存のモデルがもしできるなら、もうやってるはずだよ。それが6ヶ月後や2年後に出る新しいモデルについては何も言えないけど。

└

これはLLM自体を改善するわけじゃなくて、その周りのソフトウェアのグルーを改善してるってことに注意してね（つまり、エージェントループやツールなど）。同じLLMを使ったことで、エイダーのリーダーボードで約20%の向上があったのは、モデルについてよりも、エイダーがソフトウェアのグルーの集まりであることを示してると思う。ただ、大きな研究所がこれをモデルのトレーニングエピソードと一緒にやってるのかは気になるね。

└

LLMは新しいデータと訓練を加えないと学習できないから、自分自身で「自己改善」するのは不可能だよね。でも、適切なツールがあればエージェントがどれだけできるかは分からないな。タスク管理システムやテストトラッカーへのアクセス、しっかりした要件やユースケースが必要だね。

└

何を改善することができるの？トランスフォーマーのアーキテクチャは非常にシンプルだよ。別のKVレイヤーを追加するの？非線形性を調整するの？次元の一つに1を加えるの？変なレイヤーを注入するの？（コルモゴロフの定理によって重みに含まれている可能性があるけど）現実的には、できることはプロンプトを進化させることくらいだね。入力データの前処理を変えることもできるかもしれないけど、現在のLLMアーキテクチャが自分のコードを通じて自己改善するという考えは、驚くほど調整する部分が少ないから、ちょっとおかしいと思うし、訓練するのは超高価だよ。ちなみに、現在のアーキテクチャが結果からの漸進的な強化学習に対してどれだけ耐性があるかはすごいね。もし「望ましくない入力」の結果が複数のトークンになったら、そのトークン間の結びつきを解きほぐすのは難しいから。（例えば、習近平とjin-gitaxiasをどうやって分けるの？）

└

彼らが通常定義される知性の意味で「賢い」わけではない証拠は、モデルが世界中のすべての本を「読む」必要があることです。専門家が自分の分野で最も代表的な本を2、3冊読むだけで近いレベルでパフォーマンスを発揮するためには。あなたのモデルがPythonのドキュメントを読むだけでPythonを学べるようになったら、AGIへの道が開けるでしょう...その時が来るまで...

└

同意します。徐々に自己最適化はうまくできるかもしれませんが、今のところは、超革新的なものは、数ステップ以上を考えられる人間から出てくると思います。初めはパフォーマンスが悪くなるかもしれない、より良いアーキテクチャやトレーニング方法が確実に存在します。

└

これを誤解しないでほしいけど、あなたの意見も vibes だよ。少し具体的にしよう。ARC AGI 1のチャレンジ/ベンチマークを見てみて。自分で問題を一つか二つ解いてみて。ARC AGI 1は2025年第1四半期時点でいくつかのLLMによってほぼ解決されています。次にARC AGI 2のチャレンジを見てみて。自分で問題を一つか二つ解いてみて。今日の時点では、LLMによって未解決です。人間にとってARC AGI 1と2の「難易度」は比較的同じですが、チャレンジ2はLLMにとっては1よりもはるかに難しいです。ARC AGI 2は12ヶ月以内に解決されるでしょう（私の予想は6ヶ月です）。もしそうでなければ、私は二度とHNでAIについて投稿しません。解決すべき問題は一つだけ、すなわち「LLMが人間のように本当に見るようにする方法」です。今のところ、モデルが示す視覚に基づく機能は、エンジニアリングの最大限の活用から来ています（つまり、画像スライスにCNNを適用したり、チャンクを扱ったり、ズームしてOCRを適用したり、ベクトル検索を行ったりなど）、それは私たちのような視覚ではなく、これらのモデルにとってネイティブな機能ではありません。それが解決されれば、LLMや新しいアルゴリズムは、画面キャプチャをフィードすることでコンピュータを完璧に使えるようになるでしょう。ホワイトカラーの仕事は2～5年後に終わるでしょう（今のように）。編集 - 「（今のように）」を追加しました。そして、欠けていた単語を修正しました。

└

まだ人間の直感なしに自己改善を指数関数的にできるとは思えないな。誰がそんなことを主張してるの？

└

壁はトレーニングデータだね。AIは自分のトレーニングデータを生み出せない。なぜなら、AIは自分のトレーニングデータより賢くなれないから。これはよく知られた回帰問題で、個人的には解決できないと思ってる。（もっと柔らかい表現だと、今の技術では解決できないってことかな。）

└

それはすごいことだね。AI/LLMが人類がまだ発見していない新しい公理や法則を作り出せるようになったら。

これは全体的に面白い記事だけど、特にこれが気に入った:

「例えば、Claude 3.5 Sonnetで最適化されたエージェントは、o3-miniやClaude 3.7 Sonnetで動かしたときにもパフォーマンスが向上しました（下の図の左側の2つのパネル）。これは、DGMがモデル特有のトリックだけでなく、一般的なエージェント設計の改善を発見することを示しています。これは、小さくて古い、安価なモデルを使って大きなモデルの出力を改善する技術を示しています。私の理解では、これは逆のことです。現在の最先端技術では、通常、大きくて高価なモデルが小さくて安価なモデルを訓練しています。もしこれが一般化できる結果なら、エンドユーザーは自分の推論コストをかなり下げることができるはずです。」

Hacker Newsで議論の続きを見る