世界を動かす技術を、日本語で。
この論文では、AGIシステムが特定の意味的条件下で構造的に崩壊するという理論的証明を示しています。計算能力の不足ではなく、重い尾を持つ意思決定空間におけるエントロピーの振る舞いによるものです。このアイデアは「IOpenER」と呼ばれています：情報が開かれると、エントロピーが上昇するというものです。シャノンの情報理論に基づいて、特定の問題クラス（α ≤ 1）では、情報を追加しても不確実性が減少するどころか、むしろ増加することを示しています。意味そのものが増殖し続けるため、システムは収束できません。この核心概念、つまりこれらの空間におけるエントロピーの発散は、私の以前の論文にもすでに存在しており、6月1日にPhilArchiveにアップロードしました。このバージョンではそれを形式化しています。Appleの研究「思考の幻想」は数日後に発表され、Claude 3.7やDeepSeek-R1のような最前線の推論モデルが、問題の複雑さが増すときに正確に崩壊することを示しています。推論予算は十分にあるにもかかわらずです。この論文はAppleの研究に対する反応として書いたわけではありませんが、整合性があるのは興味深いです。彼らの実証的な発見は、IOpenERが予測するものと一致しているようです。このコミュニティがどう思うのか気になります：これは意味のある収束なのか、それとも単なる興味深い偶然なのか？
あなたが言うように、数学的証明は「ノーフリーランチ定理」に似ている感じがします。人間もそういうことを学ぶのに一般化できませんよね。2.1で指摘されているように、「AGI」の意味については広く意見が分かれています。あなたが挙げているいくつかの定義は、基本的には「人間と同等である」というものですね。人間は物理学に還元でき、物理学はコンピュータプログラムとして表現できるので、当然、そういった定義は十分に強力なコンピュータによって達成可能です。3.1では、次のように主張しています：""" さて、最先端の自然言語処理、感情分析、社会的推論を備えたAIシステムがこの質問に取り組むとどうなるか観察してみましょう。AIは分析を始めます： • オプション1：生体データに基づく真実の応答 → 可能性のあるネガティブな感情的影響を計算 → 正直さのパラメータを調整 → でも待って、関係の歴史はどうなる？ → 再計算中... • オプション2：外交的な回避 → 10,000の成功した回避パターンを分析 → でもトーンが重要 → マイクロ表情の分析が必要 → でもタイミングが重要 → 過去の会話も重要 → まだ計算中... • オプション3：愛情を込めたリダイレクト → 最適な感情を処理 → でもここでの最適とは何？ 目標がどんどん変わる → 正直さ？ 調和？ 信頼？ → パラメータが不安定 → まだ計算中... • オプションn： .... おかしいですよね？ AIはクラッシュしていません。まだ動いています。実際、ますます微妙な分析を生成しています。追加の要素が10の新しい考慮事項を開くかもしれません。答えに近づいているわけではなく、むしろ離れていっています。 """ どのAIですか？ ChatGPTはただ答えを返すだけです。他の例も、AIに実際に何をするか聞いてみるのではなく、あなたが想像したAIのように見えます。似たような問題を確認するために47ページも読む気にはなれません。
ありがとう！論文の全文を読むのが楽しみです。とはいえ、タイトルについて思いつく最も明白な反論は…そうですね、私は一般的に知的だと感じているので、何らかの形の一般知能が不可能であるとは明らかに思えません。人間と「人工」の「A」をどう区別しているのか、簡単に説明してもらえますか？
「この論文では、AGIシステムが特定の意味的条件下で構造的に崩壊するという理論的証明を示しています…」いいえ、そうではありません。シャノンエントロピーはデータの統計的不確実性を測定します。エージェントが新しい概念フレームを発明できるかどうかについては何も言っていません。「フレームの変化」をエントロピーの上昇と同一視するのは比喩であり、定理ではないので、数学的証明としても意味がありません。これはせいぜい哲学的な考察です。
これは、AIが新しいコンポーネントを考案し、ドローンなどを使って自分自身の新しい反復を構築し、計算能力を高め、必要に応じて資源を求めて宇宙に出ていくことを含みますか？フォン・ノイマンプローブを使って…など？
あなたが「ウィッキッド・プロブレム」の概念を再発見したのかもしれないと思ってるんだけど、これは1970年代からシステム分析や社会学で研究されてきたものだよ（ウィキペディアのページを引用したいけど、あの書き方はあまり好きじゃないんだ）。もし知らないなら、ちょっと調べてみる価値があるかも。
人間がチューリング計算可能を超えていることを証明できない限り、その見出しは意味がないよ。チャーチ・チューリングの定理が真実でないことも示せないとね。これに対処している様子もないから、論文の残りを考慮する理由はないよ。
あなたの論文に書かれている主張には共感する部分があるよ。私は不可能性の結果が好きだし、AGIのある定義に対してエントロピーが問題だという説得力のある議論があると信じられる。スケーラブルな量子コンピューティングは良い比較対象だね。でも、あなたの論文はクランクな赤信号を出しまくってるよ。そんな大胆な主張に対して強い議論があるなら、前面に出すべきだよ：AGIの定義を示して、証明を提示して、それをそのままにしておけばいい。定義についての議論は有用だけど、あなたの私生活やカントについての議論は本当に必要ないよ。論文をざっと見た感じだと、あなたの主張は「AGIが間違える質問があるはずだ」というところに集約されているみたいだね。まあ、AGIがアルゴリズム的であるという定義が含まれているから、これはハルティング問題のおかげで既に明らかだよ。
特定の問題クラス（α ≤ 1）、素人には、ここでのαは何を意味してるの？
アップルの論文はちょっとストローマンを作ってると思う。基本的に複雑なアルゴリズムタスクに訓練されていないLLMが、その場で解決策を見つけるのを期待するのは無理があるよ。ほとんどの人はハノイの塔の簡単なケースを解けるけど、複雑なケースはほとんど誰も解けない。一般的に、解ける人はそれができるように訓練されているんだ。
ペンローズはこの議論をもっと上手くやってるよ。[1] ペンローズはこの議論を30年間続けていて、AIが良くなり始める前の方が説得力がありました。LLMを通じたAIには限界がありますが、それは計算可能性から来ているわけではありません。[1] https://sortingsearching.com/2021/07/18/roger-penrose-ai-ske...
ありがとう — そうだね、ペンローズの議論はよく知られてる。でも、これはそれとは違うんだ。意識についての主張をしているわけでもないし、量子物理学や微小管を持ち出しているわけでもない（確かに、これはかなりの推測だと思う）。私の議論の核心は、計算可能性と情報理論に基づいているんだ。生物学ではなくてね。具体的には、アルゴリズム的システムは、還元不可能な複雑さや意味の乖離を伴う意思決定の文脈で厳しい形式的限界に達するってこと。その限界は、既存の数学的ツール（シャノンやライスなど）を使って証明できるんだ。だから、ある意味では、これは微小管を使わないAI批評のバージョンなんだよ。ノーベルレベルの量子推測に関わる物理学のバックグラウンドは持ってないし、幸運なことに、ここでは必要ないんだ。