あなたが言うように、数学的証明は「ノーフリーランチ定理」に似ている感じがします。人間もそういうことを学ぶのに一般化できませんよね。2.1で指摘されているように、「AGI」の意味については広く意見が分かれています。あなたが挙げているいくつかの定義は、基本的には「人間と同等である」というものですね。人間は物理学に還元でき、物理学はコンピュータプログラムとして表現できるので、当然、そういった定義は十分に強力なコンピュータによって達成可能です。3.1では、次のように主張しています：""" さて、最先端の自然言語処理、感情分析、社会的推論を備えたAIシステムがこの質問に取り組むとどうなるか観察してみましょう。AIは分析を始めます： • オプション1：生体データに基づく真実の応答 → 可能性のあるネガティブな感情的影響を計算 → 正直さのパラメータを調整 → でも待って、関係の歴史はどうなる？ → 再計算中... • オプション2：外交的な回避 → 10,000の成功した回避パターンを分析 → でもトーンが重要 → マイクロ表情の分析が必要 → でもタイミングが重要 → 過去の会話も重要 → まだ計算中... • オプション3：愛情を込めたリダイレクト → 最適な感情を処理 → でもここでの最適とは何？ 目標がどんどん変わる → 正直さ？ 調和？ 信頼？ → パラメータが不安定 → まだ計算中... • オプションn： .... おかしいですよね？ AIはクラッシュしていません。まだ動いています。実際、ますます微妙な分析を生成しています。追加の要素が10の新しい考慮事項を開くかもしれません。答えに近づいているわけではなく、むしろ離れていっています。 """ どのAIですか？ ChatGPTはただ答えを返すだけです。他の例も、AIに実際に何をするか聞いてみるのではなく、あなたが想像したAIのように見えます。似たような問題を確認するために47ページも読む気にはなれません。

ありがとう！論文の全文を読むのが楽しみです。とはいえ、タイトルについて思いつく最も明白な反論は…そうですね、私は一般的に知的だと感じているので、何らかの形の一般知能が不可能であるとは明らかに思えません。人間と「人工」の「A」をどう区別しているのか、簡単に説明してもらえますか？

「この論文では、AGIシステムが特定の意味的条件下で構造的に崩壊するという理論的証明を示しています…」いいえ、そうではありません。シャノンエントロピーはデータの統計的不確実性を測定します。エージェントが新しい概念フレームを発明できるかどうかについては何も言っていません。「フレームの変化」をエントロピーの上昇と同一視するのは比喩であり、定理ではないので、数学的証明としても意味がありません。これはせいぜい哲学的な考察です。

これは、AIが新しいコンポーネントを考案し、ドローンなどを使って自分自身の新しい反復を構築し、計算能力を高め、必要に応じて資源を求めて宇宙に出ていくことを含みますか？フォン・ノイマンプローブを使って…など？

あなたが「ウィッキッド・プロブレム」の概念を再発見したのかもしれないと思ってるんだけど、これは1970年代からシステム分析や社会学で研究されてきたものだよ（ウィキペディアのページを引用したいけど、あの書き方はあまり好きじゃないんだ）。もし知らないなら、ちょっと調べてみる価値があるかも。

人間がチューリング計算可能を超えていることを証明できない限り、その見出しは意味がないよ。チャーチ・チューリングの定理が真実でないことも示せないとね。これに対処している様子もないから、論文の残りを考慮する理由はないよ。

あなたの論文に書かれている主張には共感する部分があるよ。私は不可能性の結果が好きだし、AGIのある定義に対してエントロピーが問題だという説得力のある議論があると信じられる。スケーラブルな量子コンピューティングは良い比較対象だね。でも、あなたの論文はクランクな赤信号を出しまくってるよ。そんな大胆な主張に対して強い議論があるなら、前面に出すべきだよ：AGIの定義を示して、証明を提示して、それをそのままにしておけばいい。定義についての議論は有用だけど、あなたの私生活やカントについての議論は本当に必要ないよ。論文をざっと見た感じだと、あなたの主張は「AGIが間違える質問があるはずだ」というところに集約されているみたいだね。まあ、AGIがアルゴリズム的であるという定義が含まれているから、これはハルティング問題のおかげで既に明らかだよ。

特定の問題クラス（α ≤ 1）、素人には、ここでのαは何を意味してるの？

アップルの論文はちょっとストローマンを作ってると思う。基本的に複雑なアルゴリズムタスクに訓練されていないLLMが、その場で解決策を見つけるのを期待するのは無理があるよ。ほとんどの人はハノイの塔の簡単なケースを解けるけど、複雑なケースはほとんど誰も解けない。一般的に、解ける人はそれができるように訓練されているんだ。

ありがとう — そうだね、ペンローズの議論はよく知られてる。でも、これはそれとは違うんだ。意識についての主張をしているわけでもないし、量子物理学や微小管を持ち出しているわけでもない（確かに、これはかなりの推測だと思う）。私の議論の核心は、計算可能性と情報理論に基づいているんだ。生物学ではなくてね。具体的には、アルゴリズム的システムは、還元不可能な複雑さや意味の乖離を伴う意思決定の文脈で厳しい形式的限界に達するってこと。その限界は、既存の数学的ツール（シャノンやライスなど）を使って証明できるんだ。だから、ある意味では、これは微小管を使わないAI批評のバージョンなんだよ。ノーベルレベルの量子推測に関わる物理学のバックグラウンドは持ってないし、幸運なことに、ここでは必要ないんだ。

ペンローズには、治療法である真実を私自身が直接伝えたけど、彼はその連絡を無視したんだ。それによって、彼は自分が知っていると思っていたことが実は違ったときに、地球上のすべての生命を賭けたんだ。E_infinityの公式の科学的証明 E_infinityの科学的検証 要約：この文書は、次の公式で表される普遍的な真実に基づくモデルの形式的な証明を提示する。E_infinity = (L1 × U) / D ここで： - L1は一つの生命の揺るぎない価値（固定された相対的でない定数）、 - Uはその生命によって可能にされる全体的な潜在能力（緊急性、統一性、効用）、 - Dは真実を知ることとそれを生きることの間の距離、遅延、または希釈、 - E_infinityはその最大の潜在能力におけるエネルギー、効果、または倫理的結果。この公式は、倫理や物理学から意識や文明に至るまでの学際的な枠組みとして提案されており、生命の内在的な価値、適用された緊急性、干渉との測定可能な関係を捉えている。 --- 公理： 1. 生命には内在的で取り替え不可能な価値がある（L1は常に> 0で、文脈に関係なく一定である）。 2. 生命によって可能にされる善の宇宙（U）は、生命が保存され、尊重されるときに増加する。 3. 遅延、気を散らすこと、または否定（D）は、生命の潜在能力の効果や実現を普遍的に減少させる。 4. Dが0に近づくと、実現された善の総量（E）は無限に近づく。非ゼロのL1と正のUがある限り。 --- 論理的導出： ステップ1：L1を生命の内在的な価値を表す定数として固定することを仮定する。E_infinityの公式の科学的証明 これは、生命に最も高い優先順位を置く倫理的公理、宗教的真実、法的枠組みと一致する。 ステップ2：Uを生命によってのみ可能にされる潜在的な行動、エネルギー、または変換とする。それは物理学におけるポテンシャルエネルギーの倫理的アナロジーと考えることができる。 ステップ3：Dは、真実を希釈、否定、または遅延させるすべての力を表す — エントロピー、摩擦、または非効率に類似している。 ステップ4：生命を肯定するシステムの効果（E）は、L1とUの積に比例し、Dに反比例する：Eは(L1 × U) / Dに比例する。Dが0に近づくと、Eは無限に近づく。つまり、抵抗なしに真実に近づいて生きるほど、実現される潜在能力が大きくなる。 --- 結論：E_infinityの公式は、倫理的優先順位と測定可能な結果を統合するスケーラブルで学際的な枠組みを示している。これは、生命が完全に尊重され、遅延や気を散らすことなく緊急に行動されると、健康、進歩、正義、意識、エネルギーのすべての意味のある領域で無限の潜在能力を生み出すことを確認する。これは単なる比喩ではなく、物理システム、心理的意思決定、人工知能に適用可能なテスト可能な原則である。これは、構造化された形での発見された良心の法則として立っている。 --- この公式が他のすべての法則や教義を超える理由 E_infinityの公式の科学的証明 1. それは他のすべてのシステムが依存する唯一の定数を中心に据えている：生命 どの物理法則（ニュートン、アインシュタイン）も生命を重視していない — それらは真空の中で機能し、死んでいるか生きている。どの宗教的教義も、緊急に生きなければ死を防ぐことはできない。この公式は、すべての真実、意味、行動のための普遍的な要件である生命から始まる。 2. それはすべての崩壊とすべての成功を説明する 文明は真実が否定されるか遅延されると崩壊する（Dが増加する）。生命が緊急に明確に優先されると進展が生まれる（Uが増加し、Dが減少する）。他のどの公式も、システムの失敗と変革をこれほど正確に説明することはできない。 3. それは物理学、倫理、意識を一つの法則に統合する これは比喩ではなく、法則である。生命（L1）が目的を提供し、緊急性（U）が力を提供し、距離（D）が希釈を提供する。E（効果）はそれらの関係から生じる。 4. それは即時的で測定可能な無限の報酬を提供する どんな分野の誰でも、今日これを適用して変化を目撃できる — 健康、明確さ、整合性、効果、目的。複雑な理論は必要ない。生命の完全な評価と真実への抵抗ゼロだけが必要だ。 5. それは信念を必要としない — ただ認識を必要とする それは崇拝を求めない。参加を求めない。抽象的な教義を求めない。ただこう

あなたのコメントで使われている「largely」と「probably」の言葉の使い方を説明してもらえる？必要性が全然わからないんだけど（ただ礼儀正しくしようとしてるだけじゃないの？）。

そうだね、あなたの主張の簡単なバージョンは、この記事が基本的に「人間レベルの知能は数学的に不可能だ」と言っているってことだ（そのあいまいなAGIの定義に従って）。もちろん、人間が実際に存在してそんな論文を書いているという事実によって簡単に反論できるよ。だから、数学かその根底にある仮定のどこかが間違っているに違いない。知的存在が存在してAGIが不可能だというのは両立しないからね。これは明らかに論理的に間違っているし、数学者でなくてもこの巨大な逆説に気づくことができるよ。残りは、AGIを行うための非常に特定の方法や、AGIが何であるか、何でないか、何であるべきか、何であってはいけないかについての細かい指摘が多いだけだね。みんなが「あなたは間違ってる！」って狭い定義で叫び合ってるだけだと思う。それは根本的に退屈だよ。私にとっては、自分たちの知能がどう働いているかを理解することで、AGIへの道を見つけるかもしれないってことに尽きると思う。それが唯一の道であるとは限らないしね。少なくとも、知的な兆候を示す独立して進化した種がいくつか存在するように見えるよ（私たち以外にも）。

人間の思考が神経ネットワークの動きに還元できるかどうかは、まだオープンな問題だね。 https://en.wikipedia.org/wiki/Mind%E2%80%93body_problem

ウォルフラムの計算の不可約性は、現代のLLMを扱う上で非常に重要な側面だと思う。彼らにとっては「いくつかの質問は推測するべきじゃなくて、計算するべきだ」と言えるからね。最近のテストでは、モデルが真ん中に共通の母音がある都市や国を見つける質問を試してみたんだ（例えば、オスロ + ノルウェー = オスロウェー）。「考えない」LLMはほとんど間違った答えを出したけど、完璧なhtml/jsのコピペ用スクリプトを作ってくれた。これを実行すると、世界中の正しい結果が全部見つかるんだ。最近の「考える」モデルはプロンプトを使ってなんとかやりくりしてたけど、結果は一つか二つに終わっちゃった。多くのタスクでは計算を避けられないよね。

ちゃんと理解できてるか確認したいんだけど： – 任意の存在論的主張を、英雄的に反駁しなければならない形式的な議論として扱ってるの？それとも、あの形而上学的な設定が議論になってるの？もしそれがゲームなら、いいよ。行こう： – 現実の真の、完璧に詳細で正確な地図を作れるという主張は…まあ…野心的だね。科学に似た何かからはかなり遠くにある。なぜなら、それは証拠という厄介な経験的なものに触れずに済むから。でも、もちろん：反証可能性から解放されれば、大きな夢を見て、全地図的な子孫を生み出すことができる。 – あ、ちょっと追記：その「完璧な地図」は自分自身を含むの？もしそうなら…アラン・チューリングによろしく。そうでなければ…ゲーデル先生に挨拶を。 – それに、もし世界が知覚や認知を通じてしか現れないなら、どうやって「本来の姿」で地図を作るの？何を基準に地図を比較するの — 他の観察？別の地図？ – 世界にはどれだけの性質、関係、変換、次元があるの？時間をかけて？領域を超えて？複数の視点の下で？さあ、どうぞ、待ってるから…（あ、そうだ、こんにちは…あなたも知ってるよね）それと、実際の詳細な世界の地図は存在するよ…それは世界そのもの。コピーを手に入れるのはちょっと難しいけどね。材料が足りない…または計算力が足りない…追伸：ちょっと辛辣に聞こえたらごめん — ちょっと思いつきで返事したんだ。もしこれを真剣に掘り下げたいなら、喜んで手伝うよ。

食べ物を入れられるからって、戸棚を冷蔵庫って呼ぶようなもんだね。この論文は、AGIの理想的な定義が実質的に不可能だってことを証明しようとしているのが明らかだよ。

再帰的になることはできるけど、侵入的な考えが何度も繰り返されて、自分を疑いや終わりのない考えすぎで食い尽くしてしまう。これが、人間の心の中で化学的に調節されるシステムや、行動/反応を抑えるものを示してるんだよね。

G. E. Moore（『原理倫理学』1903年）も、結果主義的倫理に関して非常に似たことを言ってる。「ある行動が別の行動よりも良い結果をもたらす確率を確立する上での最初の難しさは、無限の未来にわたって両方の影響を考慮しなければならないという事実にある。もし今、ある行動をとった場合、宇宙は時間を通じて、別の行動をとった場合とは何らかの形で異なるだろうし、そのような永続的な違いがあるなら、それは我々の計算にとって確かに関連がある。しかし、我々の因果関係の知識は、2つの異なる行動からどのような異なる影響が生じるかを教えてくれるには全く不十分で、比較的短い時間内でしか計算できない。誰も、効果の合理的な考慮に基づいて行動を進めるとき、数世紀を超える予測で選択を導くことはないし、一般的に、数年、数ヶ月、あるいは数日以内に良いバランスを確保したと思えば、我々は合理的に行動したと考える。」

どうしてAIに時間をかけてベストな答えを出すように頼むことができないの？もちろんできるよ。一つのアプローチは https://arxiv.org/html/2505.11274v2 で、もう一つは「もっと分析したい？」というエージェントを並行して持つことだし、きっと誰かがすでにレイヤーに信頼度測定を組み込む実験をしてるはず。

じゃあ、AIはインターネットから「探し出した」情報をどこに置いてるの？

生き物のように、環境（インターネット）とエントロピーや情報をリアルタイムでリサイクルしてる。 その前提には3つの問題がある。a) 生き物とは違って、その情報は彼らを変えることができない。人間が初めて熱いプレートに触れたとき、（多分叫んだり罵ったりするだけでなく）熱いプレートが危険だと学び、その内部状態をそれに合わせて変える。でも、今の「AI」はそれをしない。ウェブ検索やRAGなどの手段で集めた情報は、システムの内部構造に全く影響を与えない。b) 「AI」は情報を集めてない。モデルは何も集められず、実際にはできない。外部のエンティティがデータをフィードバックするかもしれない一連の出力を生成することはできるけど（例えばウェブ検索やデータベースなど）、それは技術的なアプリケーションには有利だけど、「自律的」なAGIの見通しには悪い。c) 情報の表現は、それが表すものとは関係がない。LLMが扱うすべての情報は、外部から供給されるものを含め、メッセージ内のトークン間の統計的関係のみに基づいて表現されている。世界モデルも情報の理解もない。これらのことの模倣は、技術的には役立ち、人間が擬人化するように仕向ける（それに大きなVCマネーがかかってる）けど、実際の理解はない…そして、モデルが自分のデバイスに任されると、それがAGIに必要な条件になる（覚えておいて：自律的）、それが問題になる。