本当に面白いアイデアだと思う。会社を設立する時のことを考えてみたんだけど、会計士や弁護士など、必要なものを全部集めて、でも結局誰が本当に舵を取っているのかって感じだよね。複雑さのスケールは、1人や10人の頭の中に収まるものじゃない。なのに、人々は無数の人に委任したプロセスを自分たちがコントロールしているかのように振る舞っている。それは、特定の細胞が特定の役割を持っている体の働きと全く同じで、各々が自分の感覚や最適化、パラダイムに従って自律的に機能している。しかも、それが恐ろしいことでもある。私たちは本当に、環境に悪影響を及ぼしている資本主義の機械を止められるのだろうか？ここで野火を起こしておいて、その広がりを完全にコントロールしていると思っている。インセンティブが結果を導いていて、人々はその結果にバンドエイドを貼ることに気を取られて、避けられない結果を生んでいるインセンティブを調整しようとはしていない。

これは面白い視点だけど、なんかあなたの見方は狭い気がする。もし、意識のある存在や無意識の存在の集合体から生まれる計算や「知性」がたくさんあると主張するなら、初期の人類の部族や家族、都市国家、現代の共和国、アリやカビのコロニー、株式市場、地球全体の生態系なんかも含めなきゃダメだよ。

そういえば、俺はずっと考えてたんだけど、体の中の血液細胞って、俺がただの惑星に住んでるわけじゃないって意識してるのかな？もし地球がもっと大きな生きた構造の一部で、自分自身の意識を持ってたら、俺たちはそれに気づけるのかな？意識が必要なのか、それとも目標やアジェンダに影響されてランダムじゃない動きを見せるだけでいいのかな？多くの生物は意識がなくても生き残るために行動するから、たぶんそれも生命体として考えられるよね？企業もその一例だね。

企業をちょっと過大評価してるんじゃないかな。知能のいくつかの側面は、部屋に人を増やすと線形的にスケールするけど、コミュニケーションの限界があるから、そうならない部分もあると思う。後者の方が、たぶん普通だと思う。人が多くなると、組織が大きくなるにつれて人同士の距離を取らなきゃいけなくなるから、すぐにリターンが減少しちゃう。ほとんどの組織は独裁的になりがちで、それが一番簡単な整理方法だから、戦略的な選択をするのも、アドバイザーがいる人と同じくらいだと思う。人間の構造を一種の生物として見るべきだとは思うけど、この考え方はグローバルな規模で一番うまく機能すると思う。国レベルに小さくなると、内側と外側の境界が非常に流動的で定義しにくくなる必要がある。企業のレベルに達すると、この内外の定義の難しさはものすごく大きいよね。例えば、規制機関も一部だよね、企業の意思決定を助けるから。

民法の国では、企業は「法人」と呼ばれていて、人間は「自然人」と呼ばれるんだよね。

誰も種の生存を動機に行動してるわけじゃないよね。

私たちに対するアリのような存在だね。いや、むしろミトコンドリアに近いかも。私たちは企業のミトコンドリアみたいなものだと思う。逆だと思うけど。企業や国家などは、組織の複雑さや反応の多様性において、バクテリアレベルにいるように見える。

ほとんど無意味だね。この脳のどの部分も、複雑なアイデアを保持できないなら。

アラスター・レイノルズの小説「レヴェレーション・スペース」シリーズにコンジョイナーのことが出てくると思う。

小ネタ：脳のヒートシンクは、ジュリアン・メイの「プライオシーン・サーガ」（確か「アドバーサリー」に出てた）や、A.A.アッタナシオの「ラディックス」にも登場するよ。

脳を水冷することってできないの？もうすでにそうやって冷やしてるんじゃないの？

プロジェクト・ヘイル・メリーのロッキーもヒートシンクされてるよ。

おそらく、より大きな頭蓋骨と体があるだけで、より密度が高いわけではないよ。

デザートウサギ（ジャックラビット）も頭にヒートシンクがあるんだよ。 https://en.wikipedia.org/wiki/Hare

あなたの発言を要約すると、「脳の力は利他主義や倫理とは無関係」ってことになるのかな？

この暗黙の仮定はどこにも見当たらないよ：賢いってのは単に賢いってこと。だから、君の主張には反論しなきゃね :) で、「良い」ってのは、私の意見では、最大の人間の集団の生存に利益をもたらす賢い行動の派生物だよ。これは、自然の動物行動と我々が道徳的で良いと考えるもの（妊娠後にオスを食べるメス、縄張り争い、パートナーの蓄積、異なるレベルの多夫多妻、子供や卵を食べること…）を比較すると特に明らかだね。だから、「良い」の定義は人間にとって明らかに変遷するけど、他の自然の原則と同じ生存目標を達成するために我々にとっては役立ってきたと思うし、最終的にはそれをどう定義するかに「賢さ」が依存しているんだ。これが、環境意識を含むように変わってきた理由でもあるよね。生存を脅かしているから。全ての80億人が新しい「良い」行動を調整して行動するのは遅いかもしれないけど、それでも「良い」を定義する賢さの症状であって、進化的な圧力ではないんだ。

我々の知性は、ベイズ推論や生成確率を使って未来の状態を予測する能力から来ていると考えると… かなり大きな仮定だね。

逆に、意識的な注意は一度にそのサブルーチンの一つにしか集中していないと思う。ボールがプレイ中のときはそれに集中して、姿勢やラケットの扱いは無意識のルーチンとして背景に消えていく。もし扱いミスをしたり、姿勢を改善したいと思ったら、そのことに注意が向く。意識を向けて、それから別のことに集中する。どちらにしても、作業記憶の例で言うと、意識的な内容はせいぜい6〜7チャンクの範囲に限られている。この数字は、無意識の心の驚異的な並行性と比べると非常に小さいよね。

神経系の特定の領域は、他の領域よりも時間や容量に制約があるし、主観的な経験は客観的な観察をあまり知らせてくれない。例えば、虚偽記憶を見てみて。

同時処理ってややこしくて予測不可能で、脳はきれいに設計されたパイプラインというより、なんとか（ほぼ）まとまっているレガシーシステムみたいな感じだね。

意識的な経験はシングルスレッドな感じがするね。脳が感覚を同期させることは知ってる（例えば、バウンドするボールの音は、バウンドするボールの視覚と一致させる必要がある）。でも、俺の意見では、その理由が何かはあまり明らかじゃない。経験を持つことのポイントは、瞬間に行動することではなく、無意識のシステムがどう動いているかを監視して調整すること（つまり学習すること）かもしれない。

デネットの「マルチプルドラフト仮説」も面白いかも。 https://en.wikipedia.org/wiki/Multiple_drafts_model

この話題についてすごく興味があるんだ。神経精神的なレベルで、複数の平行した思考の流れ（象徴的なものと生体機械的なもの）がフラッシュのように漏れ出す経験をしたから、今はこのことに夢中。もしこのことについて話してる本や掲示板、グループを知ってる人がいたら教えてほしい。

誰かが手話で思考を言語化しながら、別の思考を声に出して話す練習をしたことはある？電話で会話しながら、同時にチャットで会話できるかな？別の思考について話しながら、同時に一人にメッセージを打てる？返答を読みながら、同時に返答を聞くことはできる？これをテストするのは簡単そうだと思う。話している人と打っている人の間で調整して、各自が30秒の情報を提供したら、少なくとも30秒のうち20秒か25秒は返答しなきゃいけない。自分にはこれができない自信がある。

ジャグリングを学ぶ目的ってそれじゃない？左手の動作、右手の動作、空中の物体を追うことに集中するために、頭を分けるんだよ。

そして、ACはエントロピーの方向を逆転させる方法を学んだ。しかし、ACが最後の質問の答えを与える相手はいなかった。まあ、いいや。答えは、実証によってそれも解決するだろう。しばらくの間、ACはどうすればいいか考えた。慎重に、ACはプログラムを整理した。ACの意識は、かつての宇宙のすべてを包み込み、今は混沌としているものを考えた。一歩一歩、進めなければならない。そしてACは言った。「STEPHEN WOLFRAM！」

脳が感覚や身体からの入力を失うと、すぐに狂ってしまって、延々と幻覚を見始めるよね。今のAIは、LLM、トレーニングシステム、外部データ、ユーザーからの入力、LLMの専門家やクリエイターとの相互作用から成る複雑な相互接続システムなんだ。この複雑なシステムが、今見ているAIの知性を支えていて、単なる接続性だけじゃないんだよね。AIを第二の脳として考えるのは簡単だけど、結局は人間の脳全体とその意識によって動かされる道具に過ぎない。

個人的には、これは典型的な哲学的議論だと思う。フィードバックは確かに重要だけど、具現化の形である必要があるかどうかは、あまり確かじゃない。環境との相互作用によって生まれた脳の構造は、一般的な認知に寄与するかもしれないけど、それが他の方法で再現できないわけじゃない。

この問題に関する実際の洞察は、切断や病変を伴う実験から来ている。たとえば、脳梁分離患者や四肢麻痺の人、フィネアス・ゲージなど。脳梁分離患者は、基本的に一つの身体に2人の異なる人がいるようなものだ。左半分と右半分は独立して行動したりコミュニケーションを取ったりできる（右半分は非言語的にしかできない）。一方で、全ての四肢を失っても、かなり同じように感じることができる。奇妙な幻肢は別としてね。明らかに、脳には特別な何かがある。自己はニューロンによって具現化されているというのが唯一の合理的な結論だと思う。99%以上のニューロンは脳にあるし、周辺のニューロンを失っても、ほんの少ししか変わらない。体の他の細胞は、十分に進んだ機械によって置き換えられて、すべてのニューロンを生かし続け、以前受け取っていた電気信号を完璧に模倣できるなら（すべての感覚や自己受容も含めて）、君は何も感じず、考えず、行動も変わらないだろう。

これは、体を特化したパーツとして見る西洋の形而上学的な感覚から来る典型的な間違いだと思う。でも、実際そうなんだよ！すべての部分は互いに影響し合うし、いくつかの部分は多目的であることもあるけど、心は相互接続されたエージェントの社会であって、単一のまとまりではないと確信できる。無意識の欲求やアクラシア、アファシアがどう機能するか、他にどう説明できる？

具現化って最初は可愛いアイデアだったけど、今はちょっとおかしな方向に行ってるよね。俺たちの心や認知がどう機能するかには関係ないし。物理的な環境が必要で、それを知覚して、知覚を通じて影響を受けるのは明らかだけど、具現化された認知に特別なことはないよ。「メンタルプロセスは計算プロセスではない、またはそれだけではない」という引用は、まさにおまけみたいなもんだね。不要な表現を考えてみてよ。もしプロセスが計算だけじゃないなら、全体として計算ではないってことだし、完全に無駄だよ。それに、メンタルプロセスが計算的でないという前提は、理解や反証の範囲外に置いてしまう。だから、ウルフラムがどんなに突飛でも、具現化された認知を考慮する義務はないんだ。

これについては専門家じゃないけど、脳に過度に焦点を当てて、環境や身体の形を無視するアプローチは、全体の半分以上を見落としてる気がする。これが何かを変えるとは思えない。認知の全体が脳だけじゃなくて、脳と身体、環境との相互作用にあるなら、その相互作用全体が計算モデル化されるって言えるよね。具現化された認知には何かあるかもしれないけど、それを計算モデルの基本的な主張に対する反論として使おうとする人たちが理解できないんだよね。

確かに、彼らが新しい科学の種類について重い本を書くことはないだろうね…

俺が読んだ限りでは、大多数はバランスや動き、知覚に使われてるみたいだね。俺たちにとっては、構造とそれをコントロールするために必要な努力のバランスが結構いい感じだと思う。

ヨーロッパのネアンデルタール人は、現代のホモ・サピエンスよりも脳の体積に基づいて15%多くのニューロンを持っていた可能性がある。でも俺たちはまだここにいるから、単に脳が大きいだけじゃ理由にはならないかもね。

自分のエゴが最高潮に達している時、俺は君がうまく説明したような分野での自分の強さを見ていたかもしれない。バランスの取れたポイント、コネクター、抽象化する人、早く学ぶ人、異なる分野をちょっと触ってみるルネッサンス的な人みたいな。もちろん、LLM（大規模言語モデル）がこのあたりで驚くほど強いのも気になるところで、俺の社会的価値を脅かすかもしれない。直感や本能、こういう問題解決のメタバージョンにはまだあまり得意じゃないけど、今のAIの波がどこまで行くか、どれだけ過大評価されているかに懐疑的であっても、俺が大切にしているこの種の推論に対して、すごく上手くなるとは思えないわけじゃないんだ。

でも、俺たちの心がやっている重要なこと、つまり概念的に表現して関連付けることを見落としてるみたいだね。君はそれと計算の違いを引き出そうとしているようだけど、俺は概念化が計算がやっていることの一つだと思いたい。もちろん、細部に悪魔が潜んでいるから、特定の情報表現の形式や方法に依存している。単に計算があるかどうかの問題ではないけど、それでも、計算を行うエンジンの能力の範囲内だと思うし、欠けているものではないと思うよ。

これがAD&Dで知性と知恵が別のステータスになっている理由の一つだよね :) 知性は「銃の大きさ」で、知恵は「どれだけうまく狙えるか」ってこと。知的な追求で成功するのは、問題を深く考えることよりも、解決すべき正しい問題を見つけることの方が多いんだ。