認知的ダークフォレスト

57日前原文(ryelang.org)

概要

2009年の自由なインターネットと開発体験の回顧
現代（2026年）のインターネットの閉塞感とAIによる変化
アイデアやイノベーションの共有がリスク化した現状
AIプラットフォームによる知識吸収と「ダークフォレスト」化
公開・共有の衰退と、それでもイノベーションを続けるパラドックス

2009年のThinkPadと自由な開発環境

2009年、中古の ThinkPad を購入し、 Xubuntu をインストール、コーディング開始
許可不要、サブスクリプション不要、 ゲートキーパー も仲介者も不在
アイデア、コードエディタ、音楽、そして 未来への旅立ち
GitHub でソースコード共有、フォーラムやブログで仲間と交流
「アイデアは安い、実行が難しい」、「チャンスに満ちた世界」という前提
インターネットは広く明るい草原のような存在

ダークフォレスト理論との対比

Liu Cixin の「三体」シリーズ第2作『 The Dark Forest』の紹介
宇宙は静寂だが、それは危険な場所だから。発信すれば殲滅されるリスク
生き残るには「 隠れる」ことが最適解。発信＝リスク
インターネット初期は逆で、 発信し繋がることが成功の鍵
接続・発信 による価値の増大、実行力が差別化要素

2026年、インターネットの変質

2026年 現在、インターネットは 企業と政府による集約 が進行
企業は情報を広告に、政府はプライバシーを監視に利用
機会の空間が狭まり、生存競争 へ移行
生存を目指す時点で既に「敗北」、結果は既知、延命のためのゲーム

AI時代の到来と新たなリスク

開発者はAIの過熱を冷静に見ていたが、 コード生成の確率が「十分」まで上昇
ワンプロンプト や エージェントチーム でプロジェクトが成立する時代
個人開発者のイノベーションは、 大資本プラットフォーム が短期間で模倣・吸収
キャッシュ と 計算資源 の差がイノベーションの壁
目立たず、静かにすること が最適戦略に

AIプラットフォームによる知識吸収

AIプラットフォーム を介したプロンプトやコード生成が日常化
全プロンプトが「 意図のシグナル」として集約される
個別の監視ではなく、 統計的な需要曲線 として把握
あなたのアイデアは入力データ、プラットフォームは世界の動向を先取り
Webの集約 と AIによる実行コストの低下 が進行
かつては「人間のプログラマー」が必要だったが、今や AIがスケール する時代

ダークフォレストの新たな脅威

クラシックなダークフォレスト理論 は「他者からの攻撃」を想定
認知的ダークフォレストでは 最も危険なのは「森」そのもの
イノベーションや知識共有の衰退、非公開・閉鎖的な開発へ
AI企業は「人間のオープンネス」でモデルを構築、しかし一方的な吸収が進行
共有の減少は人類全体のイノベーションにも悪影響

抵抗とパラドックス

「森」を出し抜くにはイノベーションが必要、だがそれは「森」の糧
あなたの新しい発想やプロダクトも、 AIの訓練データ となる
「箱の外」で考えることが「箱」を拡大 させる
抵抗しても吸収される、差別化が平均化される
抵抗そのものが「森」を強くする というパラドックス

終わりなき再帰と現実

このエッセイ自体も「森」の一部となり、 AIモデルの知識 に
「森」の外側から警告することは不可能
外側は存在しない、すべてが「森」の中
コメント欄（Tildes、Hacker news、lobste.rs、r/BetterOffline）もまた思考の一部

Hackerたちの意見

昔はアイデアやプロジェクトを共有するのが安全だったのは、実行が難しかったからで、今はAIのおかげで状況が変わったという主張は面白いけど、本当にそうなのかな？確かに、小さなプロジェクトや比較的狭い範囲のものはAIが簡単に再現できるみたいだね。具体的には、ブログ記事で人々が新しいことを学びながら「フラスクでウェブサイトを作る方法」とか「MNISTでニューラルネットワークを訓練する方法」をシェアしているのを考えてる。でも、AIが人々にもっと複雑なプロジェクトに取り組む力を与えているなら、もしかしたら高度なプロジェクトの実行を再現するのに同じくらいの時間がかかるのかも？つまり、昔は「小さな」プロジェクトに10時間かかってたのが、今はAIの助けで1時間でできるようになったとしても、AIの助けを借りて10時間でさらに進んだ複雑なプロジェクトを作れるようになるってことだよね。でも、それだと他の誰かがその実行を再現しようとしたら、やっぱり10時間くらいは必要になるってこと。要するに、AIが他の人のプロジェクトの実行を再現するハードルを下げるのは確かだけど、同時に再現が難しいもっと複雑なプロジェクトも作れるようになるってことだよね。だから、基本的なSaaSのCRUDアプリは今や簡単だけど、複数のシステムを統合した多分野にわたるアプリはまだまだ再現が難しいってわけ。

└

確かに、でもフォレストのポイントは変わらないよね。フォレストから隠せるものは、フォレストを遅くさせる要因になるし、少しでも自分の防御になるんじゃない？

└

俺にとっての問題は、Googleが俺の作品で訓練したAIの結果と競争していることなんだ。それに大半のトラフィックを奪われてるから、いつかは諦めざるを得なくなると思う。もうその仕事が俺を支えてくれなくなって、観客もいなくなるから。

└

AIだけの話じゃないよ。R&Dのいくつかの分野は、初めてのLLMが登場する10年前から文献や公共のインターネットから消え始めてた。敵が他の人間であっても、暗くなるインセンティブが生まれてたんだ。AIはそのトレンドを加速させてるだけ。最先端のコンピュータサイエンス研究のいくつかの分野は、数十年にわたってほとんど暗いままだった。戦略は、数年間のハードコアなR&Dを静かに行うこと。累積的な進歩は、後から追いかける人たちには大きな変化に見えるから、個々の進歩を可能にした洞察が隠れてしまう。誇張した例を挙げると、もし公共の飛行の歴史がライト兄弟からボーイング737に飛んでしまったらどうなるか想像してみて。実際には、この戦略には人々が見落とす大きな失敗モードがある。能力の急激な不連続性は、市場に存在するほとんどのものがそれと統合する準備ができていないことを意味する。これは、技術が客観的に素晴らしくても、採用の大きな障害になる。要するに、早すぎる市場投入に似てる。巧妙な実行で克服できるけど、この戦略では一つの問題を別の問題に置き換えたことになる。

独立した発見かもしれないけど、このブログ記事の主なアイデアは、最近のボグナ・コニオールの「インターネットのダークフォレスト理論」という本で提唱された理論とほぼ同じだね。

└

面白いね。この本はマギー・アップルトンのダークフォレスト仮説と比べてどうなんだろう？彼女が提唱してからもう結構経つよね。

└

この本については知らなかったから、私が言っているポイントが本のものと一致しないことを期待してる。元の「ダークフォレスト」の本は印象に残ったから、その理論についてよく考えて、いろんな状況に応用しようとしてたんだ。

└

https://flugschriften.com/wp-content/uploads/2020/07/flugsch...

ありがとう、これで自分の考えが整理できたよ。AIラボがやってることは、ナシーム・タレブの言う「アンチフラジル」だね。> 「抵抗する行為そのものが、抵抗するものを育て、将来の抵抗に対してそれをより壊れにくくする。少なくとも特定の次元において。」ラボ自体がアンチフラジルだとは思わないけど。みんなが知ってる通り、ラボはすべてのデータで訓練してるから（だから未来のAIにどう見られたいかを考えて行動しよう）、彼らが刺激する革新をどのように吸収しているかにあまり焦点を当てていなかったな。生物学的なアナロジーがあるかもしれない…まあ、たくさんあるけど、ここでこのAIの返答を引用するよ。> 「寄生的去勢者と宿主操作者は、関連することをする。いくつかの寄生虫は、宿主の資源を繁殖から体の維持や寄生虫に利益をもたらす変化した組織状態に向けて再配分する。典型的な例は、宿主を寄生虫のための成長/サポートマシンにする寄生虫だ。常に「より多くの組織を刺激して、それを食べる」わけではなく、「より多くの使える宿主の生産性を刺激して、それを搾取する」ってことだ。」（ChatGPT 5.4 Thinking。強調は俺の。）

└

アンチフラジリティじゃなくて、必要な多様性の法則を指摘したいな。AIの改善って、リリース後の1、2週間はめちゃくちゃ良くなるのが分かるよね。でもその後、「モデルが悪くなった」って言う人が出てくる。実際には、人々がツールに適応したけど、ツールはもう適応しなくなったんだ。今のAIは多様性に強くて適応できるツールとして使われてるけど、実際にはほとんどの導入がそんなに早く適応してくれないってことを見落としてるんだよね。

└

君の言うことには一理あるけど、特に現在のLLMアーキテクチャはデータポイズニングに対して非常に脆弱なんだよね。[1] https://www.anthropic.com/research/small-samples-poison [2] https://arxiv.org/abs/2510.07192

これは、テクノロジーがビジネスだっていうオタク哲学に惑わされてるね。全然違うよ、テクノロジーはスタートアップのほんの一部に過ぎない。Spotifyが大手に知られて模倣されても存続してるのを見れば分かるでしょ。詩的に表現されてるけど、ビジネスが実際に何かを誤解してるんだよ。

└

微妙だね。Spotifyは大手だけど、君が探してる例はSoundcloudだと思う。彼らはほぼ倒産しかけたけど、広告ビジネスをうまくやって今はなんとか持ちこたえてるみたい。だからその点では君が正しいけど、デスクトップアプリやツールソフトを作ってる場合、ビジネスが簡単に模倣されてしまうっていう点では間違ってると思う。

└

すごく珍しいもので、アーティストにとっては癌のような素晴らしい非技術的な防壁を選んだね、ブラボー！！

これが認知のダークフォレストの真の恐怖だ：それは君を殺さない。君を生かして、君から栄養を吸い取る。君の革新はその能力になる。君の差別化はその中央値になる。ああ、誰もが他人の良いアイデアから制限なしに利益を得られる恐ろしいディストピアだ！しかも、ゲートキーパーもいなければ、ライセンス契約も著作権も、弁護士すら見当たらない！もしこれがAIの使用がもたらす暗い未来なら、どんとこいだ。たとえ誰かがその過程で大金持ちになっても、他の人類がより良くなるならそれでいい。

└

自分でデータセンターを持ってない限り、結局は彼らが許可する範囲内でしか得られないよね。ゲートキーパーや弁護士、ライセンス契約は完璧じゃないけど、少なくとも人々が自分の知的財産を収益化する手助けはしてくれたと思う。それに、コンピュータやエネルギーの所有者が、条件が整ったときに世界一厳しいゲートキーパーになるなんて、考えが甘すぎると思う。

これについてずっと考えてたんだけど、自分なりの解決策がいくつかあると思う。• プロジェクトをオープンソースで共有するのはやめる。オープンな議論もなし。世の中に見せたい気持ちはあるけど、誰かに見てもらいたいなら、物理的な本に印刷するか、公共のインターネットではアクセスできないプライベートリポジトリにアクセスを与える。• LANパーティを復活させる。ゲームのためじゃなくて、エンジニアリングやアートの作品を親密に交換するために。• これを機に、人との関係をより深く、長続きするものにする。• メトリクスに重きを置かない。美しい夕焼けの空を見たり、犬を抱きしめたりして自然な方法でドーパミンを微量摂取する。• オープンハードウェア、あるいは、自分たちの意志でまだコントロールできるハードウェア。これがレトロコンピューティングの愛好者になることを意味するなら、それでもいい。

└

うーん、過剰反応だと思うな。 > 「もう自分のプロジェクトをオープンソースとして共有するのはやめる。オープンな議論もなし。世界に見せたい気持ちはあっても、誰かに見せたいなら、物理的な本に印刷するか、公開インターネットではアクセスできないプライベートリポジトリにアクセスを与える。」オープンソースにしたかったプロジェクトがあって、LLMの神様に盗まれるのが怖くてそれをやらないなら、そもそも作る意味があるの？ LLMがトレーニングデータとして使う可能性があるからって、人間同士で共有することを恐れる必要はないよ。彼らがそれをコピーしたり派生物を作ったりしたって、どうってことないじゃん。もし誰かがロボットかもしれないからって、みんなで共有をやめるなら、もう寝て死んじゃった方がマシだよ。

この記事は私には全然意味がわからない。 >新しいことを考えて表現する - プロンプトを通して、コードを通して、製品を通して - それはシステムに入る。君の新しいアイデアはトレーニングデータになる。箱の外で考えるという行為そのものが箱を大きくする。これは以前も同じで、新しいアイデアを持ってそれを製品にすると、他の人が追随する。特にLLMに関しては、今まで（今も）リアルタイムで学習しているわけじゃない。Claude Opus 4.6の知識のカットオフは2025年8月だから、この日以降に入力したアイデアはトレーニングデータに入るけど、利用できない。だから、ただ速さが求められるだけ。特にClaudeのようなLLM/AIエージェントは、新しいものを出すために必要なスピードを可能にしてくれる。次に、私たちにはオープンソースやオープンウェイトのモデルがあって、適切な消費者GPUを持っている人なら誰でも微調整や適応ができるから、ほんの数社の手にしかないわけじゃない。 >私たちは再びプライベートで構築し、革新し、隠れ、知識や間違いやアイデアを共有しない。なぜこんなことが起こるべきなの？アイデアを公にした瞬間、誰でもそれを作れるようになる。これにより、以前よりも大きな普及が生まれる。プログラミングを学ぶという人工的な障壁があったために、人々が欲しいものや作りたいものを手に入れるのが難しかった時代とは違って。

└

「以前も同じだった。新しいアイデアがあって、それを製品にすると他の人が続く。」ほぼ全体像を捉えてるね。素晴らしいアイデアがあっても、それが金を生むことを証明するまでは、自明な素晴らしさはないんだよ。それが難しいところで、個人的にも職業的にも財政的にもリスクが伴う。アルゴリズムは安いし、確かに彼らはあなたのLLMの履歴を使って何をしたかを見つけるかもしれない。でも、LLMがただ推論することもできる。確かに彼らの作業を少し楽にするかもしれないけど、また言うけど、難しいのは製品をクローンすることじゃなくて、顧客を奪うことなんだ。人々はその難しい部分に焦点を当てていないみたい。

└

「以前も同じだった。新しいアイデアがあって、それを製品にすると他の人が続く。」特にLLMに関しては、彼らは（今のところ）即座に学習しているわけじゃない。Claude Opus 4.6の知識のカットオフは2025年8月だから、この日以降に入力したアイデアはトレーニングデータには含まれるけど、利用可能ではない。だから、ただ速くなればいいだけなんだ。特にClaudeのようなLLM/AIエージェントは、新しいものを出すために必要なスピードを提供してくれる。更新の間隔や開発者に提供するスピードについてはポイントがあるけど、君が今のことを話しているのに対して、私は潜在的な未来についての思考実験をしていたんだ。LLMは即座に学習しているわけじゃないけど、会話や反応を記録して、特定の反応がユーザーにとって満足だったかどうかをさらにやり取りから推測することはできると思う。利用可能なトレーニングデータが枯渇している世界では、誰もこれを捨てたりしない。Geminiは反応に対して直接的なアップボート/ダウンボートもあるし。アルゴリズムはおそらく改善され、間隔も短くなるだろう。すべてのやり取りから生成される詳細な情報を考えると、似たような技術を使って基礎的なトレンドを追跡し、それに関連する問題や話題にされている解決策を見つけ出し、考えた人たちがリリースする前に解決策を生成するのは難しくないと思う。理論的にはね :) オープンな開発は、だんだんオープンでなくなると思う。あまり好きじゃないけど、もうすでにそうなっていると思う。まず、すべてのブログやフォーラムが専門的なプラットフォーム（SOやDiscordなど）に移動して、今ではそれらの一部も枯渇してきている。もし人々が（極端な場合）自分が生み出したコードすら読まないなら、なぜそのコードについて読む必要があるのか、議論する必要があるのか、彼らが気にしていないコードについて。これは、グローバルなボーグが彼らの書いたものをすべて吸い上げるという理論的な恐れなしに。

これは周期的なもので、避けられない結果ではないと楽観的に思っている。人類は、共有された啓蒙の周期（通常は深い技術的または社会的革命に伴う）と保護主義の暗い森を定期的に耐えてきたし、いつもその先に進む方法を見つけてきた。これらの周期は時には100年続くこともあれば、数年で終わることもある。それでも、私たちはいつもその先に進む。LLMの場合、いくつかの仮定をしなければならない：それがAGIにつながることはないし、リアルタイム学習やコンテキストウィンドウの問題を解決することもない。これらは確かに大きな仮定だけど、現在のAIやコンピュータの状態は、当面の間はそれに真実の一片を示唆していると思う。もしそうなら、この「暗い森」の「暗黒時代」は、シリコンベースのコンピューティングの限界（だからこそ量子への推進がある）や、技術投資からの収益が減少することに対する人間のフラストレーションによって制約されているのかもしれない。職人や優れた頭脳が撤退することで、森は栄養不足に陥り、枯れてしまうリスクがある。もし人間が技術から撤退する理由が、IDや個人データを渡さなければならないからで、技術に関わることが監視や迫害に屈することになるなら、自然な流れとして時間とともに撤退することになるだろう。そして市場は、外部や政府の介入があろうとなかろうと、それに応じて適応していく。つまり、暗い森は、その住人たちが前進する道を照らすことを恐れて互いに迫害し続ける限り続く。今は、個人的な利益のために他人を傷つけることを厭わない人々にインセンティブが非常に有利に働いているけど、いつもそうではなくて、人間はその理屈が非難されるべき時を決めるんだ。

└

LLMの進展を見るたびに、数ヶ月ごとに存在的危機に陥るみたい。最初は「これは現実じゃない」と自分を騙しているけど、ある時点でそれが無理だと気づいて、少し受け入れるようになる・・・そして新たな進展が起こって、またサイクルが始まる。でも、最初に書いたように、これは予測じゃなくて思考実験だった。悪いシナリオをすべてテーブルに出そうとしたけど（暗い森のテーマでね）、また楽観的な感覚を見つけたと思う。だから、しばらくしたら反対のことを書けるようになることを願っている。すでにいくつかのポイントを書き留めているし、タイトルも決まってる。でも、どうなるかはわからない。これを書いた後は、前よりも楽観的になったよ。:P

この投稿は二つの道を提示している：1) すべての人とすべてのものが森に飲み込まれる。革新は、森を支配する者が資本を使って新しい革新をすべてクローンするため、革新者にとって利益がなくなる。2) みんなが森から撤退する。革新はプライベートになる。森は成長を止めるが、死にはしない。--- でも、この投稿が考慮していない二つのことがある：1) ウイルスライセンス。ライセンスが付随するデータで訓練されたモデルはどうなるのか？法律がモデルの製作者やモデル自体、モデルから生まれた製品がライセンスの条件に従わなければならないと決定したらどうなるのか？それはモデルの製作者にどんな影響を与えるのか？顧客がそのライセンスに縛られたくない場合はどうなるのか？訴訟を避けるためにモデルを避けるのが常識になったらどうなるのか？モデル、モデルの製作者、顧客が（他の）モデルの製作者に対して訴訟を起こすとき、モデルの製作者と革新者の間の新しい均衡はどこに移動するのか？2) 非営利モデル。顧客が自ら非営利になる場合、特にモデルの製作者ではなく従業員に給料を支払う場合、モデルの製作者はどうなるのか？彼らは飢えさせられるのか？それとも非営利の地位に切り替える必要があるのか？利益が優先されなくなった場合、モデルの製作者やモデル、森全体はどのように変わるのか？

└

ソフトウェアの著作権と保護をちゃんと実施して、クローンスタイルの盗用を防ぐのはどうかな？特許や商標のイノベーションがソフトウェアに関してはどれくらいの間なかったんだろう？ハードウェアだけが著作権や商標の対象になってるのはなんで？特許トロールに悪用されない方法って本当に見つからないのかな。

└

投稿の最初の行にもあるけど、これは思考実験だから、君みたいに新しい選択肢を開いたり新しい質問を投げかけるコメントが一番の成果だよ。他に言いたいことはないけど、すごく興味深いと思った。俺たちにとって上位モデルがどう変わるかは考えたけど、君が提案したような基盤モデルも変わる可能性があるってことは考えてなかったな…意味が通じるといいけど。

└

最近、SNSでGPLのソースコードがLLMのトレーニングに使われた場合、そのLLMの出力が全て同じGPLライセンスで汚染されるかどうか、誰か知ってる人いるか聞いてみたんだ。今のところ何も出てこないけど、みんな答えを知りたいと思ってるみたい。マイクロソフトが自社のLLMツールを使う人を著作権や特許の問題から保護するって言われてるけど、LLMの出力がGPLライセンスになるかどうかはわからないな。

俺が思いつく一番の例えは、インターネットが低軌道で、AIがケスラー症候群みたいなもんだね。俺たちは隠れるためにその場所を放棄するんじゃなくて、ゴミで飽和状態になってるからなんだ。そこに何かを置こうとすると、さらにゴミが増えるだけで、ポジティブな効果は全くない。理想的な解決策はゴミを取り除くことだけど、今はそれを検出することすらできないし、取り除く方法もわからない。しかも、これはゼロサムゲームだから、掃除するよりも、ただ楽にゴミを増やして、その中の一部が軌道に残ることを期待した方がいいよね。

└

これは面白いね。2回目に読んで理解しようとした時に思ったんだけど、低軌道の飛んでるゴミにもっと合う表現は「エンシティフィケーション」かも。時間が経つにつれて、ますますゴミが生産されて、取り除くための明確な方法や動機のある存在がないから、ただ増える一方なんだよね。

ハクソク