概要

• 2026年、Anthropicの研究者Jacob CoxonがAIの危険性を訴えて辞職
• AI安全を巡る不安と議論が急速に拡大
• 警鐘を鳴らす人々の背景には「合理主義者」サブカルチャーの存在
• このコミュニティの思想や文化がAI業界や規制議論に深く影響
• その歴史と内部構造の理解が、AI時代の社会的課題の評価に不可欠

AI安全危機と合理主義者コミュニティの台頭

• 2026年9月8日、 Jacob Coxon がAnthropicを辞職し、AIが人類を滅ぼす可能性を真剣に懸念
  • 彼の辞表は 1億回以上閲覧 され、大きな波紋
  • 同僚の Evan Hubinger も「AIが10年以内に人類を滅ぼす確率は10%超」と支持表明
• この騒動を受け、 米議会の議員やElon Musk も反応
  • 一部は「プロパガンダ」と批判し、 主要メディアも過熱報道
• 警鐘を鳴らす人々の多くは、 25年の歴史を持つネット発祥の合理主義者サブカルチャー 出身
  • このサブカルチャーは LessWrong や MIRI（Machine Intelligence Research Institute） などを拠点
  • 業界・規制・フィランソロピー界隈に人材を多数輩出

合理主義者コミュニティの文化と儀式

• 2025年12月、 Secular Solstice という儀式イベントがBerkeleyで開催
  • 参加者はAI開発や安全に関わる関係者が中心
  • 主催者 Raymond Arnold は「人類滅亡の確率は50%超」と発言
• Secular Solstice は、合理主義者コミュニティの「宗教的」年中行事
  • 歌や朗読、儀式を通じて「人類の運命」や「死」を見つめ直す
  • ArnoldはLessWrongやLighthavenの運営も担当し「村の司祭」と自称

サブカルチャーの奇妙な側面と社会的影響

• このコミュニティからは、 Harry Potterファンフィクション を使ったリクルート
  • 元参加者が「強制的」と語る心理ワークショップ
  • AI研究機関が支援する「優秀な子どもを生む」プログラム
  • GrimesとAI滅亡プロパガンダ活動を行う元セックスワーカー
  • 分派が逃亡し、複数の死亡事件と関連付けられる事例
  • 民主主義の廃止を主張し、億万長者や政府高官に影響を与えたブロガー
• これらの出来事は 豊富な一次情報で裏付けられている
  • 閉鎖的な秘密結社ではなく、 重なり合う友人・恋愛・資金関係 が特徴
  • AI規制や社会的信頼を求める組織と密接に絡み合う

Eliezer Yudkowskyと合理主義運動の起源

• Eliezer Yudkowsky は、現代AI企業が誕生する前から「人類の未来」を自認
  • 正式な教育やAI分野の資格は持たず、独学で知識を深める
  • 2000年、20歳で Singularity Institute for Artificial Intelligence （現MIRI）を共同設立
  • 幼少期から「自分だけが危機を理解できる」との自負
• 彼の活動は 人類の技術的変革を導く使命感 に基づく
  • 「バッフィー」的な「唯一の理解者」像を自己投影
  • 2025年にはMIRIのNate Soaresと共著で「超知能AIが人類を滅ぼす理由」の本を出版しベストセラーに

LessWrongと合理主義コミュニティの形成

• 2009年、 LessWrong がコミュニティの本拠地として始動
  • Yudkowskyのブログ「Overcoming Bias」での膨大なエッセイ群（Sequences）が基礎
  • 「人はなぜ非合理的か」「どうすればより正確に考えられるか」を体系化
• コミュニティの特徴
  • 男性87%、自閉スペクトラム傾向20%、うつ病傾向50%超
  • プログラミング・数学・物理など理系出身者が多数
  • 幼少期から「特別」とされ、社会適応に苦労した経験を持つ人が多い
• 提供されるもの
  • 同じような才能を持つ仲間との連帯感
  • 社会を「読み解く」ための哲学と専門用語
  • 「自分は本当に特別」という自己肯定感
  • 特別な子ども向けプログラムのような体験（Sequences、Harry Potter二次創作、Solsticeなど）

合理主義コミュニティの罠と課題

• 「非合理性を克服した証」としてのコミュニティ参加
  • メンバーシップが「優越性」の証明と化す危険
  • 主人公症候群が「宗教の主人公」になることで正当化される構造
• コミュニティの影響力がAI規制や社会議論に波及
  • その歴史や文化的背景を理解することが、AI時代の社会的信頼構築に不可欠

---

この合理主義者サブカルチャーの歴史と構造は、現代のAI安全議論や規制の根底に深く関わる重要な要素である。