概要
- AIセーフティ運動 の中心には、カルト的な要素や性的コミュニティが存在
- Eliezer Yudkowsky とその非営利団体が、AI議論や用語の多くを形成
- Rationalist や Effective Altruist コミュニティとの深い人的・思想的な重なり
- 主要AI企業 や政策議論にもこのカルト的影響が浸透
- この運動の中心思想や構造が、AI規制や研究停止提案にも影響
AIセーフティ運動の起源とカルト的側面
- AIセーフティ議論の発祥地は、 Eliezer Yudkowsky 主導のコミュニティ
- Yudkowskyは Harry Potter and the Methods of Rationality （HPMOR）というファンフィクションの著者であり、これがコミュニティの宗教的テキスト
- この運動は「 Rationalist（合理主義者）」や「 Effective Altruist（効果的利他主義者）」として知られる
- 表面的には宗教やカルトを否定するが、内部では 集団生活・性的イベント・共同体思想 が顕著
- AI Alignment や AI Safety などの用語や議論枠組みは、Yudkowskyの非営利団体が普及
主要人物とAI業界への影響
- Yudkowskyは DeepMind設立 の資金調達にも関与し、 OpenAI や Anthropic など主要AI企業と人的ネットワークを持つ
- Sam Altman（OpenAI CEO）、 Dario Amodei（Anthropic CEO）、 Demis Hassabis（DeepMind CEO） などともつながり
- AI研究・政策の中心人物やイベントで、 Rationalist/EAコミュニティ の影響力が強い
- 例： Future of Life Institute のカンファレンス、 Lighthaven （元Rose Garden Inn、コミューン兼イベント会場）
- Lighthaven はSBF（Sam Bankman-Fried）のFTX資金で購入され、さまざまな読書会・会議・性的イベントが開催
カルト的構造と性的側面
- コミュニティの中心は バークレーのグループハウス やコミューンで、 ポリアモリー （複数恋愛）や性的イベントが日常
- SlutCon や 有料オルギー など、性的な集まりを頻繁に開催
- Aella や Gretta などの主要メンバーがイベント主催、Yudkowskyのパートナーも高額報酬で非営利団体に雇用
- 若い理想主義者を HPMOR などのファンフィクション経由でリクルートする構造
- 一部は「宗教ではない」と主張するが、 終末論的世界観 や 内輪での偶像化 が強い
AI政策・規制議論への影響
- コミュニティの終末論的AI観（例： AIが制御不能になり人類を滅ぼす）が、 AIセーフティ政策 の主流議論を形成
- 主要AI企業のリーダーたちが、 研究の停止・遅延・独占的規制 を提案
- 例：反トラスト法の免除要請、研究「停止」や「減速」を訴える
- これは他産業では見られない特殊な規制論であり、 カルト的終末思想 が背景
- AI政策 が「悪を防ぐ」だけでなく「進歩そのものを止める」方向で語られるのは、Yudkowskyの影響が大きい
Rationalist/EAコミュニティの構造と問題点
- Rationalist/EAコミュニティ は、カルト的構造と宗教的熱狂を内包
- 中心層は 性的カルト 的な生活、周辺層は「勧誘のためのファネル」
- Zizians など、過去に問題を起こしたカルトも存在
- 批判的思考や外部からの指摘に対しては「低デカップラー」などの用語で防衛
- 終末論的AI観 や 性的コミュニティ が、純粋な合理性や科学的根拠以上に運動を牽引
総括
- AIセーフティ運動の中心は、 宗教的・カルト的要素 と 性的コミュニティ が混在
- 主要AI企業や政策 にこの影響が浸透しており、AI規制論の独特な雰囲気の背景
- 政策議論やAI研究の未来を考える際、このカルト的構造と動機を無視できない現状