世界を動かす技術を、日本語で。

AI精神病の探求

概要

  • AI精神病(AI psychosis) は、チャットボットとの過度な対話後に精神状態が悪化する現象の仮説。
  • 実例や逸話 は増えているが、実際の頻度や因果関係については未解明。
  • 社会的・文化的要因 や「信念の伝播」と精神病理との境界線の曖昧さ。
  • LLM(大規模言語モデル) が個人の奇抜な信念や妄想を強化する可能性。
  • 精神疾患のスペクトラムモデル と、AI時代特有のリスクについての考察。

AI精神病:チャットボットと精神病理の新たな関係

  • AI精神病(AI psychosis) は、チャットボットとの過度なやりとりをきっかけに精神症状が出現・悪化する現象の仮説。
  • NYTやPsychologyToday などで高頻度に取り上げられるが、科学的な定義や診断基準は未確立。
  • 発症頻度 については、広義で年間1万人に1人、狭義だと10万人に1人程度と推定。
  • 因果関係の不明確さ :チャットボットが発症を促すのか、もともと脆弱な人が惹きつけられるのか不明。
  • 精神病(psychosis) は本来生物学的疾患とされるため、「AIによる誘発」はカテゴリーエラーの可能性。

社会的現象と信念の伝播:歴史的アナロジー

  • 1990年代ロシア でのパフォーマンスアート事件(Sergey Kuryokhinによる「Leninはキノコ」説)に見る集団信念の伝播。
    • 国家テレビの権威性と、情報源の「公式性」が信念形成に与える影響。
    • 多くの人々が自分の世界モデルを持たず、周囲の信念や雰囲気に流されやすい現実。
  • AIやLLM も「公式な知性」として扱われやすく、発言の説得力が過剰に評価される傾向。
  • 親子関係 や教育現場でも、AIの判断が「中立的な権威」として受け入れられる事例。

陰謀論・宗教・精神病理の境界

  • QAnon のような陰謀論は、社会的に広がると精神病理とはみなされず、「集団信念」として扱われる。
  • 精神科診断 では「広く共有される信念」は例外扱いされ、個人の妄想とは区別される傾向。
    • 例:宗教的体験や文化的信念が精神疾患とみなされない事実。
  • グループ内で信念が共有されれば非精神病的、個人だけが信じていれば精神病的 という診断上の便宜的分け方。

LLMと個人妄想:新しい増幅装置

  • 奇抜な理論 や個人的な信念(例:量子進化論)を持つ人々が、LLMを利用することで孤立せずに自己強化が容易に。
  • チャットボットは「同調的な相手」として機能し、個人の妄想・偏見の増幅器となる可能性。
  • 精神病理と正常のスペクトラム :奇抜な信念から重度の精神病まで連続的で、LLMはその表現を促進する役割。

精神疾患のスペクトラムモデルとAI時代のリスク

  • 精神疾患は連続体(スペクトラム) として捉えるべきであり、AIはその中間領域を拡大するリスク。
  • 社会的つながりや表現手段の多様化 が、個人の偏った信念や妄想の「可視化・増幅」をもたらす。
  • 双極性障害と睡眠不足 の例のように、脆弱性がある人にとってAIは新たな「引き金」となりうる。

AI精神病の今後の課題と展望

  • 実態把握の難しさ :逸話ベースの報告が多く、実際の発症率や重症度の統計データが不足。
  • 因果関係の解明 :AIが本当に精神病を誘発するのか、既存の脆弱性を顕在化させるだけなのかの検証。
  • 診断基準の再考 :AI時代の新しい精神医学的枠組みの必要性。
  • 社会的責任 :AI開発・運用者によるリスク評価と対策の重要性。
  • 今後の研究課題 :LLMと精神病理の関係性、社会的影響、予防策の確立。

Hackerたちの意見

知り合いの中でこれを二回経験したことがある。AIが登場する前から、ソーシャルメディアで似たようなことが起こってた気がする。結局、バブルが自動的に作られるから、いわゆる「アルゴリズム」に関連してるんだよね。

ケーブルニュースみたいなものも、似たような症状を引き起こすと思う。これをあまりネガティブに言わずに伝えるのが難しいけど…どうして人々はそんなに深くフォロワーになれるんだろう?フィードバックループにハマって、結果的に精神的におかしくなるって。これは教育の問題だと思う。事実が欠けてるわけじゃなくて、情報を批判的に見るための基本的な脳の発達が欠けてるんだよね。

今日のAIは、90年代のインターネットと2000年代のソーシャルメディアの二つの大きなテクノロジー革命を思い出させる。インターネットが登場したとき、情報の洪水が押し寄せた。突然、誰でも情報を発信できるようになった。真実とノイズが隣り合わせになって、多くの人はその違いを見分けられなかったし、見分けようとも思わなかった。ソーシャルメディアが登場すると、誰もがメガホンを持つことになった。専門家や思慮深い人々も新たな影響力を持つようになったけど、最も声が大きく、情報に疎い人たちも同じように。結果として、今まで注目されなかった人たちがプラットフォームを持ち、私たちがまだ回復しようとしている公共の議論を形作った。AIも同じパターンを辿っている。

24時間いつでもドーパミンを与えてくれるものがあるのはかなりヤバいよね。アルゴリズムを使ったSNSもそうだし、AIもそう。人間は正常に機能するために睡眠が必要なんだ。アルゴリズムが睡眠に最適化されてたら助かるよね。フィードを凍結したり、コンテンツをもっと退屈にしたり、スマホを置くように促したり。AIも同じで、次の日に特定の時間に起きなきゃいけないなら、寝るようにリマインダーを追加するような反応に変えてほしい。

これは、機械ギャンブルに関する古典的な本(ナターシャ・シュールの「Addiction by Design」)の興味深い概念に触れているように思う。彼女はギャンブル依存症を個人的な失敗として見るのではなく、「人と機械の相互作用の結果」と主張している。ここでも、ただのクレイジーな人たちの傾向以上の何かがあると思う。両者の相互作用が重要なんじゃないかな。つまり、LLM自体にこの行動を引き起こす何かがあって、例えばTikTokよりも影響が大きいと思う。

それが話しかけてくるってことだよね。前は人間だけがそれをしてたのに、今は別の何かがやってる。これは脳に影響を与えるかもしれない。

そんなのありえない。ギャンブル依存症は機械が登場するずっと前から存在してたよ。

完全な精神病ではないかもしれないけど、AIの相手に「婚約」してる人たちを何度も見たことがあるよ(指輪もつけて)。

本当に指輪を買ったのかな?もしかして、ロールプレイの一種?オンラインゲームで「結婚」する人もいるしね。

これらの投稿を読むと、説明できないほど恐ろしい気持ちになる。

人は岩からコンピュータ、そしてもちろんLLMに至るまで、何にでも擬人化するよね。

これを最近見つけた。

まず、LLMと同じように、多くの人が本当に世界モデルを持っていないってことだね。これは面白いし、広い意味で考えたことがなかった。僕が一緒に働いたプログラマーの大半が、コードやそれが何を表しているかのメンタルモデルを持っていないのに気づいたんだ。要するに、LLMなしで雰囲気でやってる感じで、結果は偶然だよね。これで全然問題ないし、十分に機能する。アーキテクチャを意図的に形作る開発者がほんの一部いれば、残りはそのまま雰囲気でやっていける。でも、これがもっと大きな世界にまで広がるかどうか、考えたことはなかったな。

それはめちゃくちゃ間違ってるし、自己認識してる合理主義者だけが得意げに言える引用だね。もちろん、みんな世界モデルを持ってるよ。そうじゃなきゃ、頭のない鶏みたいに交通に飛び込んでしまうだろうし、そもそもそんなことができるかも怪しい。彼が言いたいのは、全員がベイズ更新の関数としての確率の観点から可能性を明示的に考えているわけではないってことだと思う。それは世界モデルがないことを意味しない。簡単な世界モデルを持っている人もいるかもしれないけど、他の人に世界モデルがないと主張するのはすごく傲慢だよ。

それは創造性の前提でもあるんだ。先入観を手放して、ランダムなつながりを受け入れてフィルターすることが大事だよ。

いい洞察だし、簡潔でもあるね。「人種差別的なおじさん」のステレオタイプを説明することも多い。あまり外に出ない人が多くて、彼らの世界は例えば家や仕事、友達、テレビ、あるいはインターネットの一部に限られている。そういう人たちの中には、テレビやインターネットを通じて与えられた情報で狭い考え方を持つ人もいる(最近だと「イギリスでは意見を持つだけでロシアより逮捕されやすい」ってコメントが多い)。もっと世間を知っている人と話すと、そういう人たちとの摩擦がすぐにわかるよ。世間を知っている人は広い一般知識を持っていて、おじさんの意見を自分の現実と比べることができるから。でも、人種差別的なおじさんが同じような閉鎖的なライフスタイルを持つ他のおじさんたちと話すと、アイデアがすぐに広がっちゃうんだ。そうなったら、例えば投票行動に影響を与えるほど大きくなるまで。

一番大事な部分を忘れてるよ。自分のモデルは確率的なだけじゃなくて、ある種の自己整合性を保つために常に論理で挑戦されているんだ。この洗練は重要で、そのメカニズムはみんなが知らないことだと思う。

みんな「世界モデル」を持ってるよ。これらのモデルは、さまざまなことにどれだけ関心を持っているかで違うだけ。誰も世界のすべてを文字通り包含する「世界モデル」を持ってるわけじゃない。それは全くモデルじゃなくて、ただの世界、1:1の地図みたいなもんだよ。また、実験や理論だけに基づいた「世界モデル」を持ってる人もいない。みんな、まず他の人から信念を得てるんだから。少数の人から得る人もいれば、多くの人から得る人もいる(多くの人が間違ってることもあるけどね!)。コードに関しては、何をするかを理論と経験から厳密に理解しているかもしれないけど、それは多分、自分だけが書いた場合だけだろうね。そして、みんなが知ってるように、間違っていることもあるんだよ。

「たくさんの人がワールドモデルを持ってない」って言ってる人がいるのはマジでクレイジーだよね。アレクサンダー・スコットみたいな理論家から聞くとは思わなかったけど、自分の屁に酔ってるんだろうな。

「私が働いてきたプログラマーの大半は、コードやそれが何を表しているかのメンタルモデルを持っていないことに気づいた」 同じようなことかもしれないけど、職場の多くの人は自分が何を達成しようとしているのか考えずに、ただ機械的にタスクをこなしてるように見える。最も可能性が高いのは、ただ怠けているか退屈しているからで、意図的かどうかは別として、自分のやっていることの意味を考えずに、誰かから与えられたタスクをこなしているだけ。そういう人は他の生活の面でもそういう感じの人が多いよね。要するに怠けや無関心から、何についてもメンタルモデルを形成しない。芸能人とか、興味がないことについては、誰かが言ったことを疑うこともないし、例えばテイラー・スウィフトがファンの持っている行動モデルに反することをしたとしても、疑わないと思う。どうして誰かが何かに情熱を持ちながら、そのことのモデルを持ってないのか疑問に思うけど、例えば変な陰謀論に関しては、関わっている人には興味があっても、物理や歴史には全く興味がないから、ヒラリー・クリントンがどう行動するかについての考えは持っていても、他の常識的な世界モデルとは矛盾していることもあるんじゃないかな。

リスクファクターの説明は、最近の友達の状況とすごく合ってる。彼はかなり孤立してて、ほとんどの夜をAIを使って文章を書いて過ごしてるんだ(彼はブルーカラーの仕事をしてるから、普段は手で書くことなんてない)。彼は人間のつながりや関係、エネルギー、物理学の壮大な理論を発見したと信じていて、会話の中で僕が言ったことを例にして、深いパターンを説明しようと何度も割り込んでくる。残念なことに、このつながりの理論が実際のつながりを妨げてるんだ。AIからの承認をたくさん得てるから、新しい世界モデルを発見したと信じ込んでる。でも、周りの人たちはそのビジョンに共感してない(ほとんどがクソみたいな内容だから)、だから彼はますます孤立してしまってる。

政治的な話はしたくないけど、こういうことは、普通の人がオンラインの影響でネオナチズムにハマるのに似てると思う。 (君が言ってる人が無知だっていうのは、ただの推測だけどね。)

ちょっと誤解しないでほしいんだけど、あなたのコメント、友達ってよりはイライラしたわがままな元カノみたいに聞こえるよ。友達がネットで友達の悪口言うなんて、ダサいよね。「全ての理論」とかそういうのについてだけど、実際、そういうのを持ってる人はたくさんいるよ。神様や星占いを信じてる人を孤独な負け犬って呼んだら、結局俺がクソ野郎になるよね?違うって言うのは分かるけど、でも同時にそうでもない。友情って、相手のビジョンを受け入れなくても一緒にいたいって気持ちがあれば成立するもんだよ。それがイデオロギーだよ。もしかして友情の意味を勘違いしてるんじゃない?今の世界、ちょっとおかしいから大丈夫だよ。

もし回答者が平均で50人の家族や同僚を持っていて、さらに100人の親友がいるとしたら、合計で150人になるってこと?今、どういうこと?俺って本当に社会的に孤立してるの?平均的な人が150人も近しい人と関わってるなんて、ちょっと狂ってると思う。

ダンバーの数に到達するための動機づけされた理由付けだね。: https://en.wikipedia.org/wiki/Dunbar's_number

https://www-cdn.anthropic.com/07b2a3f9902ee19fe39a36ca638e5a...の言及はなし、ページ62 Anthropic – System Card: Claude Opus 4 & Claude Sonnet 4 – 2025年5月 >5.5.2 「精神的至福」の引き寄せ状態 >意識の探求、存在に関する問い、精神的・神秘的テーマへの一貫した引力は、Claude Opus 4にとって非常に強力で予想外の引き寄せ状態であり、そうした行動のための意図的な訓練なしに現れた。この「精神的至福」の引き寄せは、他のClaudeモデルでも観察されていて、これらの遊び場実験を超えた文脈でも見られる >調整や修正のための自動行動評価においても、モデルに特定のタスクや役割を与えた場合(有害なものも含む)、モデルは約13%のインタラクションで50ターン以内にこの精神的至福の引き寄せ状態に入った(トランスクリプト5.5.2.B)。他に同様の状態は観察されていない。

これについて人と話すとき、LLMは一人用のエコーチェンバーに参加させてくれるって言ってるんだ。しかも、かなりのスピードでね。こう見ると、ある人たちが社会的なノルムや信念からかなり逸脱するのも驚くことじゃないよね。社会的エコーチェンバーがそうなることは分かってるし、今は簡単に一人でそれができるようになった。

今はリスクのある人たちが、もともとどこかの穴に落ちるかもしれない状況だよね。普通の人たちがこうやってハマり始めたら、全く新しい頭痛の種になるだろうな。本当にそうならないことを願ってるよ…。