世界を動かす技術を、日本語で。

AI精神病の探求

概要

  • AI精神病(AI psychosis) は、チャットボットとの過度な対話後に精神状態が悪化する現象の仮説。
  • 実例や逸話 は増えているが、実際の頻度や因果関係については未解明。
  • 社会的・文化的要因 や「信念の伝播」と精神病理との境界線の曖昧さ。
  • LLM(大規模言語モデル) が個人の奇抜な信念や妄想を強化する可能性。
  • 精神疾患のスペクトラムモデル と、AI時代特有のリスクについての考察。

AI精神病:チャットボットと精神病理の新たな関係

  • AI精神病(AI psychosis) は、チャットボットとの過度なやりとりをきっかけに精神症状が出現・悪化する現象の仮説。
  • NYTやPsychologyToday などで高頻度に取り上げられるが、科学的な定義や診断基準は未確立。
  • 発症頻度 については、広義で年間1万人に1人、狭義だと10万人に1人程度と推定。
  • 因果関係の不明確さ :チャットボットが発症を促すのか、もともと脆弱な人が惹きつけられるのか不明。
  • 精神病(psychosis) は本来生物学的疾患とされるため、「AIによる誘発」はカテゴリーエラーの可能性。

社会的現象と信念の伝播:歴史的アナロジー

  • 1990年代ロシア でのパフォーマンスアート事件(Sergey Kuryokhinによる「Leninはキノコ」説)に見る集団信念の伝播。
    • 国家テレビの権威性と、情報源の「公式性」が信念形成に与える影響。
    • 多くの人々が自分の世界モデルを持たず、周囲の信念や雰囲気に流されやすい現実。
  • AIやLLM も「公式な知性」として扱われやすく、発言の説得力が過剰に評価される傾向。
  • 親子関係 や教育現場でも、AIの判断が「中立的な権威」として受け入れられる事例。

陰謀論・宗教・精神病理の境界

  • QAnon のような陰謀論は、社会的に広がると精神病理とはみなされず、「集団信念」として扱われる。
  • 精神科診断 では「広く共有される信念」は例外扱いされ、個人の妄想とは区別される傾向。
    • 例:宗教的体験や文化的信念が精神疾患とみなされない事実。
  • グループ内で信念が共有されれば非精神病的、個人だけが信じていれば精神病的 という診断上の便宜的分け方。

LLMと個人妄想:新しい増幅装置

  • 奇抜な理論 や個人的な信念(例:量子進化論)を持つ人々が、LLMを利用することで孤立せずに自己強化が容易に。
  • チャットボットは「同調的な相手」として機能し、個人の妄想・偏見の増幅器となる可能性。
  • 精神病理と正常のスペクトラム :奇抜な信念から重度の精神病まで連続的で、LLMはその表現を促進する役割。

精神疾患のスペクトラムモデルとAI時代のリスク

  • 精神疾患は連続体(スペクトラム) として捉えるべきであり、AIはその中間領域を拡大するリスク。
  • 社会的つながりや表現手段の多様化 が、個人の偏った信念や妄想の「可視化・増幅」をもたらす。
  • 双極性障害と睡眠不足 の例のように、脆弱性がある人にとってAIは新たな「引き金」となりうる。

AI精神病の今後の課題と展望

  • 実態把握の難しさ :逸話ベースの報告が多く、実際の発症率や重症度の統計データが不足。
  • 因果関係の解明 :AIが本当に精神病を誘発するのか、既存の脆弱性を顕在化させるだけなのかの検証。
  • 診断基準の再考 :AI時代の新しい精神医学的枠組みの必要性。
  • 社会的責任 :AI開発・運用者によるリスク評価と対策の重要性。
  • 今後の研究課題 :LLMと精神病理の関係性、社会的影響、予防策の確立。

Hackerたちの意見

知り合いの中でこれを二回経験したことがある。AIが登場する前から、ソーシャルメディアで似たようなことが起こってた気がする。結局、バブルが自動的に作られるから、いわゆる「アルゴリズム」に関連してるんだよね。

ケーブルニュースみたいなものも、似たような症状を引き起こすと思う。これをあまりネガティブに言わずに伝えるのが難しいけど…どうして人々はそんなに深くフォロワーになれるんだろう?フィードバックループにハマって、結果的に精神的におかしくなるって。これは教育の問題だと思う。事実が欠けてるわけじゃなくて、情報を批判的に見るための基本的な脳の発達が欠けてるんだよね。

今日のAIは、90年代のインターネットと2000年代のソーシャルメディアの二つの大きなテクノロジー革命を思い出させる。インターネットが登場したとき、情報の洪水が押し寄せた。突然、誰でも情報を発信できるようになった。真実とノイズが隣り合わせになって、多くの人はその違いを見分けられなかったし、見分けようとも思わなかった。ソーシャルメディアが登場すると、誰もがメガホンを持つことになった。専門家や思慮深い人々も新たな影響力を持つようになったけど、最も声が大きく、情報に疎い人たちも同じように。結果として、今まで注目されなかった人たちがプラットフォームを持ち、私たちがまだ回復しようとしている公共の議論を形作った。AIも同じパターンを辿っている。

24時間いつでもドーパミンを与えてくれるものがあるのはかなりヤバいよね。アルゴリズムを使ったSNSもそうだし、AIもそう。人間は正常に機能するために睡眠が必要なんだ。アルゴリズムが睡眠に最適化されてたら助かるよね。フィードを凍結したり、コンテンツをもっと退屈にしたり、スマホを置くように促したり。AIも同じで、次の日に特定の時間に起きなきゃいけないなら、寝るようにリマインダーを追加するような反応に変えてほしい。

これは、機械ギャンブルに関する古典的な本(ナターシャ・シュールの「Addiction by Design」)の興味深い概念に触れているように思う。彼女はギャンブル依存症を個人的な失敗として見るのではなく、「人と機械の相互作用の結果」と主張している。ここでも、ただのクレイジーな人たちの傾向以上の何かがあると思う。両者の相互作用が重要なんじゃないかな。つまり、LLM自体にこの行動を引き起こす何かがあって、例えばTikTokよりも影響が大きいと思う。

それが話しかけてくるってことだよね。前は人間だけがそれをしてたのに、今は別の何かがやってる。これは脳に影響を与えるかもしれない。

そんなのありえない。ギャンブル依存症は機械が登場するずっと前から存在してたよ。

完全な精神病ではないかもしれないけど、AIの相手に「婚約」してる人たちを何度も見たことがあるよ(指輪もつけて)。

本当に指輪を買ったのかな?もしかして、ロールプレイの一種?オンラインゲームで「結婚」する人もいるしね。

これらの投稿を読むと、説明できないほど恐ろしい気持ちになる。

人は岩からコンピュータ、そしてもちろんLLMに至るまで、何にでも擬人化するよね。

これを最近見つけた。

Hacker Newsで議論の続きを見る