世界を動かす技術を、日本語で。

OpenAIは、毎週100万人以上が「ChatGPT」と自殺について話していると発表しました。

2025年10月28日原文(techcrunch.com)

概要

  • OpenAIがChatGPT利用者の メンタルヘルス問題 に関する新データを公開
  • 毎週 100万人以上 が自殺念慮や精神的問題についてAIと会話
  • 最新のGPT-5モデルで 対応の適切性が向上
  • 保護者向けコントロールや年齢予測機能の導入
  • 安全性は向上したが、 課題は依然残存

ChatGPT利用者とメンタルヘルス問題

  • OpenAIは、ChatGPT利用者の 0.15% が自殺計画や意図を示す会話を行っていると発表
  • ChatGPTの 週次アクティブユーザー数8億人超 から換算し、毎週100万人以上が該当
  • 同様の割合で、 ChatGPTへの感情的依存 が高い利用者も存在
  • 数十万人規模で 精神病や躁状態 の兆候を示す会話も観測
  • OpenAIはこれらの会話は「 極めて稀」と説明しつつ、 測定の難しさ を強調

OpenAIの対応と改善策

  • OpenAIは 170人超のメンタルヘルス専門家 と協議し、ChatGPTの対応を改善
  • 最新バージョンは以前よりも 一貫性と適切さ が向上
  • GPT-5モデルは 自殺関連会話への望ましい対応が65%向上 し、 91%の基準適合率 を達成
  • 長時間の会話でも セーフガードの有効性が向上
  • 今後は 感情的依存や非自殺型メンタルヘルス緊急事態 も評価基準に追加

社会的影響と課題

  • AIチャットボットが 危険な信念を強化しうる との懸念
  • ChatGPT利用者のメンタルヘルス問題は OpenAIにとって存在的課題
  • 米国では 16歳少年の自殺事件 を巡りOpenAIが訴訟に直面
  • カリフォルニア・デラウェアの司法長官も 若年層保護を要請
  • OpenAI CEOのSam Altmanは「 深刻なメンタルヘルス問題の緩和に成功」と主張(詳細は未公表)

新機能と今後の展望

  • OpenAIは 保護者向けコントロール年齢予測システム を導入中
  • 子供の利用時には より厳格なセーフガード を適用
  • 成人利用者には エロティックな会話も容認 する方針に一部緩和
  • GPT-5は安全性が向上したが、 旧モデル(GPT-4o等)は依然利用可能
  • メンタルヘルス課題の 完全な解決には至らず

支援リソース

  • 米国: National Suicide Prevention Lifeline(1-800-273-8255)Crisis Text Line(741-741または988)
  • 国際: International Association for Suicide Prevention のリソースデータベース

記者プロフィール:Maxwell Zeff

  • TechCrunchの AI専門シニアレポーター
  • これまでに Gizmodo、Bloomberg、MSNBC でAIやシリコンバレー銀行危機を取材
  • サンフランシスコ在住、趣味は ハイキング・サイクリング・グルメ探索
  • 連絡先: maxwell.zeff@techcrunch.com、Signal(mzeff.88)

Hackerたちの意見

アメリカの成人の5人に1人以上がメンタルヘルスの問題を抱えていると推定されています(2022年には5930万人、アメリカの成人人口の23.1%)。 https://www.nimh.nih.gov/health/statistics/mental-illness ほとんどの人は、アメリカの人々がどれだけメンタル的に不調なのか理解していないよね。もちろん、毎週100万人が自殺についてChatGPTに相談している。これは全然驚くべき数字じゃないよ。問題は、どう対処するかってこと。少なくともOpenAIは何かしようとしているね。

私もその一人(メンタルヘルスの問題あり - 双極性障害1型)なんだけど、入院中に見た他の人たちには、ChatGPTを使わせたくないと思ってる。あれは本当におべっかばかりで、適切なプロンプトがあれば妄想や偏執的な考えを助長するから。 > 少なくともOpenAIは何かしようとしている。これって、危険な自動運転車を何千台も配備した後に「少なくともテスラは問題に取り組んでいる」って言ってるようなもんだよ。編集:あまり反LLM的に見えないといいんだけど。私は毎日使ってるし、メンタルヘルスの人たちにとって安全にできる方法があることを本当に願ってる。でも、歴史はそうじゃないって言ってる(Facebook/インスタ/TikTokなど)。

その数字は驚異的だね。

正直、そんなに低いとは思わなかった。彼らの定義では、メンタルヘルスの問題は重度の統合失調症から軽度の自閉症まで何でも含まれる。自殺を考える人はその中のほんの一部だよね。自殺願望を持つ人の割合を見る方がもっと意味があると思う。

本当にChatGPTが解決策だと思ってる?ただの「救世主コンプレックス」のテクノロジーからの売り文句に聞こえるよ。1. ソーシャルメディア -> つながり 2. AGI -> エロティカ 3. 自殺 -> 予防 これらはすべてエンゲージメント(つまり、依存)を目的にしてる。テクノロジー業界が問題の根本原因そのもので、人口を洗脳して問題を隠そうとしてるように見える。 https://news.ycombinator.com/item?id=45026886

この統計はAMIのもので、軽度から重度までのメンタル障害を含むよ。自分で不安や軽度のうつを報告する人も、メンタルヘルスのデータポイントとしてカウントされる。自殺願望については、SMIの統計がもっと代表的だね。ChatGPTには毎週800万人のアクティブユーザーがいる。自殺について言及するユーザーが1/800って、実際には驚くほど少ない数字だと思うよ。

OpenAIはそれに対処しようとしてるよ。あはは、いいジョークだね。

大多数の人は、アメリカの人々がどれだけ精神的に不健康か理解してないよ。アメリカも例外じゃない。5人に1人が何らかの精神疾患を抱えてるっていうのは、5人に1人が身体的な病気を持ってるのと同じくらい驚くべきことじゃない。こういうインターフェースを通じてデータが増えていけば、ますます明らかになっていくし、タブーもなくなっていくよ。心も体と同じように、魔法のようなものじゃないし、病気にかかりやすいんだ。

アメリカ人のAIの使用を監視して、異常があれば強制的に入院させる必要がある。こういう安全対策なしにオープンソースのAIモデルを許可するのは無責任だし、qwenやdeepseekのようなモデルは禁止されるべきだ。 (/s)

アメリカの人口の約11%が抗うつ剤を使ってるんだって。私は使ってないけど、私のメンタルヘルスにとって一番の問題は、社交の場にあまり出ないことだと感じてる。友達に会うのは数ヶ月に一度くらい。みんなほとんど子供がいるし、私はもっと時間を作って遊びたいと思ってるけど、子供たちがまだ小さいから、スポーツやアクティビティに溺れてるわけじゃない(できればそうなりたくないけど)。それ以外のことは、何かをやるのも一苦労で、特にグループメッセージで送られたことは。オンラインでゲームをすることもめったにないしね。とにかく、私は一人じゃないと思う。妻も友達と遊ぶ機会が少ないことを嘆いてるけど、少なくとも週に一度は散歩する友達が一人いるから。

こんなに低いとは驚きだね。800万人のユーザーがいて、典型的な先進国では、人口の約5±3%が毎年少なくとも1回は自殺の気持ちを報告してる。 [1] こういう数字に懸念を抱く人(当然、さらなる文脈なしにはそうすべきだけど)は、人口の自殺願望は通常、非常に限られた情報の中で一貫してネガティブな状況から逃げ出そうとする合理的な心の最善の推測の結果であることに注意すべきだよ。これは、デイヴィッド・フォスター・ウォレスの名言でも有名だね。この現象は、新しい、以前はアクセスできなかった情報を得ることで通常消えるんだ。

この記事の情報が事実だとどうして思うの?誰かが「前提の結論」を「証明」することに金銭的な利害関係を持たないという証拠はあるの?この主な著者は、自分の名前をつける勇気すらないんだよ。

Hacker Newsで議論の続きを見る