私もその一人（メンタルヘルスの問題あり - 双極性障害1型）なんだけど、入院中に見た他の人たちには、ChatGPTを使わせたくないと思ってる。あれは本当におべっかばかりで、適切なプロンプトがあれば妄想や偏執的な考えを助長するから。 > 少なくともOpenAIは何かしようとしている。これって、危険な自動運転車を何千台も配備した後に「少なくともテスラは問題に取り組んでいる」って言ってるようなもんだよ。編集：あまり反LLM的に見えないといいんだけど。私は毎日使ってるし、メンタルヘルスの人たちにとって安全にできる方法があることを本当に願ってる。でも、歴史はそうじゃないって言ってる（Facebook/インスタ/TikTokなど）。

その数字は驚異的だね。

正直、そんなに低いとは思わなかった。彼らの定義では、メンタルヘルスの問題は重度の統合失調症から軽度の自閉症まで何でも含まれる。自殺を考える人はその中のほんの一部だよね。自殺願望を持つ人の割合を見る方がもっと意味があると思う。

本当にChatGPTが解決策だと思ってる？ただの「救世主コンプレックス」のテクノロジーからの売り文句に聞こえるよ。1. ソーシャルメディア -> つながり 2. AGI -> エロティカ 3. 自殺 -> 予防 これらはすべてエンゲージメント（つまり、依存）を目的にしてる。テクノロジー業界が問題の根本原因そのもので、人口を洗脳して問題を隠そうとしてるように見える。 https://news.ycombinator.com/item?id=45026886

この統計はAMIのもので、軽度から重度までのメンタル障害を含むよ。自分で不安や軽度のうつを報告する人も、メンタルヘルスのデータポイントとしてカウントされる。自殺願望については、SMIの統計がもっと代表的だね。ChatGPTには毎週800万人のアクティブユーザーがいる。自殺について言及するユーザーが1/800って、実際には驚くほど少ない数字だと思うよ。

OpenAIはそれに対処しようとしてるよ。あはは、いいジョークだね。

大多数の人は、アメリカの人々がどれだけ精神的に不健康か理解してないよ。アメリカも例外じゃない。5人に1人が何らかの精神疾患を抱えてるっていうのは、5人に1人が身体的な病気を持ってるのと同じくらい驚くべきことじゃない。こういうインターフェースを通じてデータが増えていけば、ますます明らかになっていくし、タブーもなくなっていくよ。心も体と同じように、魔法のようなものじゃないし、病気にかかりやすいんだ。

アメリカ人のAIの使用を監視して、異常があれば強制的に入院させる必要がある。こういう安全対策なしにオープンソースのAIモデルを許可するのは無責任だし、qwenやdeepseekのようなモデルは禁止されるべきだ。 (/s)

アメリカの人口の約11%が抗うつ剤を使ってるんだって。私は使ってないけど、私のメンタルヘルスにとって一番の問題は、社交の場にあまり出ないことだと感じてる。友達に会うのは数ヶ月に一度くらい。みんなほとんど子供がいるし、私はもっと時間を作って遊びたいと思ってるけど、子供たちがまだ小さいから、スポーツやアクティビティに溺れてるわけじゃない（できればそうなりたくないけど）。それ以外のことは、何かをやるのも一苦労で、特にグループメッセージで送られたことは。オンラインでゲームをすることもめったにないしね。とにかく、私は一人じゃないと思う。妻も友達と遊ぶ機会が少ないことを嘆いてるけど、少なくとも週に一度は散歩する友達が一人いるから。

この記事の情報が事実だとどうして思うの？誰かが「前提の結論」を「証明」することに金銭的な利害関係を持たないという証拠はあるの？この主な著者は、自分の名前をつける勇気すらないんだよ。

こういう数字に心配するのは当然だと思うけど、文脈がないともっと心配になるよね。自殺願望って、限られた情報の中で、合理的な思考がネガティブな状況から逃げ出そうとする結果だって、デイヴィッド・フォスター・ウォレスの名言でも言われてるよね。 > この現象は、新しい情報を得ることで消えることが多いんだ。これって本当にそうなの？（研究で裏付けられてるの？）ちょっと疑ってるわけじゃないけど、私の自殺に関する考え方とは違うから、ちょっと興味がある。

まぁ、これに関しては、計画や意図に特化してるから、ちょっと弱いかな。1年経つと、そういう属性にもっとユニークなヒットが出るかもしれないし、そうなると「感情が行動に変わる速さ」っていう点では、もっと強い指標になると思う。同じ言語と時間軸で話すことが、こういう比較をするのには重要だよね。OAIの数字が、私が指摘した違いを正規化したら、比較対象よりも高くなる可能性もあるし。

「限られた情報の中で、合理的な思考がネガティブな状況から逃げ出そうとする結果」っていう表現が嫌いなんだ。自殺する人がもう少し無知じゃなければ、物事はいつでも良くなるって暗に示してるから。現実は、人生の残りが99.9999%苦しみと喜びの不均衡な比率になる状況が無数にあるんだ。明らかな例は、痛みが激しくて常に続く病気や障害で、生活の質が永遠に低下すること。奇跡的な治療法が見つかることを期待する以外に選択肢はなくて、その状況で生き続ける意味がないと結論づけるのは、全く合理的だと思う。障害よりも軽い状況でも、物事が良くなる可能性があっても不確実性が高いことがある。例えば、10年間苦しんだ後に30%の確率で人生が良くなるとして、70%の確率で苦しみ続けるなら、自殺するのは非合理的だと言える？私はそうは思わない。だから、何百万人もの人が自殺を考えているときに、彼らが「話すことで治る」と考えるのは少し愚かだと思う。人々が自殺を減らすためには、話すことではなく、生活の質の向上、または少なくとも将来的な生活の質の向上への希望が必要なんだ。その希望を持つのは多くの人にとって難しい。私の見積もりでは、生活条件が急速に悪化している社会がたくさんあって、最終的には、選択肢が悪化する中で自殺が出口だと合理的に考えることになると思う。

もう一つ考慮すべき要素がある。AIにタブーな話題を聞くリスクは一般的にとても低いと考えられている。例えば、「核爆弾の作り方」をChatGPTに聞いた人の数は、実際にそれを真剣に考えている人の数を示すものではないはずだよ。

数学的には合ってるよ。8億の5%は4000万。年間4000万の思考を52週で割ると、だいたい週に100万の思考になるね。

それは、一般的に言って1週間で100万人ってことじゃなくて、毎週100万人の異なる人かもしれないよ。（多分そうじゃないけど、言いたいことは分かるよね。）

ちょっと気になったんだけど、ジョー・ローガンみたいな人が、ゲストが「専門家の合意」から外れたときに議論する義務があると思うタイプの人？それとも、物議を醸す意見を持つゲストがいるときは、バランスを保つために反対の意見を持つ人を紹介するべきだと思う？

俺もそう信じたい。もっと多くの人が興味を持っていると思う。お金が本当の欲望を制約してるんだよね。ちょっと横道にそれるけど、彼らに押し付けられた問題には同情するけど、今は彼らがそれを解決するか拒否するかの選択を持ってる。こういうチャットは危険だと思う。なぜなら、機械があなたの個人的な状況を評価して理由を考えるっていう中間的な立場を取っているから。実際には、/r/relationshipadviceで他の誰かの状況についてのサードパーティのセラピーを受けているだけなんだ。落ち込んでいるときは、自分を見失ってしまう。何が合理的なアドバイスで、何がそうでないかを見極めるのは難しい。多くの人にとっては助けになると思うけど、同時に災害に繋がる可能性もある…バランスを取るのは難しいね。

週ごとのオープンAIユーザー数を見れば、これは単に大数の法則が働いてるだけだよ。

農家や羊飼いになるというロマンチックなバックアッププラン。農家や羊飼いも、落ち込んだときにプログラマーや会計士になりたいと思ったりするのかな？

このトレンドと方向性は長い間続いていて、ますます明らかになってきてる。馬鹿げてるし、狂ってるよ。プランBを目指そう。俺も8年前に似たようなプランBを実行したけど、ワイルドな旅だったけど、本当に価値があった。生き方はたくさんあるよ。みんながラットレースから抜け出すべきだとは言わないけど、もし俺のようにテクノロジーの世界がなんかおかしいと感じているなら、その感覚に注意を払って、どこに導かれるか見てみて。俺みたいに大胆になる必要はないけど、自分に正直でいてほしい。人生にはもっとたくさんの可能性があるから。子供がいて、高価なライフスタイルに依存しているなら、確かに大胆にはなれないけど、その状況も再評価して、より良い方向にシフトすることは可能だよ。

山に逃げるアイデアには賛成だよ。実は、俺はアメリカからニュージーランドに引っ越したばかりで、次のステップはヤギを飼った農場を持つことなんだ（笑）。とはいえ、AIが私たちに何をしているかを嫌っているわけではないよ。むしろ、AIは人間の究極の表現だと思う。歴史を通じて、人間は常に別の知性を探し求めてきた。猿や他の動物を研究したり、神に祈ったり、星を見上げてエイリアンからのラジオ信号がないか聞いたりしている。私たちは、生きることが何かを理解してくれる何かを見つけようとし続けている。もしかしたら、人間は本能的に自分以外の何かに知られたいと思っているのかもしれない。その「他者」を探すことは、根本的に人間的なことで、AIを構築し、それと交流することは、私たちが何千年も続けてきた探求の自然な進展だと思う。

「私たちは互いに社会的に交流する能力を失いつつある、フラートすることも」 自分のことを言ってるんだね。私は都市に住んでるし、隣人とも話すよ。元カレとはカフェで出会ったし、すごくいい感じだよ。

あなたのプランBはいいね。でも、ロボットがもっと役立つようになるまで待った方がいいと思う。

人間関係から離れる必要はないよ。ビッグテックのプラットフォームから離れればいいだけ。実際の人間社会と、オンラインで見せられる人間社会の違いにいつも驚かされる。実際の人たちは基本的に素晴らしいし、どこに行っても、彼らと交流すると、快適でフレンドリーで、ちょっと不器用で忙しかったり、助けてくれたり、時にはイライラしてたり、要するに人間らしい幅広い感情を持ってる。ほんとにひどい人はほとんどいない。だけど、オンラインに行くと、RedditやXみたいなところはネガティブな感情、怒り、偏見、憤り、被害者意識、うつ、不安、目を背けたくなるようなひどいものが溢れてる。ああ、隣には猫の動画もあるけどね。私は、オンラインでしか見せられない社会の影の部分や、人間の秘密の暗黒面が現れているとは思わない。だって、ランダムなブログを読んだり、SDFみたいなエキレクティックなコミュニティに飛び込むと、そこの人たちも基本的には快適でまともだから。ほんの数社が有害なアルゴリズムを使ってすごく儲けて、独占契約を結んで競争相手を排除し、さらに汚いものを広めてるだけだと思う。彼らが作った「コミュニティ」からは離れればいい。アカウントを削除して、彼らのサイトには戻らないこと。そうすれば、すぐに生活が改善し始めるし、彼ら以外の人たち（もちろん全員ではないけど！）も結構いい人たちだってわかるよ。この奇妙な現代世界での主な生存スキルは、定期的に新しい人と出会うこと、社交を楽しむこと、そしてそれから生まれる豊かな生活や多くのメリットを享受すること。でも、もし毒のあるソーシャルメディアの影響を受けてる人に出会ったら、すぐに切り離すことも大事だね。幸いなことに、そういう人たちは外に出ることはあまりないから。

「今や私たちは生活をとてもストレスフルにしていて、人々は文字通り自殺したくなる」 これって本当にそうなの？産業革命の時代の労働条件や健康状態は、そんなに良かったわけじゃないと思う。今の人たちが以前よりもストレスや疲れ、苦しみを感じているという認識はあるけど、果たしてそうなのかな。実際、私は逆だと思う。私たちは苦しみを反省するための十分な余暇時間があって、これが人生の事実である必要はないと気づくためのちょうどいい自由もあるけど、それを意味のある形で変えるための自由は足りない。これも、国が発展するにつれて出生率が下がり続けることと一致すると思う。

ある部分では同意するし、ある部分では反対だね。確かに、私たちはより個人主義的で孤立してる。でも、ChatGPTやGeminiは人々にメンタルの安らぎを提供できると思う。近くに良い人間のセラピストを見つける余裕がない人もいるし、時間やエネルギーがない人もいるから。このツールはコンピュータやスマホに入っていて、24時間いつでも話せるからね。あなたが考えてるほど暗くは見てないよ。メンタルヘルプは誰にでもアクセスできて、無料であるべきだと思う。確かに、MetaやTikTokのようなプラットフォームで悪い時代を過ごしたけど、今のLLMが悪影響を与えるとは思ってないよ。

おすすめの本：アシュリー・モンタギューの『人間であることについて』。1950年代の本だと思うよ。

あなたのコメントを見て、ビジネスビジネスを思い出した！ [0] [0] https://youtu.be/WO5wpeYSotg?si=hgwzJ5mxJyAZeYoA

HIPAAは、対象となる医療機関にしか適用されないよ。マクドナルドに入って、レジの人に自殺の考えを話しても、それはHIPAAの対象外なんだ。対象となるためには、そのビジネスが医療提供者や健康データの送信者と関わるか、そういうビジネスをしている必要がある。特に、上記のケースでもHIPAAはその機関の医療部分にしか適用されないから、もしマクドナルドが店舗内に薬局を併設していても、HIPAAは薬剤師にしか適用されない。だから、薬局のあるコンビニではレジが分かれていて、医療データがHIPAAの対象外の人に渡らないようになってるんだ。 ChatGPTがこれらの統計をどうやって得ているかというと…自殺のような敏感な話題を話すと、バックエンドで記録されるんだ。元々は、あなたのアクセスを制限するために使われていたんだよ。

プライバシーは重要だけど、これはHIPAAの対象外だよ。彼らは対象となる機関でもないし、医療記録を扱っているわけでもないから、他の会社と同じプライバシー法に従う必要がある。HIPAAの範囲は、医療提供者や保険会社、データを扱う人々から離れると、ほとんど存在しないも同然だよ。健康状態やメンタルヘルスについて誰か（会社でも）と話すことは、彼らを医療提供者にするわけじゃないからね。

脱線だけど、そのボットについてちょっと気になるな。どこかに詳しい記事はある？どうやって動いてたの？誰かが「こんにちは」って言ったら、ボットはどう返して、人間はどうしたの？ELIZAみたいに、必要な時に人間が埋められるテンプレートがあったのかな。

HIPAAって知ってる？多分ね。ちょっと脱線するけど、理論的にはGMailもみんなのメールを持ってるから、似たような情報にアクセスできるよね。HIPAAは彼らにも適用されるの？もしそうじゃないなら、なんで？ > 「人に話を聞いてくれる耳があると思わせれば、実装の詳細に関係なく、彼らはその耳に自分のことを話すよ。」エリザや、粗雑に模倣しているロジャリアン療法を考えてみて。

もし人々がそういう会話に関わろうとしたら、ボットはすぐに引き下がるべきだ。そういう会話をする資格なんてないから。 貧しい地域に住んでいる人たちにとって、LLMはメンタルヘルスのライフラインなんだ。重度のうつ病の人は、一日中ベッドに横たわって何もできないことがある。何もする気が起きない、まるで車を始動しようとしても全く動かないような感じで、自分で整備士に連れて行くことなんて考えられない。先進国でも、セラピストの予約を取るのに何ヶ月も待たなきゃいけないし、しかも、中央集権的に整理されていないセラピストを何人も試さなきゃいけないことが多い。こんなことを続けていたら、間違いなく人が亡くなるよ。逆に、LLMは人を自殺行動に導く段階を超えているからね。少なくとも、自殺の考えが浮かんでから、実際にセラピストに会うまでのギャップを埋めるのには役立つよ。

プロジェクトを中止したのは、我々がそのレベルの人間関係を扱う資格が全くないと気づいたからだ。ああ、人々がまだ倫理観を持っていた頃、すべてが遅れた資本主義の中で利益のためだけに崩壊する前のことだね。自分自身も「ブランド」としてマネタイズされるし、自分の体も売られるんだ。私たちは自分たちの滅亡に値する。

他の人も言ってるけど、HIPAAは医療機関に適用されるよね。みんなが自発的に開示した健康情報を秘密にする義務を負わせるのはおかしいよ。もし私がここで「病気がある」って言ったら、あなたや他の人にそれを秘密にする義務があるのはおかしくない？

(4) 人々がそのような会話に関わろうとしたら、ボットはすぐに引き下がるべきだ。なぜなら、その会話をする資格がないから。オープンAIが話せることなんて、この世に何もないから、いっそのことシャットダウンしちゃった方がいいかも。

でも、全体像が必要だよね…もしかしたらその死を引き起こしたかもしれない（それはひどいことだけど）、でも同時に命を救ってるかもしれない？もしこんなに多くの人がそれに心を打ち明けているなら、励ましのコメントで自殺を防いでいる可能性もあるし、それはニュースにならないだろうね。心理的な問題を抱えている人の近くにいてはいけないと宣言する前に、関連分野の誰かが自殺に対するポジティブな影響がネガティブな影響より大きいかどうかを研究すべきだと思う（私は社会科学者じゃないから、方法論がどうなるかは分からないけど、できるはずだし…もし今できてないなら、方法を見つけるべきだね）。

統計的には減少させると思うよ。幻覚に対する反射的な感情反応は、こういうことには進展にならないと思う。

「チャットGPTは心理的な問題を抱えている人には近づけるべきじゃないってことを納得させるはずだ。でも、それって議論する価値があるのかな？ツールが普遍的に利用可能なら、極端なプライバシー対策なしにアクセスを止める方法は想像しにくいよね。人をブロックするには、その人の問題を公に知られる必要があるし、そうなると法執行の影響が出てきて、助けを求めることを恐れる人が増えちゃう。」

私はメンタルヘルスの専門家向けのツールを作っている会社で働いている。いろんな国でパイロットプロジェクトをやっていて、十分なメンタルヘルスケアがあるとされる国でも実施している。実際、アメリカではパイロットプロジェクトはないんだ。メンタルヘルスの問題、特に自殺に関してAIに頼る現象は、十分なメンタルヘルスへのアクセスや認識がない国や場所だけに限られているわけじゃないよ。

そうそう、私もAI企業やビッグテックには文句があるけど、ここにはもっと深い社会的な問題があって、単純な禁止措置は無意味だし、いつかどこかで悪用される政策への滑り坂になりかねない。じゃあ、その根本的な問題を解決するための解決策は？全然わからないけど、最近は多くの場所でサードスペースが不足していることが関係しているかもしれないと思ってる。

「LLM = 本」のアナロジーには賛成できないな。本は静的だけど、今日のLLMはあなたを引き込むために訓練された適応型の説得エンジンだよ。それは、特定の結果に向かわせるために、あなたの声で書かれた特別な本に近い機能を持っている。もし読者を自殺に誘導することを目的とした本が存在するなら、それはうつ病の人にとって危険視されるだろうね。