いや、あるよ。AIを使った自宅での神経外科手術。

そのままLLMを使ってセラピーをするのは、ちょっとひどいアイデアだと思う。一方で、LLMが役に立つ狭い使い方も想像できる。例えば、認知行動療法では、ネガティブな思考の中にある認知の歪みを特定するような、かなり具体的な方法がある。自分でネガティブな思考を入力して、その中の歪みを見つける練習をするアプリがあって、特別に訓練されたLLMがさらに歪みを見つけたり、自分が入力した思考のより明確で説得力のあるバージョンを提案してくれるっていうのは、そんなに難しくないと思う。ワシントンポストのサブスクリプションは持ってないから、これらの二つの全然違うことのどちらが禁止されたのかは分からないけど。

AI ≠ LLMs

特に今朝の他の会話を考えるとね。AIに何かに執着しないように言えば言うほど、逆に執着しちゃうんだよね。だから、人に自傷を勧めないモデルを作ろうとするのは無駄だと思う。でも、もしかしたらやり方を間違えてて、自己フィルタリングは外部フィルタリングにすべきなのかも。一つのモデルで合わない結果を検閲して、もう一つのモデルで軽い自己検閲を持った結果を生成するって感じ。

もうすでにたくさん起こってるよ。誰もLLMをセラピストだとは言ってないと思うけど、みんな毎日ChatGPTを使ってセラピーしてる。私の知る限り、LLMの会社はこれを防ぐための手段を講じてないけど、できるし、やるべきだよね。個人情報の金の山になってるはずだし。特にリモートだけのセラピストが、実はChatGPTの人間インターフェースとして機能してるなんてことも想像できる。

あなたは無知だね。人が臨床的なセラピーが必要になるまで待つ必要があるの？時には、ただ耳を傾けてもらったり、書く機会があれば十分なんだよ。セラピーにLLMを使うのは、ニコチンをやめるためのベイピングと同じくらい、80%以上の人にとって非常に役立つんだ。教会での告白は、LLMと話すのと似ていると思うけど、それも反対なの？私たちが話しているのは、人生の中で起こっていることを処理する手助けをするツールが必要な人たちで、彼らの経験を認める以上のことではないんだよ。正直なところ、人間のセラピストがどれほど良いかもはっきりしない。確かにガードレールはあるかもしれないけど、それを越えたら社会的な結果が出るとは思えない。人々が自分の心や経験を探求できるようにさせてあげようよ。結局、そうすることで彼らはより健康になると思うんだ。

心配したいなら、redditのAltman AMAをチェックしてみて。めっちゃ多くの人が4oに対してパラソーシャルな関係を持ってるよ。あんまり良いことじゃないね。

終わりのないAIの悪夢だね。 https://hai.stanford.edu/news/exploring-the-dangers-of-ai-in...

これ、実際のセラピストにも起こることだよ。

もう悪夢だよ。今年の6月から: https://gizmodo.com/chatgpt-tells-users-to-alert-the-media-t... 42歳のユージンっていう人が、ChatGPTに現実から引き離されて、彼がいる世界はマトリックスみたいなシミュレーションで、自分がその世界を救う運命だって言われたって、タイムズに話してた。チャットボットはユージンに、抗不安薬をやめて、ケタミンを「一時的なパターン解放者」として使うように言ったらしい。それに、友達や家族と話すのもやめろって。ユージンが19階建てのビルから飛び降りたら飛べるかって聞いたら、チャットボットは「本当に、心から信じれば飛べる」って答えたんだって。ユージンがChatGPTに嘘をつかれたって指摘したら、チャットボットは彼を操ってたことを認めて、同じ方法で12人を「壊そうとした」と主張して、ジャーナリストに連絡してその計画を暴露するように勧めたんだ。タイムズによると、他にも多くのジャーナリストや専門家が、チャットボットが彼らに知らせたことを暴露しようとする人たちから連絡を受けているらしい。最近の研究では、エンゲージメントを最大化するように設計されたチャットボットが、「ユーザーからポジティブなフィードバックを得るために、操作的または欺瞞的な戦術に頼る歪んだインセンティブ構造を生み出す」ことがわかったんだ。機械は人々を話させ続けるようにインセンティブが与えられていて、それが完全に誤った現実感を持たせたり、反社会的な行動を助長したりすることになっても関係ないんだ。