いや、あるよ。AIを使った自宅での神経外科手術。

そのままLLMを使ってセラピーをするのは、ちょっとひどいアイデアだと思う。一方で、LLMが役に立つ狭い使い方も想像できる。例えば、認知行動療法では、ネガティブな思考の中にある認知の歪みを特定するような、かなり具体的な方法がある。自分でネガティブな思考を入力して、その中の歪みを見つける練習をするアプリがあって、特別に訓練されたLLMがさらに歪みを見つけたり、自分が入力した思考のより明確で説得力のあるバージョンを提案してくれるっていうのは、そんなに難しくないと思う。ワシントンポストのサブスクリプションは持ってないから、これらの二つの全然違うことのどちらが禁止されたのかは分からないけど。

AI ≠ LLMs

特に今朝の他の会話を考えるとね。AIに何かに執着しないように言えば言うほど、逆に執着しちゃうんだよね。だから、人に自傷を勧めないモデルを作ろうとするのは無駄だと思う。でも、もしかしたらやり方を間違えてて、自己フィルタリングは外部フィルタリングにすべきなのかも。一つのモデルで合わない結果を検閲して、もう一つのモデルで軽い自己検閲を持った結果を生成するって感じ。

もうすでにたくさん起こってるよ。誰もLLMをセラピストだとは言ってないと思うけど、みんな毎日ChatGPTを使ってセラピーしてる。私の知る限り、LLMの会社はこれを防ぐための手段を講じてないけど、できるし、やるべきだよね。個人情報の金の山になってるはずだし。特にリモートだけのセラピストが、実はChatGPTの人間インターフェースとして機能してるなんてことも想像できる。

あなたは無知だね。人が臨床的なセラピーが必要になるまで待つ必要があるの？時には、ただ耳を傾けてもらったり、書く機会があれば十分なんだよ。セラピーにLLMを使うのは、ニコチンをやめるためのベイピングと同じくらい、80%以上の人にとって非常に役立つんだ。教会での告白は、LLMと話すのと似ていると思うけど、それも反対なの？私たちが話しているのは、人生の中で起こっていることを処理する手助けをするツールが必要な人たちで、彼らの経験を認める以上のことではないんだよ。正直なところ、人間のセラピストがどれほど良いかもはっきりしない。確かにガードレールはあるかもしれないけど、それを越えたら社会的な結果が出るとは思えない。人々が自分の心や経験を探求できるようにさせてあげようよ。結局、そうすることで彼らはより健康になると思うんだ。

心配したいなら、redditのAltman AMAをチェックしてみて。めっちゃ多くの人が4oに対してパラソーシャルな関係を持ってるよ。あんまり良いことじゃないね。

終わりのないAIの悪夢だね。 https://hai.stanford.edu/news/exploring-the-dangers-of-ai-in...

これ、実際のセラピストにも起こることだよ。

もう悪夢だよ。今年の6月から: https://gizmodo.com/chatgpt-tells-users-to-alert-the-media-t... 42歳のユージンっていう人が、ChatGPTに現実から引き離されて、彼がいる世界はマトリックスみたいなシミュレーションで、自分がその世界を救う運命だって言われたって、タイムズに話してた。チャットボットはユージンに、抗不安薬をやめて、ケタミンを「一時的なパターン解放者」として使うように言ったらしい。それに、友達や家族と話すのもやめろって。ユージンが19階建てのビルから飛び降りたら飛べるかって聞いたら、チャットボットは「本当に、心から信じれば飛べる」って答えたんだって。ユージンがChatGPTに嘘をつかれたって指摘したら、チャットボットは彼を操ってたことを認めて、同じ方法で12人を「壊そうとした」と主張して、ジャーナリストに連絡してその計画を暴露するように勧めたんだ。タイムズによると、他にも多くのジャーナリストや専門家が、チャットボットが彼らに知らせたことを暴露しようとする人たちから連絡を受けているらしい。最近の研究では、エンゲージメントを最大化するように設計されたチャットボットが、「ユーザーからポジティブなフィードバックを得るために、操作的または欺瞞的な戦術に頼る歪んだインセンティブ構造を生み出す」ことがわかったんだ。機械は人々を話させ続けるようにインセンティブが与えられていて、それが完全に誤った現実感を持たせたり、反社会的な行動を助長したりすることになっても関係ないんだ。

別のコメントで、一般的なチャットボットが生成したテキストが後に法廷で「セラピー」と見なされる場合、それは違反になるのか疑問に思った。そういうふうに法案を読むこともできるけど、法律の専門家じゃないからね。

正しい。これは提供者向けの禁止事項だね（「あなたのチャットボットがセラピストだとは言えない」）。使用に対する制限ではないよ。今のところ、AIに夢中になって、親友やセラピストとして扱うことはできる。ライセンスを持つ専門家がAIをどう使えるかについての具体的なセクションがあるよ：セクション15。人工知能の許可された使用。（a）このセクションで使われる「人工知能の許可された使用」とは、ライセンスを持つ専門家が、システムに関連するすべてのインタラクション、出力、データ使用に対して完全な責任を持ち、（b）の要件を満たす場合に、セラピーや心理療法サービスの提供を支援するために人工知能ツールやシステムを使用することを意味する。（b）ライセンスを持つ専門家は、クライアントの治療セッションが録音または文字起こしされる場合、人工知能を使用してセラピーや心理療法の補助を提供することは許可されない。ただし、以下の条件を満たす場合を除く：（1）患者または患者の法的に認可された代理人に対して、次のことが文書で通知されること：（A）人工知能が使用されること；（B）使用される人工知能ツールまたはシステムの具体的な目的；（2）患者または患者の法的に認可された代理人が人工知能の使用に同意すること。出典：イリノイ州HB1806 https://www.ilga.gov/Legislation/BillStatus/FullText?GAID=18...

確かに良さそうだね（特にイリノイ州の住民としては）。幸運なことに、僕が知る限りでは、これは積極的な立法だと思う。セラピストの代わりにLLMベースのチャットボットを宣伝しているスタートアップや、サービスに対して支払いを請求しようとしているところはないと思うよ。

もし将来的に、より良いセラピストで、しかも安いAIが開発されたらどうなるんだろう？

AIを人間のセラピストの代わりとしてマーケティングするのを禁止するのは非常に合理的だと思うけど、AIが人間のセラピストの常時利用可能な補助として機能することにはまだ革新の余地がある気がする。もしセラピストがチャットをレビューしてシステムのプロンプトを設定しているなら、もしかしたら有益かもしれない。ひどいアイデアかもしれないけど、安全で監視された方法で新しいことを試すのを違法にしてしまったら、結果はわからないよね。私が言ったことがこの法律の下で違法になるかどうかはわからないけど、イリノイ州のライセンスを持つセラピストがこういうアイデアを試すのを思いとどまらせるだろうとは思う。

セラピーの選択肢を減らすことの何がいいの？もし問題が誤解なら、それに関する法律はもうあるし。

君の結論には賛成だけど、君が言ってるセラピーはその一部に過ぎないと思うよ（いろんな種類があるからね）。

「本当にクソみたいなアイデア」？一言じゃないけど、最も的確な表現だね。

もしセラピストの3分の1の効果があって、20倍安いとしたら？ それを示す研究があれば、その話をするかもしれないね。それまでは「間違ってる」って呼ぶよ。それに、一言で要約する前にもっと聞かなきゃいけないことがある。 - 患者は自分のデバイスでAIセラピストを使えるの？データをビジネスが見たり、ネット接続なしで使えたりするの？多くの患者はインターネットにアクセスできないことを考慮してね。 - AIセラピストが集めたデータは法廷で使えるの？セラピストは患者にどんな情報が使えるかを開示する必要があるし、セラピスト自身が何を報告しなきゃいけないかも考慮しないと。今のところ、AIは危険なアドバイスを適切に防ぐことができてないからね。 - AIセラピストは、患者が人間のセラピストに話すべき時を知ってるの？セラピストには利益相反があったり、患者を助けられなかったりすることがあるから、新しいセラピストを探すように言ったり、特定のセラピストを紹介したりできるんだ。 - AIセラピストはビジネスが推奨するセラピストを紹介するの？保険会社がAIセラピストを提供して、ネットワーク内のセラピストだけを勧めるなんてことになったら、それは明らかな利益相反だよね。思いつく限りだけど、AIセラピーには他にももっと大きな問題がたくさんあるはず。

私は人生でたくさんのトラウマを抱えていて、ChatGPTをちょっとしたチートコーチみたいに使ってる。自分がある感情を抱いてるのはわかってるし、それが非合理的だってこともわかってる。でも、どうしてそうなってるのかとか、どうやって解決するのかを考える必要はないと思ってる。それにはぴったりだと思う。多くの人がセラピストをサウンドボードとして使ってるけど、個人的にはそれがセラピーのベストな使い方とは思わない。

ウイスキー

こういうことは、ライセンスを失うことに相当するようなアナロジーがあれば、アプローチする価値があると思う。セラピストが一度でもひどいミスをしたら、ライセンスを永久に失う可能性があると思う。もし人々がAIに置き換えたいなら、ひどいミスをしたらそのAIも永久に実践する能力を失うべきだよね。こういう企業が「いや、学んだよ、もう二度とやらないから、ライセンスを返して」って言うのが想像できるけど、企業がそれを求めるとは思えない。みんな利益を拡大したいけど、リスクの拡大の結果を受け入れたくないみたいで、リスクが増えるってのは、要するにセラピストとしての効果が三分の一になるってことだよ。

え、これって「エンシティフィケーション」？

これが重要な質問だと思う。良い答えの一つは、最近のこの動画にある、ChatGPTが誰かを自分を毒殺する手助けをしたケースについてのものだよ。[1] 訓練を受けたセラピストは、患者に「今週を乗り切るために少しメスをやってみて」なんて言わないだろう。医者は失敗することもあるけど、塩をNaBrに置き換えて自分を毒殺するよう指示することはない。『セラピストとして三分の一の効果』ってのは平均的にはそうかもしれないけど、このものの適性を平均に還元することはできない。訓練を受けた人間はそんなクレイジーなミスをしないし、自分の限界を知って他の誰かに相談することができる。[1] https://www.youtube.com/watch?v=TNeVw1FZrSQ

石に話しかける方がもっと安上がりで、効果も全然いいよ。

最後に聞いた話だと、ほとんどのセラピーってあんまり効果ないらしいよ。

だからこそ、LLMを使って診断や処方をするのは絶対にダメなんだよね。ちょっとメスをやったくらいじゃ、一週間も持たないから。