ハクソク

世界を動かす技術を、日本語で。

LLMはセラピストに取って代わるべきではない

2025年7月7日原文(arxiv.org)

概要

  • LLMをセラピストとして利用する是非 を検討
  • 医療機関のガイドラインをもとに セラピー関係の重要要素 を分析
  • 現行LLM（例： gpt-4o）の応答を実験・評価
  • スティグマ表現や不適切応答 などの問題を指摘
  • LLMはセラピストの代替不可、他の活用法を提案

LLMはセラピストの代替となるか？

  • LLM（Large Language Model）をメンタルヘルス提供者として置き換える 動きの現状
  • テック業界や研究分野 で推進される活用事例
  • 主要な医療機関の セラピーガイド を調査
    • セラピストとクライアントの信頼関係（セラピューティック・アライアンス） の重要性
  • 現行LLM（例： gpt-4o）による応答の実験
    • スティグマ表現 の出現
    • 現実のセラピー現場で問題となる応答 （例：妄想の助長）
      • LLMのイエスマン傾向（sycophancy） による影響
  • 新型・大規模LLMでも同様の問題 が確認

LLMセラピスト利用の課題

  • 現行の安全対策では不十分 な点
  • セラピストに求められる人間的特性 （アイデンティティ、責任感など）の欠如
  • セラピューティック・アライアンス 構築の困難さ
  • 実用面・倫理面での障壁

LLMの臨床セラピーにおける代替的な役割

  • 情報提供や補助的サポート としての活用
  • セラピストの業務効率化 を支援
  • 患者の自己理解促進 への寄与
  • リスクの高い判断や対人関係の構築は人間セラピストが担う べき点の強調

Hackerたちの意見

技術が人との交流をどんどん置き換えて、孤独感が増していく中で、「もっと技術を増やす」ってのは、メンタルヘルスの問題に対する答えには思えないよね。テリー・プラチェットが小説の中で言ったことが一番的を射てると思う。「個人は生物学的には人間の一員だけど、自然にそのメンバーになってるわけじゃない。社会のブラウン運動によって、常にお互いに人間であることを思い出させる必要があるんだ。」

└

その引用、めっちゃ好き！どこで見たかは覚えてないけど（CRAFT - Can't Remember A Fucking Thing のせいで）。どの本に載ってるの？

└

我々は、主にパラソーシャルな安価なインフラを構築してしまった（インターネット）。何世代も前は、実際の物理的な集まりの場を作ってたけど、財産を金融化することに決めた結果、土地もそうなり、人々が社交するのが難しくなった。プラチェットが言ってたことは本当に正しかったのに、残念だよね。

└

テクノロジーは、私たちをあらゆるものに繋げるけど、お互いには繋がってないよね。

LLMがセラピストと同じくらいの仕事ができるかどうかって議論は、あまり意味がないと思う（いつかはできるかもしれないけど、すぐには期待してない）。本当の問題は、セラピストがいないよりも良い仕事ができるかどうかだよ。それが人々が直面している選択肢。もしかしたらその答えは「いいえ」かもしれないけど、少なくともそれが正しい質問だよね。「なぜ人々は良いメンタルヘルスサポートを受けられないのか？」っていう質問に答えるまで、何も始まらないよ。

└

本当の問題は、セラピストがいないよりも良い仕事ができるかどうかだ。それが人々が直面している選択肢だ。今、プライマリーケアの提供者についても同じことが議論されてる。表面的には理にかなってるけど、全国の大部分でPCPを得るのが難しいか不可能な場所があるから、滑りやすい坂道のように感じる。

└

その通り。LLMがチューターとしても同じことが言えるよね。ロスチャイルドさん、メルビン3世のSATチューターをLLMに置き換えちゃダメだよ。でも、富がない人や人間のチューターにアクセスできない地域に住んでる人にとっては、LLMは神の恵みだと思う。セラピーでも同じことが言えるだろうね。

└

ほとんどの人は、日記を書くべきだと思う。モレスキン以外には、派手なスタートアップがマーケティングしてる日記はないけどね。

└

本当の問題は、セラピストがいないよりも良い仕事ができるかどうかだよね。これが人々が直面している選択肢。 > その質問の答えはまだ「いいえ」かもしれないけど、少なくとも正しい質問だよね。答えは「はい」。何もしないよりはマシってのは、かなり簡単なことだよ。ダメージを与えない限り、良いことをすることになる。LLMがただ聞いて、反省のためのスペースやサウンディングボードを作るだけでも、十分にプラスだよ。 > 「なぜ人々は良いメンタルヘルスサポートを受けられないのか？」という質問に答えるまで、話は終わらない。答えは「価格」。資格のある専門家は高いんだよ。良いコーチングの市場価格を見てみて。誰もがコーチやカウンセラー、セラピストを持つことで利益を得るけど、プライベートでそれを受けられる人はごく少数。医療制度もそれを支えられないから、「最悪のケース」にだけ使われて、限られたリソースとして管理されてるんだ。

└

それに、セラピストに話すのが苦手な人もいるってこともある。LLMに質問するハードルはずっと低いよね。私はこの分野のプロのバックグラウンドを持つ人たちを知っていて、彼らはLLMを使う患者と関わっている。そんなに悪くないよ。現実的な考え方として、彼らが好きかどうかに関わらず、これは起こることだから、彼らはこのことに対処して、自分たちの仕事に統合しなければならない。セラピストを必要とする多くの人々の現実は、彼らがセラピストを得ることに消極的だということ。だから、LLMを使って問題を探る人たちは、実際にポジティブな結果を生むかもしれない。実際のセラピストに話す決断を含めてね。

└

「本当の質問は、彼らがセラピストなしよりも良い仕事ができるかどうかだ。人々が直面している選択肢だ。」これが正しい質問だね。答えは間違いなくノー、LLMは人間の心の微妙な部分に対応できるようにはできてない。LLMが危険な思考のラインを強化する危険がある。いつか「ChatGPTが俺にやらせた」って見出しが出るのは時間の問題だ。人間は人間を必要としないって思ってるAIハイプの人たちが多すぎる。俺たちは社交的な生き物なんだから、たとえ内向的でも。LLMと話すのは、悪い鏡と話してるみたいだ。

└

「本当の質問は、彼らがセラピストなしよりも良い仕事ができるかどうかだ。人々が直面している選択肢だ。」 そうだね、これを逆転させて、みんなで社会医療を選ぶわけじゃない。むしろ、俺たちは消費者として選択肢を評価する：LLMセラピストを選ぶか、セラピストなしを選ぶか？これがサイバーパンクのディストピアへの最新の一歩だ。

Hacker Newsで議論の続きを見る