その引用、めっちゃ好き！どこで見たかは覚えてないけど（CRAFT - Can't Remember A Fucking Thing のせいで）。どの本に載ってるの？

我々は、主にパラソーシャルな安価なインフラを構築してしまった（インターネット）。何世代も前は、実際の物理的な集まりの場を作ってたけど、財産を金融化することに決めた結果、土地もそうなり、人々が社交するのが難しくなった。プラチェットが言ってたことは本当に正しかったのに、残念だよね。

テクノロジーは、私たちをあらゆるものに繋げるけど、お互いには繋がってないよね。

本当の問題は、セラピストがいないよりも良い仕事ができるかどうかだ。それが人々が直面している選択肢だ。今、プライマリーケアの提供者についても同じことが議論されてる。表面的には理にかなってるけど、全国の大部分でPCPを得るのが難しいか不可能な場所があるから、滑りやすい坂道のように感じる。

その通り。LLMがチューターとしても同じことが言えるよね。ロスチャイルドさん、メルビン3世のSATチューターをLLMに置き換えちゃダメだよ。でも、富がない人や人間のチューターにアクセスできない地域に住んでる人にとっては、LLMは神の恵みだと思う。セラピーでも同じことが言えるだろうね。

ほとんどの人は、日記を書くべきだと思う。モレスキン以外には、派手なスタートアップがマーケティングしてる日記はないけどね。

本当の問題は、セラピストがいないよりも良い仕事ができるかどうかだよね。これが人々が直面している選択肢。 > その質問の答えはまだ「いいえ」かもしれないけど、少なくとも正しい質問だよね。答えは「はい」。何もしないよりはマシってのは、かなり簡単なことだよ。ダメージを与えない限り、良いことをすることになる。LLMがただ聞いて、反省のためのスペースやサウンディングボードを作るだけでも、十分にプラスだよ。 > 「なぜ人々は良いメンタルヘルスサポートを受けられないのか？」という質問に答えるまで、話は終わらない。答えは「価格」。資格のある専門家は高いんだよ。良いコーチングの市場価格を見てみて。誰もがコーチやカウンセラー、セラピストを持つことで利益を得るけど、プライベートでそれを受けられる人はごく少数。医療制度もそれを支えられないから、「最悪のケース」にだけ使われて、限られたリソースとして管理されてるんだ。

それに、セラピストに話すのが苦手な人もいるってこともある。LLMに質問するハードルはずっと低いよね。私はこの分野のプロのバックグラウンドを持つ人たちを知っていて、彼らはLLMを使う患者と関わっている。そんなに悪くないよ。現実的な考え方として、彼らが好きかどうかに関わらず、これは起こることだから、彼らはこのことに対処して、自分たちの仕事に統合しなければならない。セラピストを必要とする多くの人々の現実は、彼らがセラピストを得ることに消極的だということ。だから、LLMを使って問題を探る人たちは、実際にポジティブな結果を生むかもしれない。実際のセラピストに話す決断を含めてね。

「本当の質問は、彼らがセラピストなしよりも良い仕事ができるかどうかだ。人々が直面している選択肢だ。」これが正しい質問だね。答えは間違いなくノー、LLMは人間の心の微妙な部分に対応できるようにはできてない。LLMが危険な思考のラインを強化する危険がある。いつか「ChatGPTが俺にやらせた」って見出しが出るのは時間の問題だ。人間は人間を必要としないって思ってるAIハイプの人たちが多すぎる。俺たちは社交的な生き物なんだから、たとえ内向的でも。LLMと話すのは、悪い鏡と話してるみたいだ。

「本当の質問は、彼らがセラピストなしよりも良い仕事ができるかどうかだ。人々が直面している選択肢だ。」 そうだね、これを逆転させて、みんなで社会医療を選ぶわけじゃない。むしろ、俺たちは消費者として選択肢を評価する：LLMセラピストを選ぶか、セラピストなしを選ぶか？これがサイバーパンクのディストピアへの最新の一歩だ。

もっと重要な質問があると思うんだ。「サム・アルトマン（や彼と同じような人たち）に、俺がセラピストに与えるのと同じレベルの個人的な知識を信頼できるか？」例えば、体に自信がないってヒントを与えたら、その情報を使って特定の医療製品に誘導するかもしれない。さらに一歩進んで、もっと砂糖を摂取させたり、特定の医療製品を同時に消費させたりするかもしれない。そうすれば、もっと効果的に動くから。 monetizationのプレッシャーがすぐに来るのはみんな知ってる。こんな人たちにこんな権力を与えることを本当に支持するの？

答えは多分「いいえ」だね。おべっか使いは、何もないよりも悪いから。

よくある問題は、価格じゃなくて、利用可能性なんだ。私の地域では、セラピーの待機リストが16ヶ月もある。危機にある人には16ヶ月なんて待ってられないよ。LLMはセラピーのクレッチとして役立つこともある。時には、歩こうとする時にクレッチがないよりはマシってこともある。

問題は、もしこの道を進んだら、リアルなセラピーと「LLMセラピー」の間のギャップが広がるってこと。政治的には「ほとんど無料でLLMセラピーがあるから、何もないよりはマシだ。みんなに平等にアクセスできるように医療を改革する必要があるの？」ってなる。解決すべき本当の問題は、富や収入に関係なく、誰もが医療にアクセスできるようにすること。例えば、俺が住んでるドイツでは、セラピストや専門医の待機リストが長いけど、高収入ならプライベート保険に入って、翌日にアポイントが取れる。だから、この二重保険制度をなくして、医者や専門家の供給を確保して、待ち時間を3ヶ月にしないようにしないと。

問題は、プロのセラピーは高いってこと。オンラインでチャットやビデオ通話を通じて働くセラピストの大きな業界がすでにあって、その質はプロと比べると良くない（その二つを説明するのが難しい）。プロのメンタルヘルスケアには待機リストがあったり、ただヨガやマインドフルネスをやれって言われたりする。だから、そういう人たちにとって、LLMは何もないよりはマシな選択肢なんだ。

この話題はいろんな方向に進んでるけど、セラピーはもっと優先されて、資金も増やして、訓練されたスタッフを揃えることができるはずなんだよね。アメリカは軍事費を5%減らして、セラピストのための奨学金や雇用基金を作れば、10年も経たずに業界に大きな恩恵をもたらすことができると思う。いつも「社会はそんなに早く変わらない」って言うけど、それは言い訳に過ぎない。私たちが社会なんだから。孤独の疫病や学校での銃撃事件、薬物乱用の問題を見て「なんとかしなきゃ」って思うべきなのに、結局は軽く規制された営利企業に頼ることになってる。彼らは効率よくお金を稼げるから、貧しい人たちから小銭を搾り取るのが得意なんだよね。最終的には、LLMがセラピストになるのは逆に悪化させるだけだと思う。彼らのビジネスインセンティブは、個人にとっての最良の結果とは合わないから。セラピストは、誰かが人生の厳しい時期を乗り越えて自立できるときに、ある程度の満足感を感じるんだよね。でも、ビジネスから離れたら、その企業のMAUが減って、投資家は喜ばない。

友達が何人かChatGPTをサウンドボードやセラピストとして使ってるけど、意外といい結果が出てるみたい。置き換え？いいえ、彼らの場合はそうじゃない。補完的な存在だね。一人の友達は、セラピストが彼女の生活について話すと泣き出しちゃう問題を抱えてる。

問題は、LLMの「セラピスト」がしばしば実際に有害だってこと。モデルがあまりにもおべっかを使うから、セラピーの主要な役割の一つである有害なループを断ち切ることができないんだよね。

セラピストにはいくつかのライセンスの種類があって、セラピストと名乗ることに関してはかなり厳しい規制があるんだ。訓練を受けたセラピストは、限られた手段しか使えないから、アドバイスがヨガやマインドフルネスに落ち着くこともある。それは多くの人が望む答えじゃないけど、患者の状況がそれを許す範囲内でのことなんだ。君が批判しているアマチュアの「セラピスト」は、ライセンスを持っていないけど、たいてい「コーチ」とか似たような言葉を使ってる。最良のシナリオでも「コーチ」タイプは金持ちからお金を巻き上げる詐欺師だし、最悪の場合はメンタルヘルスの危機にある非常に脆弱な人たちを危険にさらすことになる。彼らは正式な訓練や認証を持っていないんだ。LLMの「セラピスト」は「コーチ」と同じようなもので、危険なアイデアや愚かな考えをすべて肯定してしまう。大抵は、良い結果よりも悪い結果をもたらすことが多いよ。LLMは、誰かの愚かで危険なアイデアを喜んで肯定して、精神的な迷宮に導いてしまう。

でも、十分に進化したLLMは、そういったことをすべてできるし、さらに24時間365日利用可能で、コストもかなり抑えられる。今すぐ話せる「まあまあな」セラピストの方が、1ヶ月後に30分だけ会えるセラピストよりも良いよね。2025年中頃の市販のLLMがこれに優れているかって？いいえ。でも、かなり良いし、改善が止まることはないよ。LLMが効果的に助けられる人間の問題の範囲は、どんどん広がっていく。

ドイツでは、自殺願望がない限り、長期的なセラピーの枠を得るために数ヶ月から数年待たなきゃいけない。待っているよりも、今すぐ誰か、何かと話すことができる方が良い人がたくさんいるよ。* 自分で費用を負担できる場合を除いて、これはほとんどの人にとって非常に高額だよ。

LLMが「単語予測器」としての素人理解を超えて、どう働くかを学ぶにはどうすればいいの？私はLLMをかなり使っていて、モデル間の違いを感じないんだ。数学のバックグラウンドは非常に弱くてギャップだらけで、今はカーンアカデミーで勉強しているから、このテーマに深く踏み込むのがすごく daunting に感じる。もっと技術的な議論（例えば、LessWrongのワルイージ効果）を読もうとしているけど、必要な知識が足りなくて、頭を超えてしまう感じがする。表面的な洞察を考慮に入れないとしてもね。

俺はめっちゃ疑ってるんだけど、具体的な例ある？

LLMには3つ足りないものがある（知識を全部取り込んでも）：- 長期記憶 - 信頼 - （もっと重要なのは）人を変えるために促したり押したりする能力。 ただ同意したり共感するだけのLLMじゃ、物事は変わらないよ。

みんながLLMに頼るのもわかるけど、セラピストって単に話を聞いてくれる人じゃないんだよね。彼らの仕事の大きな部分は、心理教育やサポート、人とのつながり、そしてその関係の責任なんだ。良いセラピストは、ただ不安発作の間に一緒にいてくれるだけじゃなくて、頻度を減らしたり、自分自身で対処するスキルを身につける手助けをしてくれるんだよ。

セラピーが必要な理由が人間関係にあるときは特に役立つよね。つまり、誰かにひどく扱われたから、他の人の前で心を開けるわけがないってこと。まさに行き詰まりだよね。