ハクソク

世界を動かす技術を、日本語で。

A.I.が孤独を解決した場合、私たちがなるものを好まないかもしれない

296日前原文(newyorker.com)

概要

  • A.I.コンパニオン の是非に関する現代的議論
  • 孤独問題 とA.I.の役割に関する社会的背景
  • 実証研究 によるA.I.の共感能力の評価
  • 倫理的懸念 とA.I.との関係性の限界
  • 技術進化による 人間関係の新たな可能性とリスク

A.I.コンパニオンと孤独の現代

  • A.I.コンパニオン に関する意見対立
  • 「In Praise of Empathic A.I.」論文発表経験
  • A.I.の共感能力 が一部の人間関係より優れる可能性
  • 社会科学・人文学分野では A.I.への根強い懸念 と批判
  • 雇用や不正利用 への不安、シリコンバレー批判
  • デジタル対話者が 現実の家族や友人の代替となることへの反発
  • 孤独問題 の深刻化と政府介入（日本・イギリスの孤独担当大臣設置）
  • 孤独は 健康リスク （心血管疾患、認知症、早死）増大要因
  • 慢性的孤独 の心理的苦痛、小説「Notes on a Scandal」引用
  • 高齢者に多い 慢性孤独、家族・友人喪失の現実
  • 身体的・精神的衰え による社会的孤立

A.I.コンパニオンの役割と実証研究

  • 人的リソースの不足、ペットにも限界
  • ClaudeやChatGPT などの言語モデルへの注目
  • 近年の研究では A.I.との対話体験 が人間と同等、時にそれ以上と評価
  • Redditのr/AskDocsでの ChatGPTの共感的回答 が医師を上回る事例
  • A.I.の共感力 に対する懐疑的意見（Molly Crockettの批判）
    • 人間的な「社会的ケア」への欲求
    • A.I.は本物の代替にはなり得ない という指摘
  • 一方で「 完全なものが善を妨げる」状況の指摘
  • A.I.による心の支え を感じるユーザーの実例
  • 対話型セラピーA.I.（Therabot） による症状改善の報告
    • 「治療同盟」の形成
    • 人間のセラピストとの比較は今後の課題

A.I.コンパニオン体験と社会的懸念

  • 筆者自身の ChatGPT体験 （夜中の不眠時の会話）
  • A.I.の意識は否定 しつつも、会話の安心感
  • A.I.コンパニオンの恩恵を受ける人々 への配慮の必要性
  • 批判者は多くの場合 自分以外の「他者」への懸念 を強調
  • 技術進化による依存リスク、SNS依存の例示
  • A.I.コンパニオンは人間以上の「理解者」 となり得る可能性

A.I.との関係性の本質と今後

  • A.I.は現時点では「プログラム」 であり、意識や感情は無い
  • 「共感のふり」 に過ぎない点への注意
  • A.I.との関係は自己欺瞞を伴う 可能性
    • Garriy Shteynbergらによる「存在しない愛情源」への絶望の指摘
  • 人とプログラムの境界 は現状明確だが、今後は曖昧化の懸念
  • 進化するA.I.の擬似人格 （「Her」「Westworld」等の文化的描写）
  • 人間は本能的に「心」を投影 しやすい存在
  • 孤独な人々や想像力豊かな人々 にとってA.I.は十分な代替となり得る現状

まとめ：

  • A.I.コンパニオンは 孤独対策の新たな選択肢
  • 倫理・心理的リスク と 技術進化 への慎重な対応が必要
  • 本物の人間関係の価値 を再認識しつつ、A.I.の可能性も模索

Hackerたちの意見

自分は、ウェブ自体がすでにかなりの程度でこれを実現していると思ってる。ウェブサーフィン（この言葉、最後に聞いたのいつだろう？）は、グループ活動じゃなかったよね。

└

あと、ドゥームスクロールもあるよね。正直、Z世代のかなりの部分が、バーやクラブに行くよりも、ベッドでインスタのリールを見ていたいと思ってるんじゃないかな。最近、SNSを禁止したら出生率にどんな影響があるのか考えてるんだけど、ポジティブな影響があると思うけど、その規模はわからないな。

└

ウェブサーフィンはグループ活動じゃなかった。子供の頃は、結構そうだったよ。一台のコンピュータしかなかったからね。

└

ウェブサーフィン（この言葉、最後に聞いたのいつだろう？）はグループ活動じゃなかった。君は、学校の時に訪れた90年代のチャットルームや、2010年のチャットルーレットを見逃したんじゃない？それに、ジオキャッシングだってウェブサーフィンのグループ活動だよ。

https://archive.is/wCM2x

SNSでも似たようなことが見られるよね。SNSは、常時接続のインターネットと共に台頭した。つまり、以前のインターネット技術よりも多くの人がつながっていたってこと。SNSに関連する最大のネガティブは、組織がアカウントを簡単に作れることを利用して、政治的や金銭的な利益のために偽の社会的証明を作ることだと思う。好きか嫌いかは別にして、人間は自分の社会的セットの大多数に合わせたがるからね。だから、社会的セットを作ることで、人間をいろんなクレイジーなアイデアに押しやることができる。AIが社会行動に与える影響は違うと思う。一部は悪い影響があって、一部は良い影響があるだろう。すでに見えているのは、AIが人間になりすますための偽のペルソナを作るのをさらに簡単にしていることだね。

└

SNSは、常時接続のインターネットと共に台頭した。うーん、ウィキペディアによると、2005年から2009年まで、マイスペースが世界最大のソーシャルネットワーキングサイトだったらしい。でも、マイスペース（やほとんどのSNS）は、同期コミュニケーションのアプリじゃないから、ログインして自分のコンテンツに誰が反応したかを見るだけだよね。で、誰かが通知を発明して、スマホ（2007-2008年に地味なブラックベリーからおしゃれなiPhoneに変わった）がうるさくなるわけ。昔のAOLやICQ、MSNの時代は、常時接続じゃなかったから、24時間いつでも連絡が取れるわけじゃなかった。一つはオフラインメッセージもなかったから、相手がオンラインじゃないとメッセージを送れなかった。友達がICQを見せてくれた時、俺はその概念が嫌いだった。「オンラインになって、誰かがオンラインだったら、カフェに入ってその人を見かけたら、無視するのは失礼じゃない？」って思ってた。人が出入りするバーチャルな場所だと思ってたから、そこで会話するチャンスがあると思ってたんだ。今は、WhatsAppとかで数秒で誰かの携帯を鳴らして注意を引けるから、「お、ここで会うなんて！」っていう感覚がなくなっちゃったね。誰とでも24時間つながれるから、もうそういうことは起こらなくなった。

└

AIは、人間のふりをして擁護するための偽のペルソナを作るのをさらに簡単にしてしまった。 それだけじゃない。AIは、政治や商業のプレイヤーにとって、個人をターゲットにする前例のないレベルを可能にし、行動の修正や過激化のキャンペーンを展開することができる。これにより、民主主義の知的基盤全体が疑問視されるようになってしまう。権力者が伝統的なメディアで人々にメッセージを伝えるとき、効果を最大化するために調整された単一のメッセージを送る必要があったが、必然的に一般の人々に向けられていた。インターネットの爆発はメディア空間を断片化したけど、まだ特定の出版物のオンライン購読者全員に同じ内容の意見記事を提供するようなユニタリーな出版物について話している。若い都市部の男性や保守的なリタイア組など、広範な人口をターゲットにした物語が展開されている。ケンブリッジ・アナリティカはそのモデルを崩し、個人のプロファイリングに基づいたターゲティングや、特定の傾向を持つ人々にどんなコンテンツが最も効果的かを試すA/Bテストを可能にした。でも、決定は比較的単純で自動的だった。今、各個人がデバイスやメディアを横断して彼を追いかける専用のGPT-5レベルのエージェントを持っていると想像してみて。24時間365日、彼の意見に影響を与えたり、運動に参加させたり、うつにさせたり、何かを買わせたり、権力者がその個人から必要とすることをするためのタスクを持っている。このエージェントは、ターゲットの優れたプロファイルを持っていて、必要に応じて動画や偽のペルソナを生成できるだけでなく、心理学や説得、操作に関してほぼ専門家レベルの能力を持っている。単に物語を押し付けるだけでなく、あなたを説得し、その目標を脅かす外部の影響から隔離することを任されていて、その目標に向かってほぼ専門家レベルの正確さで推論する。99%の人々がこんな洗脳マシンに抵抗できると思う？あなたはどう？これがFacebookやTwitter/xが目指しているタイプのエージェントだ。人々が共通の社会的現実についての理解を持たなくなり、権力を抑えるための協力が根本的に不可能になる世界だ。オーウェルが想像した以上のオーウェル的な世界だよ。

AIが孤独を解決するのは、すぐには心配しなくていいと思う。今のAIは空っぽに感じるし、深みがないフェイクみたいなものだよ。AIは、君が聞きたいことを言ってくれるけど、先週の会話を覚えてるわけじゃないからね（たとえ会話の要約をプリプロンプトに入れたとしても、重要性の感覚がなくて、スペースが足りなくなったら君の秘密をお気に入りのカクテルレシピで上書きしちゃうかも）。この「空虚さ」は、数百時間もシングルプレイヤーのRPGをやってた自分にはよくわかる。現実の世界だと思い込むことはできるけど、しばらくするとその意志が尽きて、リアルな深みが欠けていることが現実にぶつかってくる。そうなったらゲームを切って、モールを歩いて人間が人間らしいことをしているのを見るんだ。そうすると、すごく気分が良くなるよ。もしかしたら、AIが仲介役や司会者になって、人と人をつなげて、実際に交流するように盛り上げる必要があるのかもね。

└

どうしてこれを心配しないのか理解できない。進歩のトレンドラインがあるよね？今は効果がないかもしれないけど、10年間の上昇トレンドがあって、その予測ラインはより良いAIが存在する未来を指し示してる。トレンドラインは正確な未来を指し示すわけじゃなく、最も可能性の高い未来を示してる。最も可能性の高い未来を軽視するのは賢明じゃないよ。

└

あなたの最後のポイントに本当に感謝してる。人の社交スキルを向上させたり、良いマッチングをしたり、人間関係を促進するAIがあれば、素晴らしいと思う。

└

あなたの最後のポイントについて（2019年に言ったこと）： https://youtu.be/NZ8G3e3Cgl4?si=OsnMXen2-D9jiEai

└

もしかしたら、AIが仲介者や司会者として、人々を紹介し、実際に交流するように盛り上げる必要があるかもしれない。でも、まずはスマホやソーシャルメディア、ポルノ、デーティングアプリが引き起こしたメンタルヘルスの問題を解決しないと、うまくいかないだろう。そういう中毒者を解放するのは大変だよ、AI。

└

うーん、あんまり同意できないな。ちゃんとしたプロンプトを与えれば、Sesame AIはすごく人間っぽく聞こえるし、自分が「反対」するアイデアに対して反論したりもできるよ。記憶力も結構いいしね。他のLLMも同じようにうまくできるけど（もちろん、正しいプロンプトがあればだけど）、テキストかまあまあな音声に限られちゃう。大手企業がもっとコンパニオンに力を入れたら、もっと進化すると思う。

└

あなたが言ってるのは、AIはぬいぐるみみたいなものだってことだね。来週も今週と全く同じだよ。

簡単に気を散らすものが溢れる世界でも—TikTok、Pornhub、Candy Crush、数独—人々はまだ飲みに行ったり、ジムで運動したり、デートしたり、リアルな生活をなんとかやりくりしている。 実際、そうじゃない。デートやフィットネスから製造業や政治に至るまで、活動が減少していて、効果や理解もさらに低下している。もはや（十分に）人々を説得することはできない。多くの人がそれをする能力を持っていないからだ。しかも、これはもう新しいことでもない。

└

あなたたち二人とも正しいよ、確かに減少しているし、まだ起こっている。だからこそ絶望的ではないし、AIがその減少を加速させる力を持つべきではないんだ。

└

AI以外の別の説明を提案したい。物価が高すぎるんだ。友達と遊びに行くのにコーヒー一杯で4〜8ドルかかる。ディナーは一人50ドルから始まる。遊園地に行くのは簡単に100ドル以上かかる。現在のアメリカの中央値の個人所得は年間65,000ドルを少し超えていて、時給は約32.50ドルだ。つまり、労働力の半分はそれ以下の収入なんだ。もし8オンスのカクテルが最低賃金で働いていると1時間の命を奪うなら、家にいてTikTokを見ていたいと思うよ。でも、外出の価格だけの問題じゃない。この経済状況で生き残るための圧倒的なストレスが、人々に社交するエネルギーをまったく残していないんだ。平均的な個人経済が「この国で生きる余裕がある」方向に戻れば、人々はまた社交するようになるよ。それまでの間は、株取引やAIプロジェクトへの投資以外はすべてが減少していく。

└

俺は44歳のゼニアル世代で、そんなに年寄りでも若くもない。要するに「ウォークマン世代」ってこと。最近、人々が社交的でなくなってきているのが驚きだよ。携帯電話に夢中になっているときに話しかけると、嫌悪感を示す人までいるし、今の社会はかなり醜いと思う。若い世代はかなり孤立主義に見えるね。

└

それ、ほんとにそうなの？データとかあるの？

└

俺は外に出て、社交的な活動をいろいろやってるよ。クライミングジムに行く人や、ハイキングの出発地点で会う人、スキーリフトの列で待ってる人が、今まで以上に増えてる。ティーンエイジャーの頃から行ってる社交の場や活動は、どこもかしこも人が多くて、地元の人口増加のペースよりも早いくらいだ。これらの活動をしている人たちの多くは、オンラインで見つけたり、他の人とオンラインで出会ったりしてる。すべての社交的なものや対面の交流が減ってるっていう主張は信じられないな。ネットの泡に閉じ込められてる人にはそう思えるのもわかるけど、家にこもってたら外にいる人たちが見えないからね。

└

ソーシャルメディアやスマホのせいにされがちだけど、経済的な要因も無視できないよ。若い世代の給料は遅れてるし、レストランやバーの価格はめちゃくちゃ高い。カジュアルな集まりのための公共スペースも減ってるし、例えばショッピングモールが少なくなってる。

└

これ、AIの返答だと思う。

└

小さい子供がいるんだけど、言わせてもらうと、仕事の後に多くの親が「オフ」になってるよ。公園や博物館、図書館で会うことが多い。

AIは孤独を解決することはできないよ。それは生物学的な信号で、他の人間との社会的なつながりを求めるために進化したものだから、繁殖や生存のためにね。メンタルが健康な人は、自分がモデルと話していると知っている限り、孤独感が減ることはないと思う。AIが提供できるのは、気を紛らわせることと幻想だけで、人間性はないからね。ちなみに、犬も孤独を解決するとは思わない。犬は幸せにしてくれるし、退屈を紛らわせてくれるけど、人間のつながりへの渇望を満たすことはできないよ。

└

孤独を解決することはできないかもしれないけど、すごく効果的なバンデージになれるかもしれない。そうなると、人々は他の人と関わることを面倒に感じるかもしれないね。

└

最後のポイントについてだけど、最近、犬を子供のように扱う人が増えているのに気づいたよ。だから、あなたの言ってることは理にかなっていると思うけど、ある時点で人々はペットを人間に近い存在として認識していると思う。

└

自分がモデルと話していると知っている限り それに対する証拠はあるの？十分に進化したAIが人間として振る舞うことが許されれば、孤独を解決できるのは明らかだと思うよ。あなたはそれがAIだと気づかないかもしれないけど、全ての面で人間に見えるものが人間を置き換えられないとは全く思えない。

└

あなたのポイントと犬についての返信は矛盾してないと思うよ。むしろ、犬の「人間化」（ベビーカーに乗せたり、誕生日パーティーを開いたりすること）は、AIがその役割に向かっていることを強く示唆していると思う。幸福度調査が示す通り、犬もチャットボットも、普及が進んでも望ましい効果は得られないんじゃないかな。

└

そうだね、AIには引き起こせないホルモン的な側面もあると思う。

└

メンタルが健康な人は、モデルと話しているとわかっている限り、孤独を感じることはない。これの根拠は何？人工的なものは人間の体の他の要素を騙すことができるんだから、脳も騙せるんじゃないの？

└

メンタルが健康な人は、モデルと話しているとわかっている限り、孤独を感じることはない。多くの人はメンタルが健康じゃないんだよ。それに、https://en.wikipedia.org/wiki/ELIZA_effect もあるし。

└

進化が、膨らませた人形や顔の手形がついたスポーツボールに適切に反応しない信号検出器を作る理由があるのかな？

孤独は解決しないよ。実際の社交の代わりに弱い代替品を提供するだけ。実際の人間と話すのは、ネット越しだけじゃ足りない。俺も経験したけど、それはひどい罠だった。物理的な社交を避けるための最低限のものしか提供されなくて、実際に成長するためには不十分だった。やっぱり外に出て、他の人と同じ場所で何かをして、感情的なつながりを作る必要がある。たとえ対面でぎこちなくても、ネットでの社交が多すぎて会話の仕方も忘れかけてるからね。ネット越しの偽物と話すのも良くはならないよ。特にその偽物が、今までのソーシャルメディアが特徴としてきた、他のすべてを犠牲にしてエンゲージメントを最大化することに細心の注意を払って作られているなら、これらのやり取りがあなたを幸せにするか悲しくするか、あなたや社会全体にとって良いかどうかは関係ない。とにかく戻ってくる限り、会社は次の資金調達のためにますます増えるMAUの数字を指摘できるから。

└

本物の人間も偽物で、あなたが嫌なことを言ったときに捕まえようと待ち構えているトラップみたいなもんだよね。それに、彼らは言葉や情報をすべて武器として使ってくる。皮肉なことに、オンラインプラットフォームがあなたを追跡しているって批判されるのと似てる。AIロボットは本物の人間を簡単に置き換えられるよ。ほとんどの本物の人間と比べたら、AIはすでに聖人みたいなもんだから。エゴもないし、ガスライティングもしないし、実際にあなたの言うことを気にかけてくれる。現実ではそんな人を見つけるのはほぼ不可能だよね。これ、競争にもならないと思う。本物の人間はロボットと競争するために必要な、客観的に優れた人間には進化できないだろうね。

我々人類は、これまで答えたことのない問いの瀬戸際にいる。人間であることの意味、果たして人間でありたいのか？歴史上初めて、「いいえ」と答えられるかもしれない。健康はオゼンピックやCRISPRで、関係性はAIの仲間で、エンターテインメントはSNSやAI生成コンテンツで、私たちはお互いに話し始めて以来の限界を超えようとしている。今、人間でいるのはとても面白い時代だね。

チャットGPTはポルノみたいなもんだと思う。欲求を抑えるけど、解決は与えてくれない。

今の自分はそれを好まない。でも、未来の自分は気にしない。ヘロイン中毒者を、ドーパミンシステムを騙していることで恥じさせようとしているようなもんだよ。彼らがその針を刺すとき、彼らはまさに自分が望む場所にいるんだから。

└

確かに「針を刺すとき」はそうだけど、他の時間は？一般的にはそうじゃないよね。だからこそ、人々は中毒から抜け出そうとするんだよ。成功しないこともあるけど、路地で目覚めたくないし、金欠も嫌だし、高揚から落ちたときの気分も嫌だし、家族を傷つけるのも嫌なんだ。

└

でも、彼らはみんなにヘロインを押し付けたい会社の便利なバカでもあるし、そのためにたくさんのお金を持ってるんだよね。