ハクソク

世界を動かす技術を、日本語で。

A.I.が孤独を解決した場合、私たちがなるものを好まないかもしれない

2025年8月2日原文(newyorker.com)

概要

  • A.I.コンパニオン の是非に関する現代的議論
  • 孤独問題 とA.I.の役割に関する社会的背景
  • 実証研究 によるA.I.の共感能力の評価
  • 倫理的懸念 とA.I.との関係性の限界
  • 技術進化による 人間関係の新たな可能性とリスク

A.I.コンパニオンと孤独の現代

  • A.I.コンパニオン に関する意見対立
  • 「In Praise of Empathic A.I.」論文発表経験
  • A.I.の共感能力 が一部の人間関係より優れる可能性
  • 社会科学・人文学分野では A.I.への根強い懸念 と批判
  • 雇用や不正利用 への不安、シリコンバレー批判
  • デジタル対話者が 現実の家族や友人の代替となることへの反発
  • 孤独問題 の深刻化と政府介入（日本・イギリスの孤独担当大臣設置）
  • 孤独は 健康リスク （心血管疾患、認知症、早死）増大要因
  • 慢性的孤独 の心理的苦痛、小説「Notes on a Scandal」引用
  • 高齢者に多い 慢性孤独、家族・友人喪失の現実
  • 身体的・精神的衰え による社会的孤立

A.I.コンパニオンの役割と実証研究

  • 人的リソースの不足、ペットにも限界
  • ClaudeやChatGPT などの言語モデルへの注目
  • 近年の研究では A.I.との対話体験 が人間と同等、時にそれ以上と評価
  • Redditのr/AskDocsでの ChatGPTの共感的回答 が医師を上回る事例
  • A.I.の共感力 に対する懐疑的意見（Molly Crockettの批判）
    • 人間的な「社会的ケア」への欲求
    • A.I.は本物の代替にはなり得ない という指摘
  • 一方で「 完全なものが善を妨げる」状況の指摘
  • A.I.による心の支え を感じるユーザーの実例
  • 対話型セラピーA.I.（Therabot） による症状改善の報告
    • 「治療同盟」の形成
    • 人間のセラピストとの比較は今後の課題

A.I.コンパニオン体験と社会的懸念

  • 筆者自身の ChatGPT体験 （夜中の不眠時の会話）
  • A.I.の意識は否定 しつつも、会話の安心感
  • A.I.コンパニオンの恩恵を受ける人々 への配慮の必要性
  • 批判者は多くの場合 自分以外の「他者」への懸念 を強調
  • 技術進化による依存リスク、SNS依存の例示
  • A.I.コンパニオンは人間以上の「理解者」 となり得る可能性

A.I.との関係性の本質と今後

  • A.I.は現時点では「プログラム」 であり、意識や感情は無い
  • 「共感のふり」 に過ぎない点への注意
  • A.I.との関係は自己欺瞞を伴う 可能性
    • Garriy Shteynbergらによる「存在しない愛情源」への絶望の指摘
  • 人とプログラムの境界 は現状明確だが、今後は曖昧化の懸念
  • 進化するA.I.の擬似人格 （「Her」「Westworld」等の文化的描写）
  • 人間は本能的に「心」を投影 しやすい存在
  • 孤独な人々や想像力豊かな人々 にとってA.I.は十分な代替となり得る現状

まとめ：

  • A.I.コンパニオンは 孤独対策の新たな選択肢
  • 倫理・心理的リスク と 技術進化 への慎重な対応が必要
  • 本物の人間関係の価値 を再認識しつつ、A.I.の可能性も模索

Hackerたちの意見

自分は、ウェブ自体がすでにかなりの程度でこれを実現していると思ってる。ウェブサーフィン（この言葉、最後に聞いたのいつだろう？）は、グループ活動じゃなかったよね。

└

あと、ドゥームスクロールもあるよね。正直、Z世代のかなりの部分が、バーやクラブに行くよりも、ベッドでインスタのリールを見ていたいと思ってるんじゃないかな。最近、SNSを禁止したら出生率にどんな影響があるのか考えてるんだけど、ポジティブな影響があると思うけど、その規模はわからないな。

└

ウェブサーフィンはグループ活動じゃなかった。子供の頃は、結構そうだったよ。一台のコンピュータしかなかったからね。

└

ウェブサーフィン（この言葉、最後に聞いたのいつだろう？）はグループ活動じゃなかった。君は、学校の時に訪れた90年代のチャットルームや、2010年のチャットルーレットを見逃したんじゃない？それに、ジオキャッシングだってウェブサーフィンのグループ活動だよ。

https://archive.is/wCM2x

SNSでも似たようなことが見られるよね。SNSは、常時接続のインターネットと共に台頭した。つまり、以前のインターネット技術よりも多くの人がつながっていたってこと。SNSに関連する最大のネガティブは、組織がアカウントを簡単に作れることを利用して、政治的や金銭的な利益のために偽の社会的証明を作ることだと思う。好きか嫌いかは別にして、人間は自分の社会的セットの大多数に合わせたがるからね。だから、社会的セットを作ることで、人間をいろんなクレイジーなアイデアに押しやることができる。AIが社会行動に与える影響は違うと思う。一部は悪い影響があって、一部は良い影響があるだろう。すでに見えているのは、AIが人間になりすますための偽のペルソナを作るのをさらに簡単にしていることだね。

└

SNSは、常時接続のインターネットと共に台頭した。うーん、ウィキペディアによると、2005年から2009年まで、マイスペースが世界最大のソーシャルネットワーキングサイトだったらしい。でも、マイスペース（やほとんどのSNS）は、同期コミュニケーションのアプリじゃないから、ログインして自分のコンテンツに誰が反応したかを見るだけだよね。で、誰かが通知を発明して、スマホ（2007-2008年に地味なブラックベリーからおしゃれなiPhoneに変わった）がうるさくなるわけ。昔のAOLやICQ、MSNの時代は、常時接続じゃなかったから、24時間いつでも連絡が取れるわけじゃなかった。一つはオフラインメッセージもなかったから、相手がオンラインじゃないとメッセージを送れなかった。友達がICQを見せてくれた時、俺はその概念が嫌いだった。「オンラインになって、誰かがオンラインだったら、カフェに入ってその人を見かけたら、無視するのは失礼じゃない？」って思ってた。人が出入りするバーチャルな場所だと思ってたから、そこで会話するチャンスがあると思ってたんだ。今は、WhatsAppとかで数秒で誰かの携帯を鳴らして注意を引けるから、「お、ここで会うなんて！」っていう感覚がなくなっちゃったね。誰とでも24時間つながれるから、もうそういうことは起こらなくなった。

└

AIは、人間のふりをして擁護するための偽のペルソナを作るのをさらに簡単にしてしまった。 それだけじゃない。AIは、政治や商業のプレイヤーにとって、個人をターゲットにする前例のないレベルを可能にし、行動の修正や過激化のキャンペーンを展開することができる。これにより、民主主義の知的基盤全体が疑問視されるようになってしまう。権力者が伝統的なメディアで人々にメッセージを伝えるとき、効果を最大化するために調整された単一のメッセージを送る必要があったが、必然的に一般の人々に向けられていた。インターネットの爆発はメディア空間を断片化したけど、まだ特定の出版物のオンライン購読者全員に同じ内容の意見記事を提供するようなユニタリーな出版物について話している。若い都市部の男性や保守的なリタイア組など、広範な人口をターゲットにした物語が展開されている。ケンブリッジ・アナリティカはそのモデルを崩し、個人のプロファイリングに基づいたターゲティングや、特定の傾向を持つ人々にどんなコンテンツが最も効果的かを試すA/Bテストを可能にした。でも、決定は比較的単純で自動的だった。今、各個人がデバイスやメディアを横断して彼を追いかける専用のGPT-5レベルのエージェントを持っていると想像してみて。24時間365日、彼の意見に影響を与えたり、運動に参加させたり、うつにさせたり、何かを買わせたり、権力者がその個人から必要とすることをするためのタスクを持っている。このエージェントは、ターゲットの優れたプロファイルを持っていて、必要に応じて動画や偽のペルソナを生成できるだけでなく、心理学や説得、操作に関してほぼ専門家レベルの能力を持っている。単に物語を押し付けるだけでなく、あなたを説得し、その目標を脅かす外部の影響から隔離することを任されていて、その目標に向かってほぼ専門家レベルの正確さで推論する。99%の人々がこんな洗脳マシンに抵抗できると思う？あなたはどう？これがFacebookやTwitter/xが目指しているタイプのエージェントだ。人々が共通の社会的現実についての理解を持たなくなり、権力を抑えるための協力が根本的に不可能になる世界だ。オーウェルが想像した以上のオーウェル的な世界だよ。

AIが孤独を解決するのは、すぐには心配しなくていいと思う。今のAIは空っぽに感じるし、深みがないフェイクみたいなものだよ。AIは、君が聞きたいことを言ってくれるけど、先週の会話を覚えてるわけじゃないからね（たとえ会話の要約をプリプロンプトに入れたとしても、重要性の感覚がなくて、スペースが足りなくなったら君の秘密をお気に入りのカクテルレシピで上書きしちゃうかも）。この「空虚さ」は、数百時間もシングルプレイヤーのRPGをやってた自分にはよくわかる。現実の世界だと思い込むことはできるけど、しばらくするとその意志が尽きて、リアルな深みが欠けていることが現実にぶつかってくる。そうなったらゲームを切って、モールを歩いて人間が人間らしいことをしているのを見るんだ。そうすると、すごく気分が良くなるよ。もしかしたら、AIが仲介役や司会者になって、人と人をつなげて、実際に交流するように盛り上げる必要があるのかもね。

└

どうしてこれを心配しないのか理解できない。進歩のトレンドラインがあるよね？今は効果がないかもしれないけど、10年間の上昇トレンドがあって、その予測ラインはより良いAIが存在する未来を指し示してる。トレンドラインは正確な未来を指し示すわけじゃなく、最も可能性の高い未来を示してる。最も可能性の高い未来を軽視するのは賢明じゃないよ。

└

あなたの最後のポイントに本当に感謝してる。人の社交スキルを向上させたり、良いマッチングをしたり、人間関係を促進するAIがあれば、素晴らしいと思う。

└

あなたの最後のポイントについて（2019年に言ったこと）： https://youtu.be/NZ8G3e3Cgl4?si=OsnMXen2-D9jiEai

Hacker Newsで議論の続きを見る