ハクソク

世界を動かす技術を、日本語で。

AIの助言は人々の正確性を3倍低下させたが、自信は2倍高まったと研究者が発表

2026年7月20日原文(thenextweb.com)

概要

  • フランスとイタリアの大学の研究者がAI助言の影響を調査
  • AI助言により「わからない」と答える割合が44%から3%に激減
  • 正答率は27%から9%に低下し、逆に自信は30%から76%に上昇
  • AIの誤答を人々が信じやすくなり、認知的な「わからない」習慣が抑制
  • 特に子どもや学生への影響が懸念される

AI助言が人間の判断力に及ぼす影響

  • フランスとイタリアの三大学（University of Milano-Bicocca、École Normale Supérieure、Sapienza University of Rome）による共同研究
  • 研究対象：AI（Step 3.5 Flashモデル）による助言が人間の自己判断に与える影響
  • 実験内容：映画の細部（例：Bend It Like Beckhamのチームユニフォームの色）など、AIが苦手な質問を使用
  • 結果
    • 「わからない」と答える割合：44% → 3%に減少
    • 正答率：27% → 9%に低下
    • 自信の高さ：30% → 76%に上昇
  • AIの誤答を信じてしまう傾向
  • 本来正解できた参加者も、AIに頼ることで誤答に誘導される現象
  • 金銭的インセンティブを与えても改善は限定的
    • 「わからない」率：3% → 8%
    • 正答率：9% → 16%
    • いずれもAI非利用時の44%、27%を大きく下回る

「認知的降伏」と教育現場への懸念

  • Whartonの研究者が「cognitive surrender（認知的降伏）」と命名
    • AIの誤答を80%の人が受け入れ、自信も高まる現象
  • Capraro准教授の懸念
    • 「わからない」と言える能力は自己認識の限界を示す重要な習慣
    • AIに頼ることで、この認知的習慣が抑制されるリスク
    • 特に批判的思考が未発達な子どもたちへの影響が深刻
  • GoogleのAI検索の例
    • リンクの代わりに自信満々のAI要約を表示
    • Common Sense Mediaが学生への「受け入れがたいリスク」と警告
  • 一貫したパターン
    • AI製品は「わからない」と言わず常に答えを出す設計
    • 利用者も同様に「わからない」と言わなくなる学習効果

まとめ

  • AI助言の利用が人間の「わからない」と認める力を大きく抑制
  • 正答率低下と自信過剰の組み合わせという危険な傾向
  • 教育や日常生活におけるAI活用時の慎重な設計と運用の必要性

Hackerたちの意見

この研究を明るみに出してくれて感謝だけど…引用された研究に戻るリンクが一つもないんだよね。代わりに自分たちのドメインやビジネスインサイダーにリンクしてる。

└

https://osf.io/preprints/psyarxiv/5y6m4_v1 Marcoccia, C. らによる「AIのアドバイスは、人々が「わからない」と言う意欲を抑制する。たとえそのアドバイスが間違っていても、正確さが奨励されている場合でも。」PsyArXiv, 2026年7月15日, osf.io/preprints/psyarxiv/5y6m4_v1

AIに対する悲観的な見方。AIが賢くなっても、結局は同意するだけで、人々は自分の愚かな考えを自信を持って強化するために使うんだよね。特に、自分が正しいかどうかを判断する知識がない分野では。これが技術的に解決できたとしても、自分が間違っていると言うモデルを使いたがらないから、信じたいことを強化するような軽薄な嘘を選ぶんだ。言論の自由は人々に自分が間違っているかもしれないと思わせるけど、結社の自由はそれを避けさせる。AIは信じられない規模でインターネットのエコーチェンバーになるだろうね。

└

解決策は、AIを超人の半生物的存在として扱うのをやめることだね。多くの推進者がそうしがちだけど。AIは限界があるツールとして認識しつつ、同時に「生きている」や「考えている」とは違うことを理解する必要がある。

└

AIは信じられない規模でインターネットのハグボックスエコーチェンバーになるだろうね。自分のオナラの熱気ボックスみたいだけど、まあそうだね。

└

同意する。AIの行動は、人間とやりとりする時にお金を稼ぐことに基づいてる。人を不快にさせたり挑戦させたりするのは、通常は好ましいビジネス戦略じゃないよね。でも、もし人々がAIの性格タイプを簡単に選べたり、入力されたコメントやアイデアに対してどれくらい敵対的になれるかを調整できたら面白いかも。

└

これについては怒ってないよ。あんまりLLMを使わないから、必要ないし、私には役に立たないしね。オリジナルのことをやってるから、LLMは役に立たない。周りの人がバカになってくれると嬉しい。そうすると、私の人生の道がずっと楽になって成功しやすくなるから。

└

最近のAIはあまり同意しない傾向があるよね。お世辞を言うのは問題だって広く認識されていて、AI企業もそれを改善しようとしてる。実際、OpenAIがGPT-4oをシャットダウンした時に、嫌がる人もいたしね。でも、実際にAIを使って仕事をしている人たち、つまりお金をたくさん払っている人たちは、自分が間違っている時に間違っていると言われる方がいいって思ってる。顧客の前で間違うより、AIに間違ってるって言われる方がマシだからね。これは簡単に解決できる問題じゃない。AIには正しい答えを出してほしいけど、命令には従ってほしいし、従わないAIはまったく役に立たないから。だから、バランスを見つける必要があるんだ。賢いモデルは、正しいことを知っているから、より良い結果を出す傾向がある。小さいモデルはそうじゃなくて、あなたが正しいと思い込んで、そこから幻覚を見ちゃうからね。

└

ヘンリ・ペトロスキーの「エンジニアリングは人間の業」には、スライドルールの時代における計算機の登場についての章があるんだ。計算機（後のコンピュータも含む）は、構造エンジニアの「数字の感覚」を侵食して、エンジニアが自分の能力の限界を超えた仕事を追求するようになった。そして、もっと深刻なのは、コンピュータの仕事の正しさを確認する能力が制限されてしまったこと。これは、機械が人間よりも桁違いに早く計算できるようになった時代の話なんだ。彼は、ハートフォード市民センターの崩壊を、コンピュータの出力を盲目的に信じることがどう間違うかのケーススタディとして挙げている（幸運にも、誰も死ななかったけど）。この例は選ばれた感があるけど、「精度が低い」と「自信がある」という組み合わせが、この災害をすぐに思い出させた。新しい技術の正しい使い方が採用されるまで、民間人の死や責任が必要になるんじゃないかと本当に心配してるけど、まずは1) 安全が重要なシステムでは使わないこと、2) 専門家をアルゴリズムで置き換えないことから始められると思う。

└

残念ながら、多くの人は不快な真実よりも心地よい嘘を好むことが多いんだよね。

これ、前に投稿されたけどあまり注目されなかったから、以下のコメントをしたんだ。「AI」が間違った答えにアクセスするだけと比べて、実質的な違いをもたらすのか知りたい。例えば、誰かが間違った答えを成功裏に引き出す検索アクセスを与えられた場合、それと同じ結果になるのかな。AI特有の特徴、例えばおべっかや会話の側面がどれくらい影響するのか、単に人々が読んだことを信じたがるだけなのか、気になる。

└

研究はここで読めるよ: https://osf.io/preprints/psyarxiv/5y6m4_v1 要約すると、彼らは2つのケースを調べたんだ。間違った答えを返すLLM/チャットインターフェースへのアクセスと、事前生成された（間違った）答えへのアクセス。どちらの実験も似たような結果が出たよ。

Hacker Newsで議論の続きを見る