世界を動かす技術を、日本語で。

AIによる死

概要

  • Dave Barry がGoogle検索で自身の死亡情報を知った体験談
  • Google AI Overview による誤情報とその修正の試み
  • AIチャットサポート とのやり取りの困難さ
  • 最終的に情報が修正されるも、再び誤情報が表示される混乱
  • AIの信頼性や限界 についてのユーモラスな考察

Google AIに「死亡」認定されたDave Barryの体験

  • Dave Barry が自身の名前をGoogle検索し、 Google AI Overview で「死亡」と表示される事態発生

  • 概要欄には受賞歴など正しい情報も含まれるが、「2023年11月20日に死亡」と誤記載

  • 医師の診断や日常生活から自身が生存していることを強調

  • Google AI Overview のフィードバック機能を利用し訂正依頼を送信

    • Googleは巨大企業であり、個別対応は期待していなかった
    • 予想外にもAI概要の内容が即座に変更される
  • しかし修正後、今度は「政治活動家のDave Barry(2016年没)」と混同される新たな誤情報掲載

  • さらに再度フィードバックを送信するも、 AIチャットサポート との対話は噛み合わず

    • 自身が生きていることを何度も主張するが、AIは理解できず
    • 「トースターに話しかける方がまだマシ」と皮肉
  • 最終的に何度も修正が繰り返され、「生存」→「死亡」→「生存」→「混乱中」と情報がコロコロ変化

AIの信頼性と限界への皮肉

  • AIは強力なツール だが、正確性を求められる用途にはまだ不向き

  • 事実確認が重要な分野(例:航空機のナビゲーション)でのAI利用には注意喚起

  • 書類作成や推薦状、政策立案など「事実がそれほど重要でない」用途には適していると皮肉

  • AIの限界 を体験したことで、利用者側の注意と批判的視点の重要性を強調

    • 「予想外のことが起こるのがAI」という教訓
    • 最終的に「今は生きている」と締めくくるも、将来の保証はせず

まとめ

  • AIの情報は常に正しいとは限らない という現実
  • ユーザー側の確認・指摘 が重要な役割を果たす
  • ユーモアと皮肉 を交えつつ、AI時代の情報リテラシーの必要性を示唆

Hackerたちの意見

これは単なるAIの概要ってわけじゃないと思う。Googleの問題だよ。Googleは時々不正確な情報を表示することがあって、修正する方法がほとんどないんだ。いろんな「フィードバック」フォームもほとんど無視されてるし。Googleマップでも似たような戦いを強いられたことがあって、みんなが真実の情報源だと思ってるのに、間違った情報が変わるまでに何年もかかったよ。私が提供したフィードバックのおかげかどうかもわからないし。Googleは私に情報を一方的に流してくる「ファイアホース」みたいなもので、あまり不一致について気にしてないんだ。だって、それがビジネスモデルに影響しないから。

いや、これは完全にAIの概要の問題だよ。最初はGoogleが検索クエリに最も合う結果を上に表示して、リンクをクリックすれば質問に答えてるか確認できたんだ。でも今は、AIの要約が上に来ることが多い。AIの要約LLMは、明らかにすごく速くて、すごくバカなLLMで、すべての検索結果に対してウェブページのテキストを使って運用するには安すぎるんだ。それは製品の決定で、非常に悪い選択だったね。今「Suicide Squad」で検索すると、>「suide side squad」というフレーズは「Suicide Squad」のスペルミスのようですって出てくる。

もしダーブ・バリーについてドーチェスターで聞いてたら、正確だったよ。

Googleに対して一番不満だったのは、Javaのドキュメントを(クラス名で)検索したときに、1.4のバージョンがデフォルトで表示されて、6のバージョンが出てこなかったことを覚えてる。

これはGoogleの問題だね。Googleは時々不正確な情報を表示することがあって、それを修正する方法はほとんどないんだ。確かに、修正する方法はあるよ。それはHNのトップページに問題を載せることさ。

Googleマップの自動コンテンツは本当にひどいよね。超プライベートなカントリークラブ?じゃあ、カートパスを全て自転車道としてマークしちゃおう。墓地?それも自転車道。オフィスビルと駐車場の間にあるランダムな歩道と草?信じられないかもしれないけど、それも自転車道なんだ。

これはAIの概要だけの問題じゃないと思う。Googleの問題だよ。Googleは時々不正確な情報を表示することがあって、修正する方法はほとんどないんだ。まあ、この場合、不正確な情報が表示されるのは、AIの概要が二人の異なる人の情報を混ぜ合わせているからで、情報源が間違っているわけじゃないんだ。従来の検索では、どのウェブページも二人のうちの一人について話していて、その人に関する情報だけが含まれているはずなんだ。だから、この問題はAIの概要特有のものだと言えるね。

Googleは、個々の正確さを優先するインセンティブがあんまりないよね。コンテンツの量が多いから、スケールの裏に隠れやすいし。

彼の記事がインデックスされたら、答えがどう変わるのか興味あるな。「ダーブ・バリーは2016年に亡くなったが、彼は今でもこの事実に異議を唱え続けている。」

正直、もし「デイブ・バリーは2016年に亡くなったと思われていたが、実は生きていると明らかにし、議論が続いている」とか言ってたら、全然驚かないな。

今さっき受け取ったAIの概要がこれだよ: > ユーモリストのデイブ・バリーがAIの概要で一時的に「死亡」したっていう事件があって、その後訂正されたんだ。デイブ・バリーのサブスタックによると、AIは最初に彼を亡くなったと報告して、その後生きてるって言って、また亡くなったってなって、最後にはまた生きてるってなったらしい。この出来事は、AIが事実情報に関してどれだけ信頼できないかを示してるね。

ダーブ・バリーは最高だよ!これはGoogleの古典的な問題だね(AIが登場するずっと前から)。これが変わるとはあまり楽観的じゃないけど、希望はいつも持っていたいよね。それに、三葉虫はかわいいと思う。私のデスクには[本物の化石の]やつがあるんだ。友達がそれにメガネをかけさせたんだけど、私は古い恐竜だから、もっと昔に戻りたかったみたい。

Hacker Newsで議論の続きを見る