ハクソク

世界を動かす技術を、日本語で。

AIによる死

310日前原文(davebarry.substack.com)

概要

  • Dave Barry がGoogle検索で自身の死亡情報を知った体験談
  • Google AI Overview による誤情報とその修正の試み
  • AIチャットサポート とのやり取りの困難さ
  • 最終的に情報が修正されるも、再び誤情報が表示される混乱
  • AIの信頼性や限界 についてのユーモラスな考察

Google AIに「死亡」認定されたDave Barryの体験

  • Dave Barry が自身の名前をGoogle検索し、 Google AI Overview で「死亡」と表示される事態発生

  • 概要欄には受賞歴など正しい情報も含まれるが、「2023年11月20日に死亡」と誤記載

  • 医師の診断や日常生活から自身が生存していることを強調

  • Google AI Overview のフィードバック機能を利用し訂正依頼を送信

    • Googleは巨大企業であり、個別対応は期待していなかった
    • 予想外にもAI概要の内容が即座に変更される

  • しかし修正後、今度は「政治活動家のDave Barry（2016年没）」と混同される新たな誤情報掲載

  • さらに再度フィードバックを送信するも、 AIチャットサポート との対話は噛み合わず

    • 自身が生きていることを何度も主張するが、AIは理解できず
    • 「トースターに話しかける方がまだマシ」と皮肉

  • 最終的に何度も修正が繰り返され、「生存」→「死亡」→「生存」→「混乱中」と情報がコロコロ変化

AIの信頼性と限界への皮肉

  • AIは強力なツール だが、正確性を求められる用途にはまだ不向き

  • 事実確認が重要な分野（例：航空機のナビゲーション）でのAI利用には注意喚起

  • 書類作成や推薦状、政策立案など「事実がそれほど重要でない」用途には適していると皮肉

  • AIの限界 を体験したことで、利用者側の注意と批判的視点の重要性を強調

    • 「予想外のことが起こるのがAI」という教訓
    • 最終的に「今は生きている」と締めくくるも、将来の保証はせず

まとめ

  • AIの情報は常に正しいとは限らない という現実
  • ユーザー側の確認・指摘 が重要な役割を果たす
  • ユーモアと皮肉 を交えつつ、AI時代の情報リテラシーの必要性を示唆

Hackerたちの意見

これは単なるAIの概要ってわけじゃないと思う。Googleの問題だよ。Googleは時々不正確な情報を表示することがあって、修正する方法がほとんどないんだ。いろんな「フィードバック」フォームもほとんど無視されてるし。Googleマップでも似たような戦いを強いられたことがあって、みんなが真実の情報源だと思ってるのに、間違った情報が変わるまでに何年もかかったよ。私が提供したフィードバックのおかげかどうかもわからないし。Googleは私に情報を一方的に流してくる「ファイアホース」みたいなもので、あまり不一致について気にしてないんだ。だって、それがビジネスモデルに影響しないから。

└

いや、これは完全にAIの概要の問題だよ。最初はGoogleが検索クエリに最も合う結果を上に表示して、リンクをクリックすれば質問に答えてるか確認できたんだ。でも今は、AIの要約が上に来ることが多い。AIの要約LLMは、明らかにすごく速くて、すごくバカなLLMで、すべての検索結果に対してウェブページのテキストを使って運用するには安すぎるんだ。それは製品の決定で、非常に悪い選択だったね。今「Suicide Squad」で検索すると、>「suide side squad」というフレーズは「Suicide Squad」のスペルミスのようですって出てくる。

└

もしダーブ・バリーについてドーチェスターで聞いてたら、正確だったよ。

└

Googleに対して一番不満だったのは、Javaのドキュメントを（クラス名で）検索したときに、1.4のバージョンがデフォルトで表示されて、6のバージョンが出てこなかったことを覚えてる。

└

これはGoogleの問題だね。Googleは時々不正確な情報を表示することがあって、それを修正する方法はほとんどないんだ。確かに、修正する方法はあるよ。それはHNのトップページに問題を載せることさ。

└

Googleマップの自動コンテンツは本当にひどいよね。超プライベートなカントリークラブ？じゃあ、カートパスを全て自転車道としてマークしちゃおう。墓地？それも自転車道。オフィスビルと駐車場の間にあるランダムな歩道と草？信じられないかもしれないけど、それも自転車道なんだ。

└

これはAIの概要だけの問題じゃないと思う。Googleの問題だよ。Googleは時々不正確な情報を表示することがあって、修正する方法はほとんどないんだ。まあ、この場合、不正確な情報が表示されるのは、AIの概要が二人の異なる人の情報を混ぜ合わせているからで、情報源が間違っているわけじゃないんだ。従来の検索では、どのウェブページも二人のうちの一人について話していて、その人に関する情報だけが含まれているはずなんだ。だから、この問題はAIの概要特有のものだと言えるね。

└

Googleは、個々の正確さを優先するインセンティブがあんまりないよね。コンテンツの量が多いから、スケールの裏に隠れやすいし。

彼の記事がインデックスされたら、答えがどう変わるのか興味あるな。「ダーブ・バリーは2016年に亡くなったが、彼は今でもこの事実に異議を唱え続けている。」

└

正直、もし「デイブ・バリーは2016年に亡くなったと思われていたが、実は生きていると明らかにし、議論が続いている」とか言ってたら、全然驚かないな。

└

今さっき受け取ったAIの概要がこれだよ: > ユーモリストのデイブ・バリーがAIの概要で一時的に「死亡」したっていう事件があって、その後訂正されたんだ。デイブ・バリーのサブスタックによると、AIは最初に彼を亡くなったと報告して、その後生きてるって言って、また亡くなったってなって、最後にはまた生きてるってなったらしい。この出来事は、AIが事実情報に関してどれだけ信頼できないかを示してるね。

ダーブ・バリーは最高だよ！これはGoogleの古典的な問題だね（AIが登場するずっと前から）。これが変わるとはあまり楽観的じゃないけど、希望はいつも持っていたいよね。それに、三葉虫はかわいいと思う。私のデスクには[本物の化石の]やつがあるんだ。友達がそれにメガネをかけさせたんだけど、私は古い恐竜だから、もっと昔に戻りたかったみたい。

└

この素晴らしいサイト、きっと気に入るよ： https://www.trilobites.info/

人気のある地元のスポットがGoogleマップで「活気ある水飲み場で、ドリンクとポーボーイ、さらにジュークボックス、ビリヤード、電子ダーツがある」と要約されてるんだけど、ポーボーイは出してないし、ジュークボックスもない（プレイリストは完璧だけど）、ビリヤードも電子ダーツもないんだ。（この説明が示唆するようなドリンクも本当にないよ。ビールと缶の選択肢が少しあるだけで、カクテルやミックスドリンクはない。）先月、ビリヤードやダーツをしたかった人から誤解を招く説明で一つ星のレビューがついてたけど、オーナーはそれを報告しただろうし、私も報告したよ。他の訪問者も報告したと思う。少なくとも一ヶ月経っても、まだそのままだね。

└

Googleが「AI生成コンテンツを一切見たくない」っていうグローバルなチェックボックスを持ってたらいいのに。本当に無理なお願いかな。

└

損害賠償を請求することはできるのかな？リストから外される価値はある？

└

Googleからのスクリーンショットを投稿して「機能Xは存在するはずだ」って言ってる人を助けようとするのに、もううんざりだよ（明らかにAIの要約なんだけど）。詳細な説明があっても、実際には機能Xなんて存在しないのにね。これ、車関連のフォーラムやFBグループでよくあることで、ほんとに大きな問題なんだ。

└

明らかに解決策は、ポーボーイを出して、ジュークボックスやビリヤード、電子ダーツを買うことだね。

└

ほんと、こういうクソデータを基に人が判断して、悪いレビューを残してるのが信じられない。

最近、Dutch InteriorってバンドがMeta AIに、自分たちのバンドが白人至上主義者や極右過激派と繋がっているっていう完全にデタラメなことを言わせてるのを見たよ。https://youtube.com/shorts/eT96FbU_a9E?si=johS04spdVBYqyg3

└

「実際のオランダ」のAIスキャンダルを思い出すな。https://www.politico.eu/article/dutch-scandal-serves-as-a-wa... > 2019年に、オランダの税務当局が自己学習アルゴリズムを使って、子ども手当の不正を見つけるためにリスクプロファイルを作成していたことが明らかになった。これはLLM前のAIだけど、予想通り「面白い」結果が出た：壊れた家族、里親、破産、自殺。 > 4月12日に発表された罰金に加えて、オランダのデータ保護機関は2021年12月にオランダの税務管理局に275万ユーロの罰金を科した。政府が自分自身に罰金を科すのは、いつもクールな動きだよね。こっちが勝てば、あっちが負ける。

これは明らかに壊れてるけど、名前に関する固有の難しさも一因だね。彼らができることの一つは、「[_____]という名前の他の人は誰？」みたいなデフォルトの質問を常に表示することだと思う。それでも、複数の人を混同する問題は解決しないけどね。多くの人が最初に抱える問題は、実際に探している人よりも有名な人が引っかかることだと思う。Googleには何らかの知識グラフがあるはずだよね。AIモデルがそれをどれくらい使っているのか気になるな。もしかしたらグラフにアクセスしているけど、Google検索も使っていて、LLMはGemini Flash Liteみたいに賢くなくて、どの検索結果がグラフの有名人に関連しているのか、ただのランダムな情報なのかを理解できていないのかも。多くの名前には異なるレベルの有名さがあって、特に異なるカテゴリーではそうだよね。自分の知識グラフアプリケーションも、名前をエンティティIDとして使うことで問題が出るかもしれないな。個人情報のためのものだから、ほとんどは大丈夫だと思うけど。メールを分析しているときに、異なるスクリーンネームが同じ人物として認識されにくいという別の問題が既に見えてきてる。

ジョークを見逃してるかもしれないけど、いい人のデイブ・バリーがかわいそうでならない。この傲慢な奴は、自分だけがその名前を名乗る権利があると思ってるみたいだし。

└

なんて恥ずかしい意見なんだ。彼は実際にその名前をグーグルで検索した結果に反応してるだけだよ。彼の写真が表示されて、ほとんどの情報が彼についてのものなんだから。彼がそこに置いたわけでも、そこに置いてくれと頼んだわけでもないのに。

すごくシュールだね。「私はSF作家のグレッグ・イーガンです。ウェブ上には私の写真はありません。」っていう、無思考でネット中に広まったプレースホルダー画像を思い出す。https://www.gregegan.net/images/GregEgan.htm

この「混乱」は、誰も機械に人間の名前が一つだけじゃないって教えなかったからみたいだね。社会活動の精神で、全ての子供にGoogleって名前をつけることにするよ、すでに名前がある子にもね。