法律はここでしっかり立ち上がって、見せしめを作る必要があるよ。そうしないと、これが続いて、いつかAIによって本当に大惨事が起こるかもしれない。「見せしめを作る」ってどういう意味なんだろう？俺もAIの不具合を片付けるのには賛成だけど、訴訟社会は嫌いなんだ。将来的にこれを防ぐための法的措置は、すぐに武器化されるだろうね。

何の根拠で？間違っていることは通常、罰せられるべき罪ではない。名誉毀損と見なされるかもしれないけど、名誉毀損は通常、意図的である必要があるし、ここでは明らかにそうではないと思う。ほとんどのAIは、間違っている可能性があるという免責事項を持っているし、幻覚が一般的な知識になっている時点で、何が求められるかというと、問題のある人が修正できるようにすることだと思う。フランスではそれが法的要件になっているし、他の国でも多分そうだろうけど、記事から見ると、ジェミニはすでにその話を拾って修正したみたいだね。もし幻覚が違法になったら、LLMも違法にするべきだろうけど、それは良いことと見なされるかもしれないけど、実際には起こらないだろうね。立法者が自分に関する誤った情報を公式に報告する方法を義務付けて、それをフィルタリングすることができればいいのに。検索エンジンではすでにそうなっていると思うし、技術的には可能だと思う。

Googleが検索ページでリクエストを処理するために使ってるモデルは、コスト削減のために他のものよりもバカなんじゃないかな。広告付きの検索が彼らの主力商品だから、これが賢い選択かどうかはわからないけど、検索にAIを全く使わない方がいいかも。

その動画にはジョーダンが言及されてた可能性が高いね。イスラエルの近くにある国だから、言及されるのも納得だよ。

下の6ptのテキストにははっきり「AIの回答には間違いが含まれることがあります。詳細はこちら」と書いてある。俺は要素を検査したけど、実際には12px（または9pt）なんだ。参考までに、他のテキスト（ヘッダー以外）は18pxだよ。それは俺には問題ないように思えるけど？目立たないけど、完全に見えないわけでもないし。

これは完全にGoogleのせいだよ。彼らは名誉毀損的なコンテンツを作り出して、直接公開してるんだから。もし誰かがあなたの名前を検索して、Googleの最初の結果が「あなたが登録された性犯罪者である」と明確に示してたらどう思う？他の誰かの引用でもなく、ただのデタラメで、言葉遊びだけで作られたものだよ。「ああ、下に小さく間違ってるかもしれないって書いてあるから大丈夫」と本当に思う？絶対にそんなこと思わないよね。

これは面白いポイントを提起してるね。一般的なトピックにデフォルトで設定された検索結果が、LLMのトレーニングや情報取得の一般現象の基礎になることはあるのかな。

ほぼ確実にこういうことが起こったんだろうね。GoogleのAIの回答は魔法じゃないよ。検索結果を要約してるだけなんだから。この場合、「イスラエル」+「ジョーダン」で、著者とは反対の意見の動画が引っかかっちゃったんだ。デバッグがちょっと難しいのは、GoogleがUIに表示したくないコンテキストも引っ張ってくるから。AIモードでは、半ダースの検索を行って、100以上のサイトのスニペットを集めてから要約を書くのが見えるよ。