世界を動かす技術を、日本語で。

インターネットはもはや信頼できない

概要

  • Phantasy Star Fukkokuban に関する誤情報拡散への怒りと問題提起
  • マイナー・曖昧な事象の記録と学びを目的としたブログ運営
  • LLM(大規模言語モデル)による「もっともらしいウソ」の増加
  • SEO目的の質の低いサイトやAI生成記事の台頭
  • 信頼できる情報源の重要性と、インターネット文化の衰退への懸念

奇妙で曖昧なものへのこだわりとブログの目的

  • 珍しい・曖昧な事象 を記録・学習するためのブログ運営
  • Phantasy Star Fukkokuban のようなマイナーなゲームに特に興味
  • 情報未確認のこと を調べて記録する習慣
  • 一般受けしないテーマも自分の興味で記事化
  • 誤情報の多さ に対する苛立ち

Phantasy Star Fukkokubanの概要と技術的特徴

  • 1994年、日本で Phantasy Star IV発売記念 としてリリース
  • Genesisカートリッジ にMaster System版をそのまま収録
  • Power Base Converter と同様の配線設計
  • 日本での Master Systemの不人気、シリーズの繋がり強調が背景
  • 一部Genesis本体では 動作不可、技術的に興味深い存在

誤情報記事との遭遇と失望

  • DuckDuckGoで リリース日検索 中に問題記事を発見
  • GameFAQsやThe Cutting Room Floorは信頼、 Press Start Gaming は未知のサイト
  • 新規サイトへの信頼バイアスで 記事クリック
  • 「グラフィックやサウンドが向上」と記載されるも 事実無根
  • 天候変化や昼夜サイクル も存在しない
  • 記事冒頭の「Game data not found」で 違和感 を覚える

LLMによる誤情報生成の仕組み

  • LLMは「 もっともらしい補完」を行う
  • Phantasy Star Fukkokuban のようなマイナー情報は学習データに少ない
  • 「リメイクならこうだろう」という 想像で文章生成
  • Phantasy Star generation:1 など他作の情報が混入する場合あり
  • ChatGPTに質問した結果も 事実誤認 (Sega Saturnのコレクション版と混同)

他のマイナーゲームでも同様の現象

  • Mahjong Daireikai でも日本語情報が「ありそうな内容」ばかり
  • 実際の内容と AI生成の説明が大きく乖離
  • ユーザーが本当に知りたいのは 実体験に基づいた情報

低品質なSEOサイトとAI生成記事の問題

  • Press Start Gaming の運営元も不明瞭、広告収入目的の疑い
  • 誤情報記事は サイトの信頼性向上のための量産
  • 購入者が誤解しても サイト側に責任意識なし
  • SEO重視・AI活用 による質の低下はAI以前からの問題
  • LLM導入で 誤情報の量産と拡散が加速

インターネットの衰退と信頼できる情報源

  • 事実確認や独自調査 をしないAI記事の増加
  • Nicole Expressのような 信頼性ある個人ブログ が軽視される現状
  • AIの進化で徐々に正確な情報も増える可能性
  • しかし、 インターネットの「コモンズ」喪失 への危機感
  • 信頼できる「プレAI時代」からのサイト に頼るしかない現状

おわりに

  • AIブームの悪影響 の一端としての誤情報問題
  • さらに深刻な問題も存在(例:オープンソース開発者への自動攻撃記事)
  • 情報の信頼性低下 とインターネット文化の衰退は「本当に残念」
  • 信頼できるサイトの選別 が今後さらに重要
  • 最後まで読んでくれたことへの 感謝

Hackerたちの意見

間違った信頼の失敗モードが変わったんだ。以前は、たまに悪い情報や間違ったデータに振り回されたり、巧妙な詐欺に引っかかったりしてたけど、今は再生産された情報に圧倒されてる。それがまた機械にフィードバックされてるしね。人とボットの読み手の比率がほぼゼロに近づいてる。ウェブを燃やしちゃったんだ。

同じ結論に至ってから、ここ数週間ずっと miserable だよ。あまりにもひどくて、裏で糸を引いてる人たちが今何が起こってるのかすら分からないんじゃないかって疑っちゃう。

だから、デッドインターネット理論がデッドインターネットの現実になっちゃったんだね。

未来のAIモデルも腐敗させちゃうから、今のモデルを長い間持ち続けることになるかもね。少なくともバイアスの少ないバージョンとして、チェックサムみたいな感じで。

ちょっと関係あるけど、予測市場がオンラインの悪情報の大きな要因になってるんじゃないかって思うんだ。要するに、人々に世界の状況を誤解させることで金銭的なインセンティブを与えてるからね。最近、現在の出来事に関してこういう行動が急増してるのを感じる。2023年の失敗した常温半導体LK99の時に最初に気づいたけど、今もずっと続いてる。昔は選挙や暗号通貨のポンプ&ダンプの周りだけで見かけたけど、今は変なところでも出てきてる。

面白い理論だね。でも、ちょっと反対の意見だな。予測市場は基本的に人々が情報をお金で取引できるようにするもので、歴史的に取引が難しいタイプの情報も含まれる。故意に誤情報を流すために賭ける人が十分にいないと思うし、間違った情報に何度も賭けたら大抵の人はやめちゃうからね。カジノは時々勝たせてくれるけど、そういうのとは違う。誤情報は主に自己利益を追求する人たちによるものだと思う。政治家や影響力のある人たちが自分のアジェンダを押し進めたり、広告収入のためにエンゲージメントや注目を集めようとしてるから、真実にはあまり関心がないんだ。

それは本当に手間がかかるね。ほとんどのイベントは影響を与えるのが難しいものだと思うから、せいぜい賭けの確率を自分に有利に傾けることを期待してるんだろうけど、間違った結果に賭けてたら逆効果になるかもしれないよ。

半導体 超伝導体

ウェブの記事を元に世界を誤解するって、どういうこと? 情報の出所がしっかりしてないと、もう終わりだよ。

信号対雑音比が今まで以上に低くなってる(編集:以前は高かった)。この状況から抜け出す方法は「人間認証」のデジタル署名(例えばEUのeIDASを使う)くらいしか思いつかない。少なくとも擬似匿名性を保つためのプロキシはあるかもしれないけど、人間に追跡可能なものね。コモンズの悲劇がまたやってきた。

SNRが低くなってるって言いたかったんだよね。

そして、その人間はまたAIを使うことができる。でも、それは助けにならないよ。

「コモンズの悲劇」っていうのは、欲望や自己中心的な行動、さらには無法状態を隠すための間違った概念だよ。元々この考えを提唱したハーディン自身も、実際の歴史を表していないって認めてるしね。

信頼の木みたいなもので、エージェントに近いノードほど信頼されるようになるんだよね。

だから、友達と一緒に町でメッシュネットワークを立ち上げようとしてるんだ。オープンなインターネットはしばらく前から悪化してるけど、LLMがその崩壊を加速させてる。ここ数年は否定してたけど、今は90年代後半から2000年代中頃に育ったインターネットは死んでしまったって受け入れたよ。それを体験できたことには感謝してるけど、もう次に進む時が来たんだと思う。初期のインターネットが提供していたものを大切にしていた人たちにとっての未来は、ローカルで信頼できるネットワークだと思う。排他的なサークルに退く必要があるのは悲しいけど、底辺に向かうレースでお金を稼ごうとしてる人が多すぎるんだ。

友達が世界中に散らばってるから、Wireguardメッシュサービスを作ることを考えてるんだ。君の挑戦がうまくいくことを願ってるよ!

俺が「オンライン」になったのは1985年だよ。地理的に近いインターネットが役に立ったり興味を持ったことは、一度も思い出せないな。

これって、間違ったレイヤーで問題を解決しようとしてる気がする。問題は人同士のネットワーク接続じゃなくて、コンテンツなんだよね。自分のフォーラムを作って、信頼できる人だけを招待すればいいだけじゃん。全く別のインターネットなんて必要ないよ。

これは、出会った最高のウェブ記事を印刷して、それをバインダーに入れて棚に置くのと同じくらい影響力があると思う。

よかったら、メール送ってくれればいいよ。考えてることが似てるんだ。プロフィールにメールアドレスあるから、何回か確認してみて。

まだインターネットの反逆者がいるのを見るのはいいね。もしかしたらAIスカイネットは勝たないかもしれないけど、彼らにはお金がたくさんある。AIを押し付けて私たちの生活を悪化させる大企業の資金を断つ必要があると思う。

同じことを考えて、同じ結論に至ったんだ。数ヶ月前から解決策に取り組み始めたよ。少しずつ進んでるけど、今はネットワークを基にしたMP3プレーヤーを磨いてるところ。計画もいくつかあるし、まだ初期段階でバグも多いけど、こういうのが役立つかもしれないって楽観的に思ってる。 https://github.com/mjdave/katipo

新しいインターネットを始めるのにメッシュネットワークを作る必要はないよ。例えば、自分のDNSの代替を開発することもできるし。

これはクールなアイデアだし、楽しそうなプロジェクトだね。でも、招待制のWireguardネットワークを使えば、ほぼ同じことができると思うよ。地理的制約がないのもいいし。

普通のウェブ上に招待制のサイトを作ればいいんじゃない?フリクションがかなり少ないよ。

最近、最新のホロウナイトをプレイしててこれに直面したんだ。元のゲームのメカニクスやアイテムを新しいゲームに合わせようとしてる、明らかに手抜きなサイトがいくつかあったよ。新作はまだ約6ヶ月しか経ってないから、参考にできるコンテンツがあまりないんだ。俺の疑問は、なんで?ニッチなトピックを探してる数人を騙すために広告収入が本当に価値あるの?例えば、トレンドの映画や音楽、ゲームのトップ5000を選んで、幅広く偽コンテンツを作ったら、どれくらいの回収期間になるんだろう?

少数のニッチなトピックを調べている人を騙して広告収入を得る価値って本当にあるのかな?もしかしたら、汚染を通じて問題の領域を探るってこと?汚染を生み出すクリエイターたちは、その汚染を作るのにほとんどコストがかからなくて、そのコスト以上のリターンがある可能性もあるよね。

VLCOL国に住んでいて、無料のツールにアクセスできるなら、ほんの少しのリターンで十分に価値があると思うよ。

昨晩、HNを守るためにどうすればいいかすごく考えたけど、良い答えは思いつかなかったな。もしかしたら、信頼のある人に保証してもらう、つまり招待が必要かも。俺のインターネットコミュニティの旅は、主にirc -> dA -> twitter -> HNだよ。最近は、このサイトで人間味のないものに感情エネルギーを注いでる気がして、どう表現すればいいかわからないけど、全然心地よくないんだよね。ヒン

無理だね。このフォーラムはサム・アルトマンが運営してた会社が運営してて、AIの普及を推進してる業界の人たちがいっぱいなんだ。AIを使って信じてる人たちが宗教みたいになってる。もうボットアカウントが投稿してるし、人間のコメントもAIでフィルタリングされてる。ほとんどのShow HNsは雰囲気で選ばれてる。どうしようもないよ。どれだけガイドラインがあっても、どれだけネガティブな社会的圧力をかけても(もっとかけることもできるけど、それはガイドラインのトーンポリシングに引っかかるから)、人々はAIを使いたいから使うし、それがアイデンティティポリティクスの一部になってる。特に、AIを見たくない人たちに対抗するためにね。今はコメントにChatGPTを使ったってわざわざ言ってるけど、いずれはそれすら気にしなくなるよ。もう普通になってるから。Fediverseは今のところいい感じで、あそこは反資本主義で反AIの文化がある。マストドンが好き。でも、結局それも壊れてしまう運命だし、次のものに移るしかないね。

招待制のHNは基本的に https://lobste.rs/ だね。

確かに、偽コンテンツの作成コストがゼロになった今、情報にアクセスするためのスケーラブルな信頼メカニズムが必要だよね。これが何かはまだ分からないけど、Web of Trustの構造はいつも魅力的に思える。多くの人が排除されることになるけど、しょうがないよね。正直に言うと、魚がいないところに行くのも助けになると思う。Geminiプロトコル上には、ほとんどLLM生成のウェブサイトがないはず。自分でも、robots.txtで同意した部分だけを記録するセカンダリーアーカイバーを立ち上げてるところ。どこまで進むか見てみよう。

Web of Trustが一般的になれば、文化のシフトが起きて、ほとんどの人が排除されないと思う(今の招待制のスペースと比べて)。公の存在があれば、十分に忍耐強いか、信頼されている人の友達や同僚であれば、信頼されるようになる。しっかりした出所があれば、信頼は慎重に守る必要がなくなる。信頼は取り消し可能で、違反者の評判は傷つくから、取り戻すのが難しくなる。あと、小さなサイト同士で信頼のネットワークを形成できるし、各サイト内で人々が保証されたり取り消されたりするのと同じように、大きなネットワーク内で他のサイトを信頼したり取り消したりできる(町→州→政府→世界の階層みたいに)。そうすれば、簡単なグループ(例えば、物理的に近い場所や、自分が専門のニッチな趣味のグループ)から信頼を得るだけで、遠くのグループの信頼も得られるようになる。

インターネットの未来は招待制のエンクレーブになると思う。次世代の掲示板に取り組んでいる人がいるのか、PHPBBに戻るだけなのか、時々疑問に思う。

lobste.rsはもうそんな感じだと思う。HNと比べると面白い対比になってるね。HNは似たような人たちが集まってるけど、誰でも参加できるから。

すぐにボットに侵入されて、恣意的な政治で人が含まれるようになるよ。コンテンツがゲームやスパムに意味がないものになっちゃうか、もう失われてるかのどっちかだね。

Intel i7-4790Tに関するYouTube動画を探してた時に似たような経験をしたんだ。これは比較的マイナーなCPUで、Haswell時代の小型プリビルドにしか使われてなかった。最近見つけた動画は、明らかにLLMで生成されたスクリプトをナレーションしているスロップ動画ばかりで、説明欄にはAmazonアフィリエイトのリンクがあった。CPUは一度も小売販売されたことがないのに!こういうチャンネルは、アフィリエイト手数料を得るためにランダムな商品について1日に何度もアップロードしてるんだ。 [1] https://www.youtube.com/watch?v=YpHUBC681iU https://www.youtube.com/watch?v=0w5a33Jeen0

コピーのコピーをさらにコピーすると…めっちゃぼやけたコピーができるよね。