考えをシェアしてくれてありがとう、私の考えを完璧に補完してくれてる。もし信念が一つの矛盾する証拠で崩れるとしたら、それは非常に脆い信念体系の兆候だと思う。そして、毎日毎日、電子レンジから出てくる「事実」は、人々の信念が経験的現実から完全に切り離されていることの証拠だと思う。供給と需要ってやつだね。

ある古典的な合理主義のブログで「合理的な認識論的懐疑主義」についての記事を読んだことがあるんだけど（でも彼らはすごくたくさん書くから、見つけるのは無理だな）、そんな感じのことを言ってた。基本的なアイデアは、普通の人が賢い人に簡単に知的に圧倒されるってこと。もしかしたらその人はもっと賢いか、教育を受けているか、あるいはそのテーマについてたくさん勉強しただけかもしれない。彼らは基本的にそれを知っているし、賢い人が常に正しいわけではないことも知っている。だって、そういう賢い人はたくさんいるし、みんなが同じことを考えているわけじゃないから、全員が正しいわけがない。だけど、普通の人（そのテーマに関して普通の人）はまだ合理的で、自分の信念が揺れ動くことはない。だから、彼らは防御的な姿勢を持ち、納得させられないように抵抗するんだ。それが正しいと思う！誰かが完璧な議論であなたに迫ってきたら、それはその議論が真実で啓発的だから？それとも何かトリックがあるの？後者の方がずっと可能性が高いよね。

多くの人が真実に興味を持っている。でも、ガスライティングや単一の真実の源がないこと、そしてノイズが多すぎるせいで、人々は完全にチェックアウトしてしまった。みんな何かおかしいと感じているし、野蛮人が門の前にいることも知っている。でも、門は1万キロ先にあるから、「その間は平和に生きよう」と思っているんだ。彼らはシステムに希望を失ってしまった。

あなたの2つ目のポイントに付け加えると、そういうアルゴリズムは、物語を作るリソースと意欲を持った州によって簡単に操作される。特にロシアと中国がね。実際、ロシアの選挙干渉の戦術は過去8年間でかなり大きな変化があった。以前はトロール軍がいて、彼らのボットファームの主な戦術はアメリカ人（ポーランド人、チェコ人、モルドバ人、ウクライナ人、イギリス人なども含む）を装ってロシアのプロパガンダを広めることだった。このボットファームは比較的簡単に見つけて禁止できたし、2016年の選挙後はその戦略に多くの注目が集まったから、短命だった。以来、ロシアは中国スタイルの戦術にかなり近づいて、今では「ゴブリン」軍（トロール軍とは対照的）を持っている。このグループはもはや自ら物語を押し出すのではなく、スクロールやアップボート、コメントへのクリック、コメントへのLLMでの返信など、無心のエンゲージメントを利用してソーシャルメディアのアルゴリズムが人々に何を見せるかを操作している。彼らは実際のアメリカ人の物語を押し出すだけで、ロシアのプロパガンダに沿った意見や、ロシアの情報機関がアメリカにとって有害だと見なすレトリックを持つ人たちの意見を広めている。この手法は2つの理由で非常にうまく機能する：一つは、ひどいことを言うユーザーにドーパミンのブーストを与えてもっとやらせること、もう一つは、そういうひどいことに反対するかもしれない人たちに「人気がある」ことを見せて士気をくじくことだ。

人々が気候変動（や進化論）を信じているっていうのは変なことだよね。一般相対性理論や化学の原子論を信じているとは言わないのに。みんなそれを証拠に基づく最良の説明として受け入れているだけなのに。気候変動や進化論は、一部の人の価値観（たいていは宗教的なものや経済的な動機から）に反するから、信念と呼ばれるんだ。

嘘をつく最良の方法は、虚偽の事実を提示することじゃなくて、自分の物語に合った事実を選び抜くことだよね。これによって、自分自身や他人に対してうっかり嘘をつくこともよくある。たくさんのニュース記事を見てみて。

「気候変動を信じていて、気候変動に関する論文で科学者たちがデータを捏造したことが証明された場合、それは気候変動に対する信念を変えるには十分な情報ではない。なぜなら、気候変動の証拠はどんな単一の論文よりもはるかに大きいからだ。ただ、あなたの言いたいことは正しい。特定の例が合理的な人なら信念を大きく揺るがすべきだ。」 1. それは科学者のグループであり、彼らの研究はレビューされたので、彼らは全員不誠実だろう。 2. 彼らはそれがうまくいくと期待してやった。 3. もし彼らがうまくいくと期待していたなら、過去にそれをやって成功したか、他の人が成功しているのを見たか、またはその両方だろう。 4. データを捏造して逃げ切る文化があるなら、捏造されたデータの論文が一つ以上ある可能性が高い。おそらく多くのそんな論文があるだろう。結局、著者たちは以前に論文を執筆している可能性が高く、それらも今は疑わしい。たとえ詐欺がすべてのケースで簡単に証明できなくても。 5. 科学者たちはしばしば論文に見られるデータをそのまま受け入れる。だから、たくさんの主張が発表から数年、数十年後に再現できないことがわかる。科学者たちはお互いのデータを基に研究を進めるから、未発見の詐欺的な論文だけでなく、直接的に詐欺ではないがそれに基づいて問題が検出されない論文も多いだろう。 6. だから、証拠の基盤は以前に考えられていたほど堅牢ではない可能性が高い。 7. だから、彼らの主張が真実である可能性に対する信念は下がるべきだ。実際にどれだけ信念を更新すべきかは、詐欺がどのように発見されたか、罰則があったか、科学者たちが反省を示したかによる。もし詐欺が分野外の人によって発見され、悪事を働いた人たちに何も起こらず、科学者たちが捕まったことを気にしなかったなら、信念を更新すべき量は、厳格なシステムによってすぐに検出され、厳しく罰せられ、後に本当に後悔を示した場合よりもずっと大きいはずだ。

「前の時代の企業が支配するニュースメディアについて何を言おうとも、その時代のジャーナリストたちは少なくとも視聴者に関連する事実を提示しようとした。もしこれがバイアスを減らすと思うなら、全く逆だ。バイアスを反論しにくくするだけだ。どの事実が『関連』であるかを決めることは、報道にバイアスをかける簡単な方法の一つだが、もっと簡単で効果的な方法は、どのストーリーが『関連』であるかを決めることだ。ジャーナリストたちは自分の信念や目的を持っていて、どの事件を孤立したものとして扱うか、ニュースに埋もれさせるか、どれが広いトレンドの一部で『国として私たちが話し合うべきこと』として扱うかを動機づけている。」 - https://www.economist.com/united-states/2024/10/27/the-data-... (unpaywalled: https://archive.md/Mwjb4)

企業が支配するニュースメディアの前の時代… 今日目にする事実は、通常アルゴリズムによって決まる… でも、そのアルゴリズムも企業に支配されてるんだよね。

本の推薦ありがとう！ガリレオの論争には参加してなかったから、確信は持てないけど、もっと読むことはいつもありがたい。