世界を動かす技術を、日本語で。

カール・セーガンのバローニー検出キット: 批判的思考のためのツール (2025)

概要

Carl Saganは600本以上の論文と20冊以上の著書を残した科学者。 代表作『Cosmos』の他、『The Demon-Haunted World』で批判的思考の重要性を強調。 「バロニー検出キット」と呼ばれる論理的思考法を提案。 この思考法は個人の誤信や社会全体の迷信への対抗策。 正しく使えば自分や社会を守る知的ツールとなる。

Carl Saganの業績と『The Demon-Haunted World』の意義

  • Carl Saganは 600本以上の科学論文20冊以上の著書 を執筆した科学者
  • 一般に最も知られる著書は 『Cosmos』、同名のテレビシリーズも制作
  • 他にも『Shadows of Forgotten Ancestors』や映画化された『Contact』などの著作
  • 1995年刊行の 『The Demon-Haunted World』 は批判的思考の重要性を説く遺作
  • この本は 科学的思考懐疑主義 の普及を目的とした啓蒙書

バロニー検出キットの九原則

  • 独立した事実確認 を常に求める姿勢
  • 多様な視点を持つ専門家同士の実質的な議論 の重視
  • 権威への盲信を避け、 「権威」ではなく「専門家」 として扱う態度
  • 複数の仮説 を立て、各仮説を体系的に反証する方法
  • 自分の仮説への過度な執着を避ける 自己検証の重要性
  • 数値化や測定可能性 を重視し、曖昧な説明を排除
  • 論証の鎖の全てのリンク が機能しているか確認
  • オッカムの剃刀 (より単純な仮説を優先)の活用
  • 反証可能性 と再現性の確保、他者による検証の受け入れ

思考バイアスと社会への警鐘

  • このキットは 人間の自然な思考バイアス を打ち消すためのツール
  • バイアスを修正しないと、詐欺師やペテン師の標的となる危険性
  • 個人レベルの問題が 社会全体の迷信や文明崩壊 につながる可能性
  • Saganは「 道具は誤用や形骸化も起こるが、正しく使えば大きな違いを生む」と警告

批判的思考の現代的意義

  • McCoyは「 バロニー検出キットは万能薬ではないが、歴史的に科学と技術の発展を加速させた」と解説
  • 批判的思考の実践が、現代社会の混乱や誤情報から身を守る鍵
  • Saganの助言を守ることで、 個人や社会に知的な余裕をもたらす 重要性

関連情報

  • Carl Saganによる「 読むべき本の選び方」や 批判的思考のシラバス
  • Saganのアメリカ衰退予測やRichard Feynmanの科学と疑似科学の区別法
  • PrincetonのHarry Frankfurtによる「 Bullshitの見抜き方」マニュアル
  • 批判的思考の無料講座 やColin Marshallの都市・文化に関する執筆活動

Hackerたちの意見

評判の高い科学作家カール・セーガンは、「ガレージのドラゴン」という例えでこの課題を説明しました。もし誰かが、目に見えず、静かで、触れられず、どんな手段でも検出できないドラゴンを持っていると主張したら、そのドラゴンの存在と非存在には実質的な違いがありません。同様に、検証可能な証拠がない限り、不死の魂の存在も証明されていないままです。

「もし誰かが、目に見えず、静かで、触れられず、どんな手段でも検出できないドラゴンを持っていると主張したら、そのドラゴンの存在と非存在には実質的な違いがありません。」 「誰もがドラゴンは存在しないことを知っています。でも、この単純な定式は素人には満足かもしれませんが、科学的な思考には足りません。高次のニヒリズムの学派は、実際には存在するものには全く関心がありません。存在の平凡さは十分に示されているので、ここでさらに議論する必要はありません。優れたセレブロンは、問題を分析的に攻撃し、神話的、キメラ的、純粋に仮説的な三種類のドラゴンを発見しました。どれも、言ってしまえば存在しないのですが、それぞれ全く異なる方法で非存在でした。」 ― スタニスワフ・レム、『サイバリアド』

部屋の中のドラゴンは、「どんな手段でも検出できない」という隠れた条件が「人類が現在知っているもの」ということです。これでカール・セーガンの主張はちょっとバロニッシュになっちゃいますね。賢いセーガンがどうしてこれに引っかかったのか、よく分からないです。

静かで、目に見えず、触れられないというのはソフトウェアにも当てはまるんじゃない?特定のハードウェアがソフトウェアを動かしているかを直接物理的に測定することはできないよね。間接的に推測するしかない。

ドラゴンはただのゲージだよ。ゲージ対称性。

駐車場のドラゴン?なんか聞いたことあるな。 [エデンのドラゴンでも、神経ガスを放つドラゴンでもないとして] これは因果関係についての寓話だと思う。世界の状態の一貫性についてね。現代の強化コンクリートで作られた駐車場が、改修中に構造的に不安定だとわかったとしたら、もしその原因がコンクリートに埋まった巨大な[ドラゴンや恐竜の]骨格だったら、確かに矛盾が生じるよね。工事を見ていた人たち(作業員や見物人)がいたら、証拠が残るはずだし。補強作業の記録や、骨格によって生じた構造的欠陥を補うために調達された材料、トラックのタイヤの摩耗、記憶などがね。もし突然その骨格が消えたら、世界の状態に論理的一貫性の問題が出てくるのかな?考えると面白いね!これはあくまで思考実験だから、どんな人たちがどんなに隔離されていても、A: そんな爬虫類を存在させることはできないし、B: その存在の証拠が広まった後に私たちの宇宙から取り除くこともできないと思う。

誰かが見えない、静かで、無形で、どんな手段でも検出できないドラゴンを持っていると主張するなら、そのドラゴンの存在と非存在には実質的な違いはない。ここで最も長いサブスレッドがその前提を批判しているのも驚きではない。

彼は懐疑的でしたが、主流の理論に対してはあまり懐疑的ではありませんでした。リストにもう一つ項目が必要だと思います:どんな理論や仮説でも、無仮説に対してどれだけ耐えられるか?例えば、弦理論には本当にどれだけの物理的証拠があるのか?これをアップグレードしたいです:物理的証拠の連鎖がある場合(それが議論の根拠)、その連鎖のすべてのリンクが機能しなければなりません(前提を含めて)— ただほとんどのリンクだけではダメです。そして、これらの項目が壊れることは、何かが間違っていることを意味するわけではありません。それは、議論や証拠が不完全であることを意味します。議論や証拠が無効だと思ったときに結論を急がないでください(それが、月面着陸が嘘だと思う人たちの考え方です)。

彼は懐疑的ではあったけど、主流の理論に対してはあまり懐疑的ではなかった。それは言い換えれば、主流の理論っていうのは広く信じられているものだからね。確かに、時には科学的なパラダイムが間違っていることもあるけど(クーンのことを考えてみて)、それは稀だよ。間違っている理論に対して「懐疑的」であることを求めるのは、全ての専門家が見抜けないミスを見抜ける超人的な天才であることを求めるのと同じだ。そんなの無理だよ。(ちなみに、単に帰無仮説を持ち出すだけじゃ全然足りないからね!)実際、彼の主張はそういうことなんだ。真実を見つけるためのレシピじゃない(彼にはそれがなかったし、君にもない)。科学的合意に裏付けられていない議論を見抜くためのレシピなんだ。それは同じことじゃないけど、「信頼する」みたいな他のことよりは近いよ。(明確に言っておくけど、帰無仮説を持ち出すよりは100%マシだ。)[1] まあ、私たちは持ってるけど、それは「科学的方法」と呼ばれていて、本当に、本当に難しいんだ。ネットの議論で使うものじゃないよ。

これをアップグレードしたいな。物理的証拠の連鎖があるなら(それが議論だった場合)、その連鎖のすべてのリンクが機能しないとダメなんだよね(前提も含めて)。相対性理論のせいで一部が機能しなくても、ニュートン力学はまだまだ使われてるし。

これをアップグレードしたいな。物理的証拠の連鎖があるなら(それが議論だった)、その連鎖のすべてのリンクが機能しなきゃダメだ(前提も含めて)—ほとんどではなくて。『悪魔に取り憑かれた世界』からの引用: 「1970年代中頃、私が尊敬する天文学者が『占星術に対する異議』という控えめなマニフェストを作成し、私に支持を求めてきた。彼の言葉に悩んで、結局署名できなかった。占星術に何の妥当性もないと思ったからではなく、声明のトーンが権威主義的だと感じたからだ(今もそう思っている)。声明は、占星術が迷信に覆われた起源を持っていると批判していた。しかし、これは宗教、化学、医学、天文学にも当てはまる、たった四つを挙げるだけでも。問題は、占星術がどんな不完全で初歩的な知識から生まれたかではなく、現在の妥当性だ。...声明は、占星術が機能するメカニズムを考えられないと強調していた。これは確かに関連するポイントだが、それだけでは説得力に欠ける。アフリカ大陸移動説が提唱されたとき(20世紀の最初の四半期にアルフレッド・ウェゲナーによって)、地質学や古生物学の一連の謎めいたデータを説明するためのメカニズムは知られていなかった。(鉱石を含む岩石や化石が東南アメリカから西アフリカまで連続しているように見えた。二つの大陸はかつて接触していて、大西洋は私たちの惑星にとって新しいものだったのか?)この考えは、すべての偉大な地球物理学者によって一蹴された。彼らは大陸が固定されていて、何かの上に浮いているのではなく、だから「漂流」することはできないと確信していた。しかし、20世紀の地球物理学の重要なアイデアはプレートテクトニクスであり、現在では大陸プレートが実際に浮いて「漂流」している(あるいは、地球の内部の大きな熱エンジンによって駆動されるコンベヤーベルトに運ばれている)ことが理解されている。そして、あの偉大な地球物理学者たちは単に間違っていた。利用できないメカニズムを理由にした疑問は誤解を招くことがある—ただし、主張が確立された物理法則に違反する場合、そのような疑問はもちろん大きな重みを持つ。」

こういうことが明らかでない人たちは、人生の早い段階で決して理解しないだろうね。特に、自分に直接悪影響を及ぼす特定の事例を除いて。ブランドを変えれば、また騙されるだろうし、さらに強化されるかも。

「こういうことが明らかでない人たちは、人生の早い段階で決して理解しないだろうね。」 どうしてそう思うの?

その通りだね。私は娘に「悪魔に取り憑かれた世界」を読み終えたばかりだ。彼女は13歳で、SNSに行くことをとても心配している。私は、見るものに対して懐疑的であることが今まで以上に重要だと伝えた。オンラインのすべては何らかの形で偽物だよ。どんな写真も、せいぜい修正されているか、最悪の場合はAIのゴミだ。すべてを疑う必要がある。正直、彼女の世代はもうダメだと思う。コロナの時にオンライン学習を強いられ、社会性の問題を抱え、情報の氾濫と、見分けるのが難しい中毒性のある生成コンテンツの時代に成長しているから。

それには全く同意できない。私は科学が大好きな両親のもとで育った。80年代の初期の記憶は、母が図書館から「コスモス」をVHSで借りて観ていたことだ。それが私が工学の博士号を持つ大きな理由だよ。同時に、彼らは60年代のヒッピーで、瞑想のウーウーにもハマっていた。「お腹から光のビームを出して、瞬時に木星に行ける!」とか、量子物理学で壁を通り抜けられるとかね。たくさんの疑似科学があった。だから、私は両方の世界で育ったけど、ウーウーには常に少し懐疑的でありながら、高校までそれに関わっていた。大学で「悪魔に取り憑かれた世界」を読んで、ウーウーは一晩で消え去った。これには博士課程、特に論文のレビューが関係していると思う。基本的にBSを見抜くことだから。でも、DHWは私にとって素晴らしい枠組みを提供してくれたし、私が読んだ中で最も影響力のある本の一つだ。

記事は、セーガンのアメリカの衰退に関する予測の記事にリンクしています。今の時代に妙に当てはまりますね。 >「私は、子供や孫の時代のアメリカに不安を感じています。アメリカがサービスと情報の経済になり、ほとんどすべての製造業が他の国に流出し、素晴らしい技術力がごく少数の手に握られ、公の利益を代表する者が問題を理解できない時、私たちが自分のアジェンダを設定したり、権威に対して知識を持って質問する能力を失い、クリスタルを握りしめて占星術を気にしながら、批判的な思考が衰え、何が心地よいかと何が真実かを区別できずに、ほとんど気づかないうちに迷信と暗闇に戻っていく…」

彼はただ歴史を読んで、繰り返されるパターンに気づいて、自分の目を信じただけのように思える。それが彼を特別な人にしてしまうのは残念だね。「人々」がそういうことをするのが普通なのに。

ブライアン・ウィリアムズが上記を読み上げている(2021年) https://youtu.be/utjK0EtkU8U?si=vWYdumffcgxKvkFV

記事は、サーガンのアメリカの衰退予測に関する記事にリンクしている。今の時代には奇妙にフィットするね。 >> 「子どもや孫の時代のアメリカの予感がある。アメリカがサービスと情報の経済になり、ほとんどすべての製造業が他国に移ってしまい、素晴らしい技術力がごく少数の手に握られ、公共の利益を代表する人は問題を理解できなくなり、人々が自分のアジェンダを設定したり、権威に対して知識を持って質問する能力を失い、クリスタルを握りしめて占星術を気にしながら、批判的な能力が衰え、何が心地よいかと真実を区別できずに、気づかないうちに迷信と暗闇に戻っていく…」実際、彼の予測はかなり的外れで、偶然正しい部分がいくつかあるだけだと思う。例えば、彼はその衰退の原因を迷信に帰しているけど、実際には株主理論や金融化に感染した資本主義が原因で、狭い自己利益を追求する非常に賢い合理的な人々が関わっている。あの文章の全体的な文脈は知らないけど、私の解釈はサーガンの偏見に合致していると思う。

なんてビジョンだ。

アシモフやファインマンも似たようなことを話していた(他にも多くの人が)。1980年、アシモフは『無知のカルト』を著し、反知性主義の台頭を批判した。「専門家を信じるな」という強い政治的圧力があった。彼は「アメリカには知る権利がある」という今日でも耳にする主張を批判し、リテラシーがなければ無意味だと述べた。彼はリテラシーが単にページ上の言葉を読むこと以上のものであり、それを解釈し処理する能力であることを明確にした。アシモフは気取っているわけではなく、彼の定義は私たちが読みのレベルを判断する方法と一致している[2]。彼の批判は、ほとんどの人が高校1年生のレベルに達していないということだ。実際、彼のフィクションにもそのことが描かれている!『ファウンデーション』にも登場し、文字通り『プロフェッション』の前提になっている[3]。ファインマンは少し散漫だが、彼のブラジルの教育システムについての議論(50年代)は多くを語っている[4]。彼は生徒たちが方程式を暗唱し、すべてのテストで満点を取り、少なくとも見た目上は完璧に学問的な成果を上げているが、実際には方程式の深い理解を持っていないことについて多く語っている。これはリテラシーについての議論だ。もし彼が今生きていたら、「メトリックハッキング」というフレーズを使うだろうと思う。ファインマンを知っている人は、彼の『カーゴカルトサイエンス』[5](カリフォルニア工科大学での卒業式のスピーチ(1974年))を思い出すかもしれない。ここから彼の有名な言葉「第一の原則は、自分を欺いてはいけない--そして、自分が最も欺きやすい人間だ。だから、その点に非常に注意しなければならない。」が出てくる。しかし、これには多くの重要な文脈があり、知っておく価値がある。[0] 注: 1980年は選挙年で、圧倒的な勝利を収めた年だった...[1] https://people.bath.ac.uk/mnsbr/papers/Asimov-Newsweek-Janua... [1] https://en.wikipedia.org/wiki/1980_United_States_presidentia... [2] https://nces.ed.gov/nationsreportcard/reading/achieve.aspx [3] 『プロフェッション』は最近このトピックに直接関連して議論されている。まだ読んでいないなら、彼の作品の中でお気に入りの一つだと言っておく。『ファウンデーション』ほどではないが、『ナイトフォール』と同じくらい良い。 https://en.wikipedia.org/wiki/Profession_(novella) [4] https://enlightenedidiot.net/random/feynman-on-brazilian-edu... [5] https://sites.cs.ucsb.edu/~ravenben/cargocult.html [編集] アシモフの『間違いの相対性』を追加したい。時々、インターネットで議論する前に必読だと思う。私は年に少なくとも一度は読み返している。 https://hermiene.net/essays-trans/relativity_of_wrong.html

  • 自分の仮説に過剰に執着しないようにしよう。それは知識を追求する途中の一時的なステーションに過ぎない。なぜそのアイデアが好きなのか自問自答してみて。公平に他の選択肢と比較してみて。 - それを拒否する理由を見つけられるか試してみて。見つけられなければ、他の人が見つけるよ。これは私の経験からの良いアドバイスだ。反対の視点にしっかりと親しんで(本当にしっかりと)、その主張を提唱者よりも上手に議論できるようにしよう。フィル・ハックの「負けてうまく議論する」も参考にしてね。[1] 古代の人々は修辞学を知性の最も純粋な表現と見なしていた。これは、トピックについて深い知識を持ち、賛成と反対の全ての議論を理解し(聴衆への深い共感を含む)、一貫性のある意味のある議論を形成する能力を必要とした。現代の政治的「討論」はそれに比べて馬鹿げているよ。[1] https://haacked.com/archive/2013/10/21/argue-well-by-losing....

単に仮説をテストするだけで、自分の推論や他の誰かの推論を超えることが結構あるって気づいたよ。時には自分が間違っていて、他の人も間違っていて、実証的なテストだけが正しいものと間違ったものを分けることができるんだ。ただ、もしかしたらこの方法は私にしか通用しないのかも。私が馬鹿だから、他の多くの人が私よりも論理的に考えられるから、私が何かを発見する唯一の方法は、合理的で理性的な人々が間違っていると確信していることをすることなんだ。

いつも思ってたのは、議会の討論は各側が相手の立場を説明するところから始まるべきだってこと。討論は、各側が相手の視点を理解したときに始まるべきだと思う。でも、これがどれだけナイーブで理想主義的に聞こえるかも認識してる。

ちょっと関連するけど、古代の人々は修辞学を知性の最も純粋な表現だと見なしてたんだ。トピックについて深い知識が必要で、賛成と反対のすべての議論を理解して(つまり、聴衆に対する深い共感が必要)、一貫性のある意味のある議論を形成する能力が求められる。現代の政治的「討論」はそれに比べると馬鹿げてるよ。「修辞学」という言葉は残念ながら過剰に使われていて、現代の政治的「討論」はしばしば(別の意味での)修辞学に過ぎない。

自分の仮説に過度に執着しないようにしよう。それはファインマンの「第一の原則は、自分を欺いてはいけない--そして、自分が最も欺きやすい人間だ。だから、その点に非常に注意しなければならない。」と非常に似ている。私のコメントをリンクしておくけど、元のソースに飛びたいなら[5]: カーゴカルトサイエンスを見てね。 [0] https://news.ycombinator.com/item?id=46997906

サガン自身の「バロニー」が彼のキットに対してどれだけ通用するのか気になるな。歴史家たちはアレクサンドリアの図書館やヒュパティア、エラトステネスについて彼が作り上げた話を嫌っている...今でも多くの人がそれを繰り返しているよ。

ヘイケガニの話が完全にデタラメだって知ったばかり。ちょっと悲しいな、あれは本当に素晴らしい話だったのに。

サガン自身の「バロニー」が彼のキットに対してどれだけ通用するのか気になるな。歴史家たちはアレクサンドリアの図書館やヒュパティア、エラトステネスについて彼が作り上げた話を嫌ってるし…今でもその話を繰り返す人が多いよ。まあ、彼は科学ファンの聖人だから、疑問を持っちゃダメだよ。代わりに、彼を称賛してフォローし、他の人にもそうするように勧めてね。

子供の頃は「コスモス」を見るのが大好きだったけど、大人になるにつれてサガンが嫌いになった。彼はすごく傲慢に見えるし、一緒にいるのは耐えられないだろうな。もちろん、実際に会ったことはないから分からないけど、ただの感覚だね。

サガンは60年代と70年代に惑星科学にしっかりとした貢献をしたよね。PBSの教育者やSF作家としての役割は別のものとして考えるべきだと思う。ジェームズ・バークと彼の「コネクションズ」シリーズも好きだったけど、後のシーズンに入ると「コネクション」が薄くなって、時にはかなり無理があった。クラシックなPBSの科学番組を全部見て問題を見つけることができるよ。スティーブン・ホーキングの「宇宙」は、数学に関わろうとしなかったから、ほとんど見られなかった。

彼はその話を作り上げたのか、それとも(今では考えられている)貧弱な情報源から得たのか?

「私が書いている時、アメリカでのビデオカセットレンタルのナンバーワンは映画『ダムとダム』だ。『ビーバスとバットヘッド』は若いテレビ視聴者に人気(かつ影響力)を持ち続けている。明白な教訓は、勉強や学び—科学だけでなく、何でも—は避けられるものであり、さらには望ましくないこともある。」マイク・ジャッジの風刺はサガンには通じなかった。カールはその反応をそのまま受け入れた。

すべての視点を考慮するという考え方は、人々が誠実に議論しているという前提に依存していると思う。これが崩れると、手を挙げて諦めるわけにはいかないけど、バロニーディテクションキットをアップデートする必要があるよね。ブログに載せるほどの答えのリストは持ってないけど、少なくとも考えることはある。一つできることは、メタ分析みたいなもので、自分のバロニーディテクションキットの状態をチェックすること。例えば、あるアイデアを拒否して、後でそれが真実だとわかったら、私のBDKは失敗したのかな?アップデートが必要?それとも、いくつかの失敗は許容できるのかな?BDKを他のテスト可能な仮説と同じように扱えるよ。

これが適用されたら、現代の学問のかなりの部分が消えてしまうだろうね。

これが適用されたら、現代の学問のかなりの部分が消えてしまうだろうね。この観察を一段階上に持っていくと、「現代の学問」ってのはただのビジネスに過ぎないから。言い換えれば、これが適用されたら、かなりのビジネスが消えてしまう。

宗教のほとんども消えちゃうだろうね。

サガンのキットは、10年以上前に見つけた似たようなリソースの一つなんだ…その時、メディアの認識論、特にオンラインの議論について考え始めた頃だった。状況は改善されてないね。私のカタログはここにあるよ:https://web.archive.org/web/20200121211018/https://old.reddi...> (アーカイブ)。サガンの他にも、ロリー・コーカーの疑似科学についての要約や、非合理的なナンセンスのベン図、反証可能性の概念、痛々しいほど有益なBBCの愚かさに関するドキュメンタリー、フランクフルトの「バロニーについて」、若者文化がすべてをダメにした理由についてのファーガソン、ブランドリーノの法則、シルバーのバカの不等式、キューブラー・ロスモデルとダニング=クルーガー効果の関係、非合理的なナンセンスの周期表、アダムスの「B」-アークが含まれてる。

これらの点は読む際に覚えておくのは良いけど、あまり包括的でも導出可能でもないと思う。私はエリ・ゴールドラットの制約理論の「思考ツール」、特に「正当な留保のカテゴリー」が好きだ。情報源によっては、6つから8つのカテゴリーがある。1. 明確か? 2. 実際に存在するか? それは真実か? 3. 原因は本当に結果を引き起こすか? 4. 提案された原因に対して、そのほかの暗示された結果は存在するか? 5. 原因は結果に対して十分か? 6. 原因と結果は逆になっているか?