ハクソク

世界を動かす技術を、日本語で。

魔法のシステム思考

2025年9月14日原文(worksinprogress.co)

概要

  • 現代の複雑なシステムは、単純な動作システムから進化した歴史を持つ。
  • システム思考は万能ではなく、実際には多くの大規模プロジェクトが失敗している。
  • 小さな成功例や段階的な進化が、システム構築の本質的な道筋。
  • Le Chatelierの原理やSystemanticsなど、システムの「抵抗」や「逆効果」を示す理論の重要性。
  • システム改革には慎重なアプローチと、過去の教訓の理解が不可欠。

複雑なシステムの進化と失敗

  • 現代社会の基盤 となる水道、インターネット、国際サプライチェーンなどは、もともと 単純な実用システム から始まった。

  • 例えば、1881年のイギリスGodalmingの 最初の電力網 は、水車と電灯数個の組み合わせに過ぎなかった。

  • これらのシステムは、数十年にわたる 専門家による試行錯誤と改良 を経て発展。

  • 世間では「複雑なシステムは 綿密な分析と計画 で生まれる」という神話が流布。

  • 実際には 政府主導の大規模プロジェクト が技術的・運用的失敗に終わる事例が多い。

    • 米国HealthCare.govの失敗：36州の保険市場と8つの連邦機関データ統合に失敗し、数百万人が利用不能。
    • オーストラリア障害者改革：10年以上の計画にも関わらず、コストが急増し年金予算を超過見込み。
    • 英国のContracts for Difference：電力網に過大な負荷をかけ、新規接続の待機期間が15年に。

  • システム思考 は流行しているが、現実のシステムは 予想外の反発 を見せる。

システムモデルと現実の乖離

  • 1970年、Club of RomeがMITの Jay Wright Forrester に世界経済の未来予測モデルを依頼。

  • Forresterの「World Dynamics」は、資源・資本・人口・食糧・汚染の相互関係を数式で記述。

  • モデルの結論：2025年までに生活水準の不可逆的低下、2070年には経済成長の後悔が訪れると予測。

  • しかし現実には、1970年以降 世界GDPは約5倍、森林面積や大気汚染死亡率も改善。

  • Forresterの専門性に問題はなく、彼の システムダイナミクス は工場の生産管理などで実績あり。

    • General Electric冷蔵庫工場の需給サイクル問題を、 情報伝達の改善と生産平準化 で解決。
    • MIT Sloan Schoolで有名な「Beer Game」も、供給連鎖の不安定性（ブルウィップ効果）を体験できる教材。

  • システム分析 は、静的・単純・管理下のシステムに有効だが、社会や経済のような複雑系では 過信が危険。

Le Chatelierの原理とSystemantics

  • 1884年、パリのÉcole des Minesで Henri Louis Le Chatelier が化学反応の「変化への抵抗」を発見。

  • 反応系は、外部変化に「逆らう」ように均衡を回復しようとする（Le Chatelierの原理）。

  • この原理は化学だけでなく、 複雑な社会システム にも応用可能。

  • 小児科医 John Gall は、「Systemantics（The Systems Bible）」でシステムの逆効果や予期せぬ成長を痛烈に指摘。

    • 「新しいシステムは新しい問題を生む」
    • 「システムは成長し、制御を超える」
    • 「システムは名目通りに機能しない」
    • 「システムは常に反発する（THE SYSTEM ALWAYS KICKS BACK）」

  • 政府改革者や技術者は、 Le Chatelierの原理 とSystemanticsの教訓を忘れてはならない。

システム改革への示唆

  • 複雑なシステムは 慎重な扱い が必要であり、壊れた場合は 元に戻せないことが多い。
  • 成功例は、 小規模な実験的システム からの段階的発展に多い。
  • 現代のシステムが制御不能に近づく中、 シンプルな動作システム への回帰が最善の道筋。
  • システム思考の限界と、 システムの自律的な反発性 を常に意識する姿勢が重要。

Hackerたちの意見

この記事はシステム思考について全然触れてないね。サイバネティクスやメタサイバネティクスがまったくないし、ポール・シリアーズの複雑性理論も言及されてない。スタッフォード・ビアの実行可能システムモデルについても何もなし。要するに、著者が文句を言ってることは「システム思考の一部を知らないだけ」って感じだね。この分野はまだ発展途上なんだ。

└

こんなに洗練された包括的な記事を書いておいて、中心的なテーマの定義を完全に誤解してるのが不思議だよ。

└

サイバネティクスという言葉に興味を持つ人がいるかもしれないからね。https://en.wikipedia.org/wiki/American_Society_for_Cyberneti... https://en.wikipedia.org/wiki/Complexity_theory

└

「メタサイバネティクス」って、グーグルでヒットするのがほんの数件で、いくつかは obscure な研究論文、他はブログのメタフィジカルなトンデモ話みたいだね。君が知ってる理論がすごくニッチで、システムダイナミクスの主流な議論には全然根付いてないってことを考える価値があると思う。一般向けの投稿でそれらを知らない人がいても全然おかしくないし、言及しない選択をするのも間違いじゃないよ。さらに、君はこれらの概念を広いHNのオーディエンスに説明するチャンスを逃したわけで、次に誰かがこのことについて書くときに、彼らがこの研究を知っているかどうかを確認する機会も失ったんだ。

└

それに関連して、最近読んだ本で「アカウンタビリティマシン」ってのがあるよ: https://press.uchicago.edu/ucp/books/book/chicago/U/bo252799... 説明がちょっと難しいところもあったけど、著者はサイバネティクスの歴史や目標と、企業からのサポートが得られない現代の問題をつなげようとしてるんだ。

これは実際には巨大な官僚システムへの批判であって、システム思考の実践についてのものじゃないよ。ガルの研究はシステム思考への反論として紹介されてるけど、実際にはその分野への貢献なんだ。システム思考に関する人気の本は、限界や落とし穴、理論を実践に移すための戦略をちゃんと認めてる。大きな官僚機構がしばしば失敗するのは、私の見解では無関係な話だね。

なんて面白くて変な記事なんだろう。著者は「システム思考」の定義をほとんど提示せず、一人の人物を挙げて代表させて、その後、誤った予測一つと政府がソフトウェアプロジェクトに失敗する事実を根拠にこの学問全体を否定しようとしてる。この記事が提案するポジティブなアイデアは、規制を無視して自分のものをゼロから作ることだけのようで、これは…確かに「Works In Progress」レーベルに一致してるね。私が学んだ「システム思考」には、この記事が否定する視点も明示的に含まれてるよ。システムモデルは役に立つけど、あくまでモデルであって、新しいシステムを設計するよりも既存のシステムを理解するために使う方がいいし、システムは介入に抵抗するって前提がある。私はこのシステム思考の定義が、複雑なシステムを簡略的に見るために非常に役立つと思ってる。例えば、品質に投資し続けているのに、結局はダウンタイムが増えてるかもしれない、何かが間違った目標に最適化されてるのかも、って感じで、全体を壊さずに行動を変えるために介入することができる。この記事はそれを不可能だと切り捨ててるけどね。著者と私はガルの法則については同意すると思う。でも、著者の「動作するシンプルなシステムから始める」という結論は、この記事やガルが警告している同じ傲慢さに陥ってるよ。「シンプル」なシステムが機能するか、シンプルであるかどうかをどうやって知るの？賢いだけじゃそれはわからないよ。実際にシステムが機能しているのを見なきゃいけないし、想像したシンプルさが実際の動作に合っているかどうかも確認しなきゃ。ガルの法則は「シンプルに始めればうまくいく」と言ってるわけじゃなくて、「うまくいかないなら、複雑さを加えても解決しない」って言ってるんだ。この文章は、著者が過去に「システム思考」を理由に抵抗を受けた人たちからの反発に遭遇したことがあるように感じる。だから著者はその言葉を discredit したいんじゃないかな。多分、その言葉は人によって意味が違ったり、悪意を持って使われてることもあるけど、この記事が攻撃してるのは私が知っているシステム思考じゃなくて、むしろハイモダニズムのようなものだね。著者とシステム思考は、実際に会ったらうまくやれそうだ。

└

うん、彼らが短いエッセイの中でやろうとしていることは、ある分野全体を discredit しようとしているのと同じだよ。たとえその分野が価値がないと思っても、それを達成するには多くの研究と重要な議論が必要だってことは明らかだし、このエッセイはその両方が欠けてるね。

└

彼がその全体の学問を否定しているとは思わなかったな。むしろ、フォレスターやその学問全体を尊敬している感じがした。議論の要点は、素晴らしいシステム思考を持っていても、複雑なシステムをゼロから作るのは無理だし、既存の複雑なシステムは修正が難しいってことみたい。

└

ローマクラブとシステム思考の関係は、ダイクストラの基本とプログラミングに関する観察に似てるところがある。彼らを否定する記事は、いつもその学問に対する根本的な誤解でいっぱいだよね。（彼らを支持する意見は明らかに間違ってる。）学問を理解しようとする人たちは、実際には彼らに言及することはほとんどない。

└

記事は、システム思考が特定の低いスケールでしか適用されないと思っているみたいだね。ブルウィップ効果を持ち出して、特定の種類のシステムについて話すこと自体がシステム思考なんだよ。それはサブコンポーネントレベルでは見えないけどね。システム思考は相互作用と文脈についてのものだから。

└

システムは介入に抵抗するだろうと仮定する システムはそんなことしないよ。特定の結果を恐れる構成要素だけがそうするんだ。システムは複雑さのレベルなんて気にしないしね。特に、「何が起こってるんだ、調べてみよう」みたいな感じでつながってるシステムを実際に壊すのはめちゃくちゃ難しいから。数時間、数日、数週間後にはまた動き出すし、何十億も失われる。ああ、願わくば… 結局のところ、「システム思考」という言葉は、いわゆる経済学者や「金融業界」が発明した部分で過剰に使われてるから、2025年になっても、石油が豊富な国々が何十年も発展してるのを見て、広告業界がコンテンツクリエイターを工場式に育てて、経済学者や億万長者がティックトックやインスタグラムを使ってティーンの頭に入り込もうとしてるのを見ると、つい笑っちゃうよ。もし君がソフトウェアエンジニアやシステムアーキテクト、あるいはその周辺の仕事をしているなら、お願いだから… 君が作っている人たちのことを気にかけて行動してほしい。もしできるなら、少し休んで、ちゃんとケアすべきことをケアしてね… 結局、ただのシステムなんだから。

Hacker Newsで議論の続きを見る