ハクソク

世界を動かす技術を、日本語で。

魔法のシステム思考

254日前原文(worksinprogress.co)

概要

  • 現代の複雑なシステムは、単純な動作システムから進化した歴史を持つ。
  • システム思考は万能ではなく、実際には多くの大規模プロジェクトが失敗している。
  • 小さな成功例や段階的な進化が、システム構築の本質的な道筋。
  • Le Chatelierの原理やSystemanticsなど、システムの「抵抗」や「逆効果」を示す理論の重要性。
  • システム改革には慎重なアプローチと、過去の教訓の理解が不可欠。

複雑なシステムの進化と失敗

  • 現代社会の基盤 となる水道、インターネット、国際サプライチェーンなどは、もともと 単純な実用システム から始まった。

  • 例えば、1881年のイギリスGodalmingの 最初の電力網 は、水車と電灯数個の組み合わせに過ぎなかった。

  • これらのシステムは、数十年にわたる 専門家による試行錯誤と改良 を経て発展。

  • 世間では「複雑なシステムは 綿密な分析と計画 で生まれる」という神話が流布。

  • 実際には 政府主導の大規模プロジェクト が技術的・運用的失敗に終わる事例が多い。

    • 米国HealthCare.govの失敗：36州の保険市場と8つの連邦機関データ統合に失敗し、数百万人が利用不能。
    • オーストラリア障害者改革：10年以上の計画にも関わらず、コストが急増し年金予算を超過見込み。
    • 英国のContracts for Difference：電力網に過大な負荷をかけ、新規接続の待機期間が15年に。

  • システム思考 は流行しているが、現実のシステムは 予想外の反発 を見せる。

システムモデルと現実の乖離

  • 1970年、Club of RomeがMITの Jay Wright Forrester に世界経済の未来予測モデルを依頼。

  • Forresterの「World Dynamics」は、資源・資本・人口・食糧・汚染の相互関係を数式で記述。

  • モデルの結論：2025年までに生活水準の不可逆的低下、2070年には経済成長の後悔が訪れると予測。

  • しかし現実には、1970年以降 世界GDPは約5倍、森林面積や大気汚染死亡率も改善。

  • Forresterの専門性に問題はなく、彼の システムダイナミクス は工場の生産管理などで実績あり。

    • General Electric冷蔵庫工場の需給サイクル問題を、 情報伝達の改善と生産平準化 で解決。
    • MIT Sloan Schoolで有名な「Beer Game」も、供給連鎖の不安定性（ブルウィップ効果）を体験できる教材。

  • システム分析 は、静的・単純・管理下のシステムに有効だが、社会や経済のような複雑系では 過信が危険。

Le Chatelierの原理とSystemantics

  • 1884年、パリのÉcole des Minesで Henri Louis Le Chatelier が化学反応の「変化への抵抗」を発見。

  • 反応系は、外部変化に「逆らう」ように均衡を回復しようとする（Le Chatelierの原理）。

  • この原理は化学だけでなく、 複雑な社会システム にも応用可能。

  • 小児科医 John Gall は、「Systemantics（The Systems Bible）」でシステムの逆効果や予期せぬ成長を痛烈に指摘。

    • 「新しいシステムは新しい問題を生む」
    • 「システムは成長し、制御を超える」
    • 「システムは名目通りに機能しない」
    • 「システムは常に反発する（THE SYSTEM ALWAYS KICKS BACK）」

  • 政府改革者や技術者は、 Le Chatelierの原理 とSystemanticsの教訓を忘れてはならない。

システム改革への示唆

  • 複雑なシステムは 慎重な扱い が必要であり、壊れた場合は 元に戻せないことが多い。
  • 成功例は、 小規模な実験的システム からの段階的発展に多い。
  • 現代のシステムが制御不能に近づく中、 シンプルな動作システム への回帰が最善の道筋。
  • システム思考の限界と、 システムの自律的な反発性 を常に意識する姿勢が重要。

Hackerたちの意見

この記事はシステム思考について全然触れてないね。サイバネティクスやメタサイバネティクスがまったくないし、ポール・シリアーズの複雑性理論も言及されてない。スタッフォード・ビアの実行可能システムモデルについても何もなし。要するに、著者が文句を言ってることは「システム思考の一部を知らないだけ」って感じだね。この分野はまだ発展途上なんだ。

└

こんなに洗練された包括的な記事を書いておいて、中心的なテーマの定義を完全に誤解してるのが不思議だよ。

└

サイバネティクスという言葉に興味を持つ人がいるかもしれないからね。https://en.wikipedia.org/wiki/American_Society_for_Cyberneti... https://en.wikipedia.org/wiki/Complexity_theory

└

「メタサイバネティクス」って、グーグルでヒットするのがほんの数件で、いくつかは obscure な研究論文、他はブログのメタフィジカルなトンデモ話みたいだね。君が知ってる理論がすごくニッチで、システムダイナミクスの主流な議論には全然根付いてないってことを考える価値があると思う。一般向けの投稿でそれらを知らない人がいても全然おかしくないし、言及しない選択をするのも間違いじゃないよ。さらに、君はこれらの概念を広いHNのオーディエンスに説明するチャンスを逃したわけで、次に誰かがこのことについて書くときに、彼らがこの研究を知っているかどうかを確認する機会も失ったんだ。

└

それに関連して、最近読んだ本で「アカウンタビリティマシン」ってのがあるよ: https://press.uchicago.edu/ucp/books/book/chicago/U/bo252799... 説明がちょっと難しいところもあったけど、著者はサイバネティクスの歴史や目標と、企業からのサポートが得られない現代の問題をつなげようとしてるんだ。

これは実際には巨大な官僚システムへの批判であって、システム思考の実践についてのものじゃないよ。ガルの研究はシステム思考への反論として紹介されてるけど、実際にはその分野への貢献なんだ。システム思考に関する人気の本は、限界や落とし穴、理論を実践に移すための戦略をちゃんと認めてる。大きな官僚機構がしばしば失敗するのは、私の見解では無関係な話だね。

なんて面白くて変な記事なんだろう。著者は「システム思考」の定義をほとんど提示せず、一人の人物を挙げて代表させて、その後、誤った予測一つと政府がソフトウェアプロジェクトに失敗する事実を根拠にこの学問全体を否定しようとしてる。この記事が提案するポジティブなアイデアは、規制を無視して自分のものをゼロから作ることだけのようで、これは…確かに「Works In Progress」レーベルに一致してるね。私が学んだ「システム思考」には、この記事が否定する視点も明示的に含まれてるよ。システムモデルは役に立つけど、あくまでモデルであって、新しいシステムを設計するよりも既存のシステムを理解するために使う方がいいし、システムは介入に抵抗するって前提がある。私はこのシステム思考の定義が、複雑なシステムを簡略的に見るために非常に役立つと思ってる。例えば、品質に投資し続けているのに、結局はダウンタイムが増えてるかもしれない、何かが間違った目標に最適化されてるのかも、って感じで、全体を壊さずに行動を変えるために介入することができる。この記事はそれを不可能だと切り捨ててるけどね。著者と私はガルの法則については同意すると思う。でも、著者の「動作するシンプルなシステムから始める」という結論は、この記事やガルが警告している同じ傲慢さに陥ってるよ。「シンプル」なシステムが機能するか、シンプルであるかどうかをどうやって知るの？賢いだけじゃそれはわからないよ。実際にシステムが機能しているのを見なきゃいけないし、想像したシンプルさが実際の動作に合っているかどうかも確認しなきゃ。ガルの法則は「シンプルに始めればうまくいく」と言ってるわけじゃなくて、「うまくいかないなら、複雑さを加えても解決しない」って言ってるんだ。この文章は、著者が過去に「システム思考」を理由に抵抗を受けた人たちからの反発に遭遇したことがあるように感じる。だから著者はその言葉を discredit したいんじゃないかな。多分、その言葉は人によって意味が違ったり、悪意を持って使われてることもあるけど、この記事が攻撃してるのは私が知っているシステム思考じゃなくて、むしろハイモダニズムのようなものだね。著者とシステム思考は、実際に会ったらうまくやれそうだ。

└

うん、彼らが短いエッセイの中でやろうとしていることは、ある分野全体を discredit しようとしているのと同じだよ。たとえその分野が価値がないと思っても、それを達成するには多くの研究と重要な議論が必要だってことは明らかだし、このエッセイはその両方が欠けてるね。

└

彼がその全体の学問を否定しているとは思わなかったな。むしろ、フォレスターやその学問全体を尊敬している感じがした。議論の要点は、素晴らしいシステム思考を持っていても、複雑なシステムをゼロから作るのは無理だし、既存の複雑なシステムは修正が難しいってことみたい。

└

ローマクラブとシステム思考の関係は、ダイクストラの基本とプログラミングに関する観察に似てるところがある。彼らを否定する記事は、いつもその学問に対する根本的な誤解でいっぱいだよね。（彼らを支持する意見は明らかに間違ってる。）学問を理解しようとする人たちは、実際には彼らに言及することはほとんどない。

└

記事は、システム思考が特定の低いスケールでしか適用されないと思っているみたいだね。ブルウィップ効果を持ち出して、特定の種類のシステムについて話すこと自体がシステム思考なんだよ。それはサブコンポーネントレベルでは見えないけどね。システム思考は相互作用と文脈についてのものだから。

└

システムは介入に抵抗するだろうと仮定する システムはそんなことしないよ。特定の結果を恐れる構成要素だけがそうするんだ。システムは複雑さのレベルなんて気にしないしね。特に、「何が起こってるんだ、調べてみよう」みたいな感じでつながってるシステムを実際に壊すのはめちゃくちゃ難しいから。数時間、数日、数週間後にはまた動き出すし、何十億も失われる。ああ、願わくば… 結局のところ、「システム思考」という言葉は、いわゆる経済学者や「金融業界」が発明した部分で過剰に使われてるから、2025年になっても、石油が豊富な国々が何十年も発展してるのを見て、広告業界がコンテンツクリエイターを工場式に育てて、経済学者や億万長者がティックトックやインスタグラムを使ってティーンの頭に入り込もうとしてるのを見ると、つい笑っちゃうよ。もし君がソフトウェアエンジニアやシステムアーキテクト、あるいはその周辺の仕事をしているなら、お願いだから… 君が作っている人たちのことを気にかけて行動してほしい。もしできるなら、少し休んで、ちゃんとケアすべきことをケアしてね… 結局、ただのシステムなんだから。

└

「機能するシンプルなシステムから始める」というアイデアをファクトリオやシェイプズ（そして今はシェイプズ2）に適用するのは、抽象的な幾何学的形状や色のファクトリオみたいな感じだね。ファクトリオの面白さや魅力を持った要素が全部揃ってて、VLSIデザインからネットワーキング、クラウドコンピューティングまで、いろんな分野に応用できるんだ。形や色を採掘して、どんどん複雑なパターンに組み合わせていくんだよ！ https://en.wikipedia.org/wiki/Shapez_2

└

著者は「システム思考」の定義をほとんど提供せず、一人の人物を代表として挙げて、間違った予測と政府がソフトウェアプロジェクトに不向きであるという事実に基づいて、この分野全体を否定しようとしている。すべて有効な批判だけど、なんだか無能な官僚が言いそうなことに聞こえる。

└

anecdotalかもしれないけど、ソリューションデザインでは、一般性のために汎用的になろうとするデザインや、単純な繰り返し作業を無理に複雑にするデザインにしばしば出くわすんだよね。多くの場合、僕たちは何か高度なことをしている気分になるために、わざと複雑さを持ち込むことがあると思う。僕は、システムは一つのことだけを正しくやるべきだと考えてデザインするのが好きなんだけど、君の言う通り、その「一つのこと」を決めるには恣意性やアート、判断が必要なんだよね。

この洞察 - 人間のシステムをモデル化するのが難しいのは、人間が自分たちの世界のモデルに反応してそれを変えるからだ - は新しいことじゃないよ。これは「反射性」と呼ばれていて、システム思考と同じくらいの時期から存在してるんだ。[1] https://en.wikipedia.org/wiki/Reflexivity_(social_theory)

└

それに加えて、第二次（第三次）効果の大きな要因でもあるね。人間やグループ、社会はすべて変化に反応するから、その変化が何か予測できないと運が悪いことになる。（全部を正しく予測することはできないし、全体をリストアップすることすらできないけど、いくつかの大きさの予測はできるようにしないとね。）

かわいいミニマリストのグラフィックに変えるFactorioのMODってあるのかな？一番上の画像にあるやつね。

└

同じ美学ではないけど、Factorioのブログには初期のコンセプトアートがミニマルなラインアートスタイルで載ってるよ（[0]みたいな）。実際、これが結構好きなんだ！

基本的なものをデザインする時、ソフトウェアエンジニアリングでも来週のスケジュールでも、分析麻痺に悩まされてたな。「誰でもパンチを食らうまでは計画がある」って言い換えられるかも。完全な解決策がわからなくても、まず一歩を踏み出してそこから進む方がずっと良いって気づいた。自分のコンテキストウィンドウの限界を示してるのかもね。とはいえ、アーキテクチャやエンジニアリングの原則を放棄することを勧めてるわけじゃないよ。「ソフトウェアを育てる」ってアイデアは好きだな。もっとホリスティックなメタファーかもしれない。大きな官僚主義を短絡する点では、「ファイターマフィア」が面白い例だと思う。軍関係者や契約者のグループが、公式なチャンネルを超えて航空機のデザインに影響を与えたんだ。結果は、通常のチャンネルを通った場合よりも良かったよ。

ビールゲームの引用は面白いね。15年くらい前、ジョン・スターマン（フォレスターの弟子）がシステムダイナミクスの会議でビールゲームの「世界選手権」を開催したんだけど、母と一緒に最適な戦略を持って行って、完全に競争を支配したんだ。皮肉なことに、正しい方法で「システム思考」を適用すれば、ビールゲームは非常に近い最適にプレイするのが比較的簡単なことだよ。最終的な結果に影響を与える選択ができるのは一人だけだってことを認識すれば、ほとんどの主張されるダイナミクスを排除できる。システム思考の問題は、主に人々が愚かでパニックに陥った猿のようになったり、パイロットやモデルがシステムを理解していないときに現れる。数学は、数学を自分のために働かせればうまくいくよ。

└

これ面白そうだね。戦略についてもっと詳しい記事とかある？

著者がシステムアンサティクスについて言及してくれて嬉しいな。彼らの考え方はその本にかなり影響されてる感じがする。ここに主要なアイデアをまとめたよ: https://biodigitaljazz.net/systemantics.html

この段落にはちょっと言いたいことがある: > でも、今わかっているように、結果も間違っていた。インフレ調整をすると、世界のGDPは1970年の約5倍になっていて、今も上昇を続けている。その成長の90％以上はアジア、ヨーロッパ、北アメリカから来ているが、これらの地域の森林被覆は増加していて、1990年から2020年にかけて2.6％増えて2.3億ヘクタールを超えた。大気汚染による死亡率も同じ期間にほぼ半減して、1990年の10万人あたり185人から2021年には100人になった。このモデルによれば、これらはすべて不可能だったはずだ。確かに、森林被覆が増えて大気汚染による死亡率が減るのは1970年の予測と矛盾しているけど、これらの傾向は裕福な国が環境汚染や破壊をグローバルサウスに外注し、原材料を調達している結果だと思う。森林被覆の統計は、単一作物のプランテーション（パーム油など）に置き換えられた大規模な森林伐採の土地をカウントしているのかな？それが生物多様性に大きな影響を与えることになるのは間違いないし、後で痛い目に遭うだろうね。たとえこの外部性の外注が50年前にはモデル化できなかったとしても、ローマクラブや成長の限界からの教訓の精神を損なうものではないと思う。

これは、興味本位で調査不足、偏見のあるアジェンダ、狭い理解で大胆な発言をしているジャーナリストのカテゴリーに入れるべきだね。今の世界の状況では、もっと質の高いシステム思考や研究が必要だよ。減らすべきじゃない。この記事は役に立たないし、間違った考えを広めてる。要約と反論はOpus 4.1によるものだよ: https://claude.ai/share/1e8fec5e-ec6a-4c6f-a3d7-b74b0801e5b9