世界を動かす技術を、日本語で。

そして、銃を持った男たちがそれでもやれと言う

2026年8月19日原文(shkspr.mobi)

概要

  • 2011年エジプト革命時、Vodafoneを通じて政府のプロパガンダSMSが強制送信された事例
  • 通信事業者が政府命令に従う法的・実務的なジレンマ
  • 技術インフラの設計と「Civic Hygiene(市民衛生)」の重要性
  • 緊急警報システムの設計における難題と倫理的課題
  • 誰もが悪用できない理想的な警報システム設計の困難さ

エジプト革命とVodafoneのSMS強制送信

  • 2011年2月、エジプトで政治革命発生
  • Vodafoneなど通信事業者を通じて、政府主導のプロパガンダSMSが一斉送信
  • 内容は「裏切り者を排除せよ」など、暴力を示唆するもの
  • インターネット遮断後、国民への一方的な情報操作
  • Vodafoneは「法的・実務的に当局の命令に従うしかなかった」と声明発表

企業の倫理と法令遵守のジレンマ

  • 多国籍企業は本社の倫理観と現地政府の命令の間で板挟み
  • 現地責任者は命令拒否すれば命の危険も
  • 技術者として「悪用できないインフラ設計」は現実的か
  • 武力や権力の前ではシステムの安全性も無力化される現実

Civic Hygiene(市民衛生)と技術設計の責任

  • Bruice Schneierが提唱した「Civic Hygiene」の概念
  • 将来警察国家を助長しうる技術設計は「悪い市民衛生」
  • セキュリティ製品のバックドアは悪用リスク
  • 一方で、亡くなった家族のデータアクセスや緊急時の警報など、利便性も必要
  • 技術の「善用」と「悪用」の線引きの困難さ

緊急警報システム設計の現実と課題

  • Common Alerting Protocolなど、政府主導の緊急警報システムの普及
  • 英国でも「誤送信リスク」と「迅速な警報」のトレードオフ
  • 法律上、通信事業者は「スパム規制」を無視して一斉通知が可能
  • しかし、実際に命令拒否できる法的根拠は曖昧
  • 政治が悪用すればプロパガンダも可能、逆に企業側の利益優先で警報拒否も懸念

理想的な警報システム設計への問い

  • 以下の全てを同時に満たすシステム設計の難しさ
    • 迅速な通知
    • 内容の厳格な確認
    • 地理的なターゲティング
    • 誤送信の防止
    • メッセージの真正性証明
    • インフラ破壊後も機能する堅牢性
    • 事業者が内容を精査・拒否できる余地
    • 事業者が強制送信される仕組み
    • 「善用」だけを保証し、「悪用」を絶対に防ぐ設計
  • 現実的には「悪用不可能」な設計はほぼ不可能
  • 情報伝達の多様化により、政府主導の一斉警報の必要性は高まる一方、濫用リスクも増大

結論と読者への問い

  • 現状、緊急警報の正当性は状況次第で判断される
  • しかし、過去のエジプトのようなプロパガンダ利用の危険性も常に存在
  • 「絶対に悪用できない」システム設計案は現実的に存在するか、読者への問いかけ

Hackerたちの意見

いい記事だけど、すごく大事な言葉が抜けてるね。それは「信頼」。市民社会は、ほとんどの人が正しいことをしようとしているという共通の信頼があるときだけ存在するんだ。そういう社会は、信頼できない人を排除することがすごく重要だと思ってる。「腐ったリンゴが全体を台無しにする」って言うしね。信頼を得るのは難しいけど、失うのは簡単。誰かが信頼できる人を悪用するだけで、良いものが台無しになっちゃう。だから、この記事の基準を満たすシステムを作ることはできないよ。ほとんどの基準は、市民社会の暗黙のルールである信頼に依存しているから。良いもののために作られたものも、悪用される可能性があるんだ。

そうだね、いい指摘だし、理論的にはそうあるべきなんだよね。実際には、操作やガスライティング、詐欺、いじめに関して、社会レベルでどう展開されているかが興味深い。言いたいのは、個人の人間関係では、被害者が何が起こっているのかを完全に理解するまでに時間がかかることがあるってこと。加害者は有害なことをするだけじゃなくて、ガスライティングや操作、嘘をつくからね。初めての被害者は、自分に何が起こっているのかを理解するのに時間がかかることが多いし、今は社会レベルでも同じパターンを理解するのに時間がかかっている。最も残念なのは、多くの人や機関が「それに加担している」ことだよね。ひどい行動を支え続けているのは、自分たちにも都合がいいからだし、いじめの場合は、ターゲットにならないためにいじめに加担することもある。

でも、私たちは悪いリンゴに頼って機能する持続可能なシステムをたくさん作ってきたよね。「保険の価格設定」や「民間刑務所」、それに「司法の執行」なんかがそう。現実の世界では、理想的な刑務所やホームレスの数はゼロでも「全員」でもないんだ。

美しい表現だね。私たちが住んでいる社会には、たくさんの暗黙の信頼があると思うし、少し付け加えたいことがある。信頼は、インセンティブが信頼と一致しているときに機能する。つまり、あなたが社会を信頼し、社会もあなたを信頼して、そういう原則で仕事をして報われる。こうした信念も、社会が公正であると信じる必要がある。この信頼があなたの信念を生み出し、基準となるインセンティブを設定する。もしあなたの社会が信頼できて、あなたも信頼できるように教えられ、信頼できることで報酬が公平に分配されているのを見れば、自分自身も信頼できるようになり、社会はあなたのような人々によって作られるから、みんなもそうするようになって、社会が信頼できるものになって、そのサイクルが続くんだ。あなたは社会を信頼するだろう、なぜなら自分の目標が一致していると思うから。あなたも社会も同じことを望んでいる。でも、平均的な個人が社会やシステムが信頼できないと感じた瞬間、インセンティブが一致していないと気づくと、もう信頼できない。今の問題は、インセンティブが信頼性の現実と大きくずれていて、それが明らかになってきていること。インセンティブも時には予測不可能で疑わしいものになっているのに、社会はそれを容認し、時には称賛しているように見える。これが、私の個人的なインセンティブが社会と一致しているのか、信頼して公正に物事を進めていることで損をしているのかを疑問に思わせる。これがまた悪循環を生むんだ。だから、公正さ、信頼、インセンティブはお互いに循環的に依存している。公平だと感じるときだけ信頼するし、インセンティブも公正であることを望む。残念ながら、私たちの社会は不公平や不信頼、歪んだインセンティブに向かっているけれど、これも過ぎ去るだろうという希望の光は持っているよ。

信頼は連続体だね。夜にドアをロックしなくてもいい場所で育った親戚もいれば、夜はロックしなきゃいけないけどそれで十分な人も、ロックしてもまだ不安な人もいる。最近読んだ話を思い出す。ある女性が、海で泳いでいる間にパスポートと財布を盗まれてショックを受けたという話。彼女は、低信頼社会で博士論文の研究をしていたにもかかわらず、高い信頼がある場所にいると思っていたみたい。

信頼についての学術文献の面白い点は、多様性と逆相関があることだ。グループの大きさに関わらず、多様性が高いほど、グループ内の信頼は低くなる。

市民社会は、ほとんどの人が正しいことをしようとしているという集団的な信頼があるときだけ存在する。子供の頃、ほとんどの人は心の奥底で本当に「良い人」になりたいと思っていると教わった。もしそのことがどれほどの絶対的な嘘だったかを知っていたら、人生の道を全く違うものに選んでいただろう。「良い人」になろうと頑張ることは、富や権力を追求するために使えたかもしれない人生を無駄にしてしまった。もし、幻想や無邪気さに基づいた「道徳規範」に従うという愚かな選択をしなければ、私はその道でとても成功していただろう。

市民社会は、ほとんどの人が正しいことをしようとしているという集団的な信頼があるときだけ存在する。「正しいこと」というフレーズは、クロードの言葉を借りれば、支えとなるものだ。エル・シーシーの前に国を運営していたムスリム同胞団は、自分たちが「正しいこと」をしていると思っていた。エル・シーシーも自分が「正しいこと」をしていると思っていた。この時期、エジプト人のほとんどはエル・シーシーが「正しいこと」をしていると思っていた。複数の独立した世論調査によると、この時期の彼の支持率は高かった。人々は安定を得たことに感謝していたからだ。どんな社会でも、「正しいこと」に対する多様な見解が存在する。機能する市民社会を持つためには、実際にはあなたが言っていることの逆が必要だ。人々が「正しいこと」と思うことに関係なく、ルールに従うという集団的な信頼が必要なんだ。論理的に考えてもそうなる。世界や社会がどうあるべきかという根本的な点で意見が異なる人々は、各自の「正しいこと」のビジョンに従うと信頼している限り、市民社会で協力することはできない。協力する唯一の方法は、中立的なルールや手続きに同意し、正しいか間違っているかの見解に関係なく、みんながそのルールに従うという集団的な信頼を持つことだ。私がアングロアメリカ文化で最も尊敬するのは、必要な手続きの正式さを満たす裁判所の命令があれば、橋から飛び降りる人たちだ。これが市民社会を作る方法だ。

多国籍企業は、現地の経営者に親会社やその国の支配者に忠実であるよう指示すべきか? 法的には、その国のルールに従うべきだ。それは疑問の余地もない。だけど、道徳について話すなら、答えは「世界人権宣言」とそれが意味することに従うべきだ。法の支配と対立する場合、親会社に従う道徳的・法的理由はない。人々は企業に対して持っていない力を与え始めていて、それは非常に危険だよ。(でも、この記事は良いし、興味深い質問をたくさん提起しているね)

どのようにして、これらすべての目標を同時に達成するシステムを設計しますか? > メッセージの迅速な送信 > メッセージ内容の慎重な確認 > 特定の地理的エリアを迅速にターゲットにする能力 > テストメッセージを誤って送信することができない > メッセージを送信する前に、そのメッセージが本物であることを強く証明する必要がある > インフラに重大な損害を受けた後でも機能するほどの耐久性 > ネットワークが審査して無視する能力 > ネットワークが送信を強制される > 善のためだけに使用できる > 悪用できない。最後の2つを考えると、これは冗談だと思う。公共事業の最良のアプローチは、顧客やサービスレベルを選ぶ能力を最小限に抑えるように設計することだと思う。事前に書かれたルールや指示のセットを持たせて、誰もがイベント後に「これが彼らがすべきことだったから、彼らはそれをした」と指摘できるようにしたい。ルールを作成する組織は公共事業とは別で、公共事業はそのルールや指示をできるだけ効率的に実行するためだけに存在する。ここには明らかに合理性の要素がある。すべての状況を予見することは不可能だからね。何をすべきかを正確に指定するために費やす努力は、その決定の潜在的な影響に比例すべきだ。

技術は社会問題を解決できない。社会は、技術を使っても使わなくても社会問題を解決できるが、最終的には問題を解決するのは社会そのものなんだ。

うーん…テクノロジーって、社会の問題を生み出すか、少なくとも暴露することが多いよね。そして、多くのお金と引き換えに多くの問題を解決している。真のルールがそうだとは思えないな。

Hacker Newsで議論の続きを見る