世界を動かす技術を、日本語で。

EUの全てのプライベートメッセージをスキャンする提案が進展を見せる

概要

  • EU加盟国19カ国 が「Chat Control」法案を支持
  • WhatsAppやSignal など全メッセージのスキャンを義務化
  • クライアントサイドスキャン により暗号化前に内容検査
  • プライバシーと匿名性の喪失 が懸念点
  • 市民団体が抗議活動 を展開中

EU「Chat Control」法案の再浮上

  • EU加盟国27カ国中19カ国 が「Chat Control」法案を支持
  • WhatsApp、Signal、Telegram 等、全メッセージ・写真・動画のスキャン義務化
  • 2024年10月開始 を目指した動き
  • デンマーク が2024年7月1日に法案を再提出
  • フランス は反対から賛成に転換
  • ベルギー、ハンガリー、スウェーデン、イタリア、スペイン も支持
  • ドイツ は態度未定、賛成すれば可決の可能性大
  • EU理事会の特定多数決要件 :加盟国の55%(15カ国)かつ人口の65%以上の支持

クライアントサイドスキャンとプライバシー問題

  • 暗号化を弱めず、端末内でスキャン する方式
  • ユーザー端末に組み込まれたソフトウェア が暗号化前に全ての内容を検査
  • 犯罪者対策ではなく、一般ユーザー のプライバシーが主な標的
  • 子どもの性的虐待防止(CSAM) が法案の表向きの理由
  • 実際は全メッセージのリアルタイム自動監視 による大規模監視社会化
  • 義務的な年齢認証 も導入予定、匿名性の消失
  • デジタル自由団体 が市民に抗議・署名・議員への働きかけを呼びかけ

フランスにおける検閲と社会的リスク

  • Telegram創業者Pavel Durov がフランスの検閲傾向を批判
  • 2024年8月、Durovがフランスで逮捕
  • フランス情報機関が保守系コンテンツの検閲要請 をしたとDurovが主張
  • 政治的検閲や規制強化が社会崩壊につながる 可能性を警告
  • 分散型・オープンソース技術の重要性 が指摘される声

市民の対応と今後の展望

  • 法案が不可逆的になる前の市民活動 の重要性
  • MEP(欧州議会議員)への連絡、署名運動 の推進
  • デジタルプライバシーと表現の自由 の今後の行方

Hackerたちの意見

EUが危険なコミュニケーションを規制してくれてホッとしたわ。

同じく、もうすでに安全だと感じてる!

これ、絶望的な試みに見えるね。回避がほとんど努力なしでできるなら、すでにCSAMに関わってる人たちはやるだろうし、他の人は面倒な負担を嫌がるだけだよね。自分が泥棒じゃないって分かってるのに、支払い後に荷物検査されるのはイライラするよ。

フライト前に靴をチェックされるのも面倒だよね!

すでにCSAMに関わってる人たちはやるだろう。防止策って本当に効果あるの? アダルトポルノ業界は、リアルな性的関係よりもそれを選ぶ人がいるって批判されてるけど、CSAMにも同じことが言えるかもしれない。アクセスできないなら、リアルなものを手に入れに行くってことだよね。子供の虐待を防ぐっていう話は理論上は良さそうだけど、実際のデータは何を示してるの?

回避がほとんど努力を要しないなら、すでにCSAMに関与している人たちはCSAMを続けるだろう。Metaは2024年第4四半期だけで180万件のCSAMを当局に報告したんだ。これらの人たちの多くは、検出を避けるための手段を全く講じていない – 彼らはそれをSNSに投稿している。スキャンの倫理についていくら議論してもいいけど、効果がないと主張するなら、それは間違ってるよ。

メッセージは全部スキャンされるけど、フォン・デア・ライエンの契約交渉はSMSでやるんだね :D

笑ってるけど、前回は政治家や法執行機関のメンバーに対する特例が追加されたんだよ。面白いと思わない? :D

AIがミスをしないなんて、神様に感謝だね… このCSAMプロセスの最初の誤検知のモルモットになる人が可哀想だわ。実質的に「有罪(アルゴリズムによって決定)」で、無罪が証明されるまでそうなんだから。

2022年、Googleは息子の股間の医療画像を撮った男性のアカウントを復活させることを拒否した。 > その男性は、息子の股間が腫れていることに気づいて、医者に送るために写真を撮ったんだ。医者はその画像を使ってマークの息子を診断し、抗生物質を処方した。写真が自動的にクラウドにアップロードされたとき、GoogleのシステムはそれをCSAMとして認識した。2日後、マークのGmailやGoogle Fiなどの他のGoogleアカウントは、「有害なコンテンツ」として無効にされ、「会社のポリシーに対する重大な違反で、違法の可能性もある」とされた。… その後、マークはGoogleが彼の電話にあった別の動画もフラグを立てていて、サンフランシスコ警察が彼に対して調査を始めたことを知った。 > マークは犯罪行為については無罪とされているが、Googleはその決定を支持すると言っている。まるで「無罪であるにもかかわらず有罪」といった感じだね。

これは本当に犯罪を止めるための意図じゃなくて、警察国家の行き過ぎだと思う。実際に犯罪に関わってる人は、他の暗号化されたコミュニケーションを使ってるから、これでは捕まらないって知ってるはずだよ。

大陸規模の警察の行き過ぎだね。

これを回避するのはめっちゃ簡単だよ。スキャンがクライアント側でメッセンジャーにアップロードされた画像に対して行われるから、画像をいじったり戻したりするアプリさえあればいいんだ。ペイロードのピクセルを静止画とXORして、もう一度反対側でもやればOK。特に安全性が必要なわけじゃないし、クライアント側のスキャナーが引っかからなければメッセージはE2E暗号化されてるからね。

これが警察国家の過剰な介入じゃないとは言わないけど、全ての(またはほとんどの)犯罪者が良いオペレーショナルセキュリティを実践しているという前提は、まだ笑えると思う。監視国家に反対するイデオロギーが、非合理的な立場に押し込んでるんじゃない?(「もっと監視しても追加の犯罪者は捕まらない」って)。こういう立法に反対するのは100%賛成だけど、その影響を過小評価しないことがすごく重要だし、象徴的に言えば、どの戦いにこだわるかを選ぶことが大事だよ。

これ、数年ごとに出てくるけど、一度入ったら絶対に消えないと思う。片方が一度勝てば永久に勝ち続けるのに対して、もう片方は常に勝ち続けなきゃいけないのは不公平に感じる。EUにはこれを止める仕組みとか、こういう立法を明確に禁止する方法はないの?

彼らを落選させて、次の選挙では絶対に彼らの政党には投票しないこと。もしあなたの欧州議会議員がチャットコントロールを支持しているなら、その政党には投票しないで、対立候補を応援してあげて。

https://en.wikipedia.org/wiki/Ratification_of_the_Treaty_of_... アイルランドの有権者がリスボン条約を拒否した時みたいに、その後再度受け入れさせられたんだ。条約の反対派は、ベストオブスリーにできるのか合理的に尋ねてたよ。

警察と泥棒のシナリオで、悪者が捕まらないためには完璧でなきゃいけないのに、善者は一度ラッキーになれば悪者を捕まえられるってのが面白いよね。これを政府に当てはめると、常に情報を得るために全てのメールを読みたいっていうのが悪者で、他の行動者は一度ミッションを成功させればいい善者ってことになるのかな?

どんな法律でも、結局は取り消せるからね。

EUから出よう。

これはアメリカでも同じ問題だね。環境や少数派、競争能力を守るための法律が、署名されるまでに何年、時には何十年もかかったのに、今の政権が大統領令や単純多数決で撤廃してる。壊すのは作るよりずっと簡単だからね。残念ながら、私が知っている唯一の答えは、自由の代償である永遠の警戒だ。誰の言葉か調べてみたら、ジョン・フィルポット・カランの言葉らしい。トーマス・ジェファーソンじゃないんだ。でも、オーウェルの言葉の方が好きだな。みんなが政府の政策を動かすのが俺と同じくらい無力な理由を示してるからね。

いや、条約を改正しないと無理だよ。現在、各委員会は前任者と同じ権限で運営しなきゃいけないから、後の人たちを縛る仕組みがないんだ。

EUの市民は実際にこれを望んでいるの?望んでいないなら、EUの政治家たちはどうして市民とこんなに乖離しているの?この状況はどうやって生まれたの?逆転できるの?アメリカでは、政治家たちがあまり乖離しないけど、乖離した時はお金が理由で、ひどくなったら無能な奴らを追い出してポピュリストを選ぶんだ。見た目は良くないし、混乱してるけど、次の選挙で人々が望む結果にならなければ自己修正されるんだよ。

いや、国民の多くは他の国と同じで、これが起こっていることを知らない人もいるよ。

僕の知っている人たちのほとんどは、EUに住んでいるけど、こういう話に詳しくないんだ。それに、主要なニュースチャンネルでこれについて聞いたことがないから、ほとんどの人が知らないんじゃないかな。

かなりの数の人がそういうアイデアを提案する政党に投票している。反対のデモは小規模だし、政府やMEPに手紙を書く人も少ない。これは理解不足や情報不足から来ていると思うけど、その3つの要因が残っている限り、これが民主主義の結果なんだ。(EUの民主主義は複雑なテーマで、EUは国家ではなく、独立した国家の連合だから、国家は主に政府によって代表されていて、直接選挙された議会は小さな役割を果たしている… でも、抗議が少ないから、今回はそれが小さな問題だね。)

EUの市民は、自分たちの政府や選ばれた公職者に対して過剰な信頼を寄せてると思う。ここにいる多くの人は、公職者が国民の利益のために行動していると単純に思い込んでいて、そういう提案の詳細をチェックしたり理解しようとする人は少ないんだよね。アメリカとは違って、「自由」や「権利」を理由に反発する人もほとんどいないのが残念だと思う。この反発の欠如が、そういう提案が出てくる理由なんだよね。

現在のアメリカ政府は、もう完全に国民の意志から逸脱してしまってるね。この政権が行ったほとんどの行動は、65%以上の不支持を受けてるし、歴史的な基準から見ると、現在の抗議活動が倍になると国民が政府を倒すことになる。最後に確認したとき、民間人に対するICEの襲撃は、比較的人気のある政策の一つだったよ。

アメリカはファシストを選んで、二度と公正な投票ができるかどうか運がいいくらいだ。だから、他の国について何か言う資格はないよね。

簡単に言うと、EUはほとんど民主主義じゃないよね。ほぼ全てが、自己過信のある任命された官僚たちによって運営されてる。欧州議会はあるけど、実際の国の議会に比べるとかなり弱いし、残念ながら多くの人はEUレベルの政治にあまり関心がないんだよね。

デンマークのジャーナリストたちは、これについて公に知らせることを拒否している。r/denmarkのモデレーターも、この話の投稿をサブレディットでブロックしてるんだ。

同じ国のグループが、全員がプライバシーを尊重しなきゃいけないっていう本のような規制を同時に出して、他の国にもそれを強制しようとしてるのに、こういうことを提案するのはどういうことなの?誰か説明してくれない?

かなりシンプルだよ:権力を得るために病的な人格からの偽善と嘘、そしてそれを真に受ける愚かな人々がいるってこと。

これは政府の基本だね。私たちは政府を一つの大きな存在として見る傾向があるけど、実際はそうじゃないことが多い(特にEUのような国家の実体がない超国家的組織では)。むしろ、異なる目標を持つ異なる機関があって、時にはそれが矛盾することもある。さらに、その中には複数の派閥があって、現在の状況に至っているんだ。長い目で見れば、決定やルール、規制を平均化すれば、ある程度まとまりがあって「良い」統治につながるという考え方なんだ。

アメリカの議会が自分たちが通す法律から通常免除されるのと同じ理由だね。「お前にはルールがあるけど、俺にはない」って感じ。議員たちのプライベートメッセージは絶対に含まれないだろうね。

「四本足は良い、二本足はもっと良い」っていうのがどういうことか。

おそらくこんな感じかな:プライバシーは大切だから、企業が広告目的で自由にデータを取引するべきじゃない。でも、CSAMは脆弱な人々に対して想像を絶する害をもたらすから、それを止めたり減らしたりするためにはプライバシーの一部を手放す価値があるってこと。

もちろん。EUのほとんどの国は4〜5年ごとに選挙があるからね。これのおかげで、EUの主要な執行機関である欧州委員会を構成する人たちが9年で大きく変わったんだ。昔の欧州委員会は、みんながプライバシーを尊重しなきゃいけないっていう長い規制を出すのが好きだったけど、今の欧州委員会はその規制を焼き捨てて、みんなが全てのプライベートメッセージをスキャンすべきだって法律を書くのが好みなんだ。1998年の聖公会の司教たちが聖書に反する同性愛行為を拒否したのと、2023年の同性愛者の結婚を祝福することを承認したのが驚くほどではないよね。

多くの政治家は、技術的な結果がどうなるか全然わかってないよ。彼らはその法律が子供を守るためのものだってだけ見て、技術的な詳細については確認しようとしないんだよね。

世界中で人権や自由民主主義について講義してる連中が、東欧のクズな子供殺しに武器や金、外交支援を送ってるってこと?いや、全然分からない ¯_(ツ)_/¯

簡単だよ。前者は、EUの「議会」がその構成員を気にかけているふりをしながら、アメリカに対する経済戦争。後者はただのファシズム。

時々、このコミュニティはわざと分かりにくい感じがするけど、「Googleや他の企業に私のメールを読まれるのは嫌だけど、警察がメッセージをスキャンして児童虐待者を捕まえるのはOK」っていうのは、実際には珍しい意見じゃないし、矛盾してるわけでもないよ。君が話してるプライバシー法には、政府や情報機関、軍事作業のための特例もあるしね。ここでどんなに心配しても、ほとんどのEU政府(さらには市民)も、プライバシー法が政府と民間企業に同等の立場を要求するとは考えていないんだ。多くのEU市民は、GDPRのような法律が法執行機関やその他の類似の機関には適用されないことに問題を感じていないよ。リスクや歴史にもかかわらずね。

「暗号を弱める代わりに、クライアント側でのスキャンを実装する計画で、ユーザーのデバイスに埋め込まれたソフトウェアが、暗号化される前にコンテンツを検査するということです。それが一番最悪だと思います。例えば、公式のSignalクライアント以外は違法になるってこと?それとも、OS自体でメッセージアプリの外で動くってこと?結局、状況を見直さないといけないね: - スノーデン以降、アメリカが好き勝手に盗聴してるのは分かってる - 中国やロシアも同じような能力を持ってるかもしれないけど、地理的にはもっと制限されてるかも - EUは無能すぎて、何も考えられない。だから、毎時間俺のスマホを遅くしたりクラッシュさせたりするバックチャネルのマルウェアを強制するつもりなの?どこまで落ちるんだ?」

暗号化を弱めるのではなく、計画はクライアントサイドスキャンを実装しようとしている。つまり、ユーザーのデバイスに埋め込まれたソフトウェアが、暗号化される前にコンテンツを検査するってことだ。これを強制する方法は、ロックダウンされたデバイスに認証を義務付けない限り、実際にはないよね。まあ、これが長期的な計画かもしれないけど。

もっと関心があると思うよ。Appleもデバイス上での児童ポルノ画像認識を試みたし、プライバシーの擁護者として自社をマーケティングしてる会社だからね。

最近のEUの大きな政党は、実質的にEUに反対してるから、最も効果的な方法でそれを潰そうとしてるんだよね:そんな法律を通して市民に嫌われるように。もし「EU賛成」と「チャットスキャン賛成」のEU議会の政党の図を作ったら、90%は「反賛成」と「賛成反」の二つの象限に入るよ。確かに、この提案はその政党が今のように大きくなる前からあったけど、当時も象限は大体似たような感じだったし、支持のレベル(今は通過を目指してるし、前とは違う)もその政党の成長に合わせて大体同じだった。

これは反EUの政党だけが主張しているわけじゃないよ。今起こっていることを説明するにはフェアじゃないと思う。