世界を動かす技術を、日本語で。

私たちはすでにソーシャルクレジットの中に生きているが、それをそう呼んでいないだけだ

概要

  • ソーシャルクレジット は、日常の多くのサービスで既に利用されている概念
  • 中国の社会信用システム と西洋のアルゴリズム評価の違いの誤解
  • 行動スコアリング は個人のアクセスや機会に影響
  • 透明性と説明責任が今後の課題
  • ルールが明示されれば、個人は初めて選択できる立場に立つ

ソーシャルクレジットの現実

  • クレジットスコアLinkedInの推薦Uberの評価InstagramのエンゲージメントAmazonレビューAirbnbホスト評価 など、多様なサービスで行動がスコア化
  • 各プラットフォームが ユーザーの行動を追跡・評価 し、サービスや社会的地位へのアクセスを決定
  • アルゴリズムによる評価 は日常的かつ不可視に実施
  • 中国の社会信用システム との違いは「明示性」のみで、実質的には同様の仕組みが存在
  • 西洋社会 でも、実は「ソーシャルクレジット」を日常的に利用

中国の社会信用システムの実態

  • 2024年時点で 全国的な個人向けスコア制度は未実施
  • 民間のスコアリングサービス の多くは廃止、地方自治体の試験運用も縮小
  • 主に 裁判所命令違反者 (罰金未払い等)のブラックリスト管理が中心
  • 一部都市での 実験的な社会行動スコア も限定的な影響しか持たず、全国展開はされていない
  • 企業向け社会信用スコア は広く導入されているが、個人向けはごく一部に留まる

誤解と現実

  • 西洋での中国社会信用システムのイメージ は、実態とかけ離れたディストピア的描写が多い
  • 実際には アメリカやヨーロッパでも、既に複数の行動スコアリングシステムが日常化
  • Uberの乗客評価銀行による取引分析LinkedInのネットワーク活動評価 など、あらゆるサービスが行動を評価
  • 伝統的なクレジットスコア も、住居や雇用、保険料など多方面に影響
  • ソーシャルメディア分析 が金融・雇用・信用調査にも利用され始めている

システムの断片化と将来

  • 現状は 統合された社会信用システム ではなく、 断片的な行動スコアネットワーク
  • Uber評価 が住宅ローンに影響しない、 LinkedIn活動 が保険料に直結しない等、相互非連携
  • しかし 技術的・文化的な基盤 は統合化に向けて進行中
  • 中国のスコアリング基準 が可視化されているのに対し、西洋のアルゴリズムは「ブラックボックス」
  • 説明責任と透明性 が今後の大きな課題

民間と政府の違い、そして融合

  • 企業による行動評価政府による監視 の違いを主張する意見も存在
    • 企業間の乗り換えコストの高さ
    • 企業間のデータ連携強化
    • 政府による民間データの取得・活用
  • 社会信用システム は詐欺防止や協力促進、行動インセンティブ提供のために世界的に拡大中

今後の展望

  • 欧州のデジタルID施策アメリカの行動インセンティブプログラム が普及
  • 企業間でのレピュテーションデータ共有 が進行
  • 金融サービス におけるソーシャルメディア分析の活用拡大
  • 中国型の明示的スコア西洋型の不可視アルゴリズム、どちらが個人の自律性に資するかが問われる時代
  • ルールが可視化されれば、 個人は初めて自分のプレイする「ゲーム」を認識 し、選択できるようになる

まとめ:知ることで選択が可能に

  • 中国の社会信用スコア が西洋のプラットフォームに影響を与え、 行動スコアの可視化 が進む未来
  • ルールが明らかになれば、 個人は自分の行動がどのように評価されているかを理解
  • 「ゲームのルール」を知ることで、初めて参加・不参加を選べる時代 の到来

Hackerたちの意見

なんでSMSの「2FA」が銀行やフィンテックで急に人気になったと思う?パスキーやU2Fみたいに、実際にアカウントを守るための方法がずっと前からあるのに。

パスキーはまだ新しいよね。主要なプラットフォームがサポートを始めたのは2023年になってからだし。

お金に関係するビジネスは、KYCの要件のおかげで、あなたが誰かを正確に知ってるよ。フルネームや住所、生年月日、SSNを持ってるのに、電話番号を聞く必要なんてないんだ。

お客さん全員にYubiKeyを持たせるように説得するのは大変だよ…楽しくないしね。でも、ほとんどのネットユーザーは、携帯でSMSを読んでコードをコピーすることはできるよ。

SMSの2FAは、十分に犯罪者を阻止して、コンプライアンスのチェックボックスを満たしてる。高度な盗難に対しては、もっと良い対策を取るほどの損失は出ていないんだよね。

SMSの2FAは、ほとんどの人にとって大体は十分だよ。個人に対する高度なターゲット攻撃を防ぐのは苦手だけど、大規模なブルートフォース攻撃を防ぐには完璧に機能する。問題を解決する(すべての問題じゃなくて、解決しようとしてる問題ね)から人気があるし、導入も使うのも簡単でハードルが低いんだ。

社会的信用が一つの権威に集中しているときには大きな違いがあるよ。人々はその権威から自分を守るために法律を使えないからね。そうじゃなければ、人々は常に何らかの方法でお互いを評価してきたんだ。

あなたが恐れている「単一の権威」は、すでに西洋の国々には存在しているよ。市場を独占する巨大企業たちがね。西洋のシステムは選択肢の幻想を生み出していて、権力を持つ人たちはそれを操る方法を見つけている。彼らにとっては、単に他の人々を搾取するための便利な道具になってしまった。「自由市場」と「民主主義」が彼らをそれに気づかせないようにしているけど、私みたいな人が何を言っても、ほとんどの人には現実を受け入れるのが難しいだろうね。

記事ちゃんと読んだ?中国の現状はこうだよ:>「実際に何が起こっているかというと、2024年現在、中国には全国的な社会信用スコアはまだないんだ。ほとんどの民間のスコアリングシステムは閉鎖されていて、地方政府の試みもほとんど終わってる。主に金融行動やビジネス監視に焦点を当てた、バラバラな規制遵守ツールの集まりって感じだね。3300万以上の企業が企業社会信用システムでスコア付けされてるけど、個人のスコアリングはロンチェンみたいな小さな試験都市に限られてる。そこでも、スコアリングシステムは「非常に限られた影響」しか持ってないし、州や国レベルには昇格したことがない。アメリカのクレジットスコアと比べると、完全に三つの民間企業の寡占状態で運営されてるけど、個人の財務に完全に根付いてる。少なくとも公的に運営されるクレジットスコアは、間接的にでも有権者や法律に対して責任を持たれるし、その安全性は国家の安全保障の問題として扱われるかもしれない。エクイファックスやエクスペリアンがデータを漏らすなんてことはないだろうし。」

その通り。アマゾンが私の返品を承認する(またはアカウントをキャンセルしない)のは、私が他の人よりも多く買い物をするからだけど、購入/返品比率を第三者と共有することはないんだよね。

まさにその通り。これらの企業が信頼性データを共有していない限り、新しいアカウントを作ってやり直すことができる。私が心配しているのは、「価値」の中央集権化なんだ。

もちろん、個人同士はお互いを判断するよね。この場合、企業が私を判断して、その判断をサービスとして提供しているんだ。全然違うよね。

記事を読んでないね。中国には一つの権威ある社会信用システムなんてないよ。

数分だけ表示されて削除されたコメントがあって、私が言いたかったことに少し合ってたんだ。それが再表示されなかったから、再投稿するね。 >「リアルライフにも社会的信用がある。先週バーテンダーに冷たくしたら、その評判はそのバーでの評価に影響する。地元の非営利団体でボランティアをしたら、その組織での評判にも影響する。アルゴリズムがなくても、人は覚えている。」

新しい町に引っ越してやり直すことはできるけど、これらの社会的信用システムの問題は、どこに行っても永遠にあなたを追いかけるように設計されていることだよ。間違いがあった場合の救済措置もゼロだし、少なくともバーテンダーと和解を試みることはできるけどね。

バーテンダーや非営利団体、バリスタの関係は、現金取引や実際の仕事が行われる物理的な場所を中心に回っているから、そのやり取りには実際の直接的な価値があるんだ。さらに、私とバーテンダーのやり取りは非営利団体に知られることもなければ、測定されることもないだろう。私の「信用」が要素として関わる場合でも、それは場所から場所へと移動するわけじゃない。

こういう社会的信用がオンラインでもあればいいのに。

確かに。でも、クレジットスコアがないと、人々があなたに偏見を持つ唯一の方法は見た目や噂を通じてなんだよね。クレジットスコアには公式な声明に近い重みがあるから、他の人たちは軽く扱うことが少ない。カジュアルな噂話とは違ってね。

それは主観的な混乱だね。どうやってその経験の価値を客観的に測るの?それに、噂やPR、プロパガンダを止めることもできないよ。Rotten Tomatoesの現状を見てみて。今、Fandangoがあなたの社会的信用のウェブサイトを買って、ハーヴェイ・ワインスタインを10/10の良い人にするところを想像してみて。

確かに、評判は昔から存在してる。でも、ある規模を超えると、量が質になるんだよね。例えば、あるバーでの口コミと、何十ものサービスを通じて追いかけられる中央集権的なアルゴリズムの評判スコアには大きな違いがある。もし一人のバーテンダーがあなたを失礼だと思っても、別のバーに行けばいいだけだし。ある非営利団体があなたを嫌っても、他のところでボランティアできる。でも、ソーシャルメディア会社やプラットフォームにブラックリストに載せられたら、あなたの職業や社会生活、さらには経済的な面にも影響が及ぶからね。その影響は一つのコミュニティを超えて広がるんだ。これが、ローカルな記憶からシステム的なゲートキーピングへの飛躍だよ。

それは住んでる場所によるね。大きくて密集した都市では、ほぼ匿名でいられる。今日、メインストリートで裸で踊っても(誰も録画してなければ)何事もなかったかのように生活できるよ。そういう事実で生計を立ててる人もいるしね。観光地はリピーターを引きつけるわけじゃないから、毎回の購入はお客さんの初めての体験なんだ。

そうだね。人は単に覚えてるだけじゃない。時には、あなたを試すために仕掛けてきたり、チャンスを与えようとしたりすることもある。他の時には、誰か別の人を使ってあなたを試すこともあるし、チャンスを与えようとすることもある。時には、人が他の人を陥れて、自分やあなたの社会信用を上げようとすることもある。オースティン・パワーズ(それともアリ・Gだったかな?)が言ったように、「行動しろ」ってことだね。

現実の社会信用は柔らかくて、地域に根ざしていて、時間とともに変わったり薄れたりする。一方、デジタル社会信用は(潜在的に)自動的に計算される数字で、厳格で揺るがない結果が伴い、一生ついて回るんだ。

そのコメントは、人々がどれだけ覚えているかを過大評価してると思う。あのバーテンダーは、シフトごとに3~5人のひどい客と、いつもの嫌な客がいるから、覚えてないし、気にもしてないだろうね。地元の非営利団体も、2年後には同じメンバーがいないだろうし、トップの人たちは一回限りのボランティアを全員覚えてるわけじゃない。何かにもっと重要性があると信じるのは、「スポットライト効果」に起因すると思うよ。

「市民はすべての横断歩道違反を追跡され、アルコールを買いすぎるとポイントが減点される」 私が初めて中国に行ったとき、21歳未満だったけど、飲酒年齢が18歳だと聞いてコンビニでビールを買おうとしたんだ。レジの人は多分12歳くらいで、何も言わずにIDも聞かなかった。アメリカと比べると信じられないくらい緩いよね。私は一般的に、入力を追跡するよりも出力を追跡する方が簡単で効果的だと思う。彼らが何本のビールを買ったかを追跡する必要はなくて、公共の酩酊を禁止すればいいんだ。そして、その法律を厳格に施行すればいい。

私は中国人じゃないけど、妻は中国人だよ。中国にいて中国の家族がいる私の解釈では、未成年の飲酒は法律の問題というより、家族の問題として見られることが多いと思う。16歳が飲酒するのを止めるのは、友達や家族に酔っ払っているところを見られたくないからなんだよね。酔っ払って公共の場にいる16歳は家族の問題だよ。もちろん、警察が介入することもあるけど、中国では西側よりも酔っ払ったり騒いだりする公共の行動は少ないよ。

「社会信用」は、西洋メディアが描くような形では中国には存在しない。実際には、市民の判断を強制する手段に過ぎないから、債権者に「破産した」と言った後に贅沢をすることはできないんだ。宣言された破産の種類によっては、債務者審査も行われるよ。

問題は、アメリカのメディアや議論が権威主義の下での生活をすごく歪めた見方で描いていることだよね。実際、多くの国では、少数派だったり、政治的にアクティブだったり、法的なトラブルに巻き込まれない限り、日常生活は西側とほとんど変わらないんだ。でも、そういうことを聞きたくない人が多い。だって、私たちがああいう生活を受け入れるなんて思いたくないから。もちろん、一番イライラするのは、アメリカや他の西側諸国が権威主義に滑り込んでいく中で、人々がそれを認めないことだよね。自分たちが権威主義だとは感じていないから。編集:補足すると、生活が全く同じだとは思わないけど、権威主義の影響は描かれているよりずっと陰湿だと思う。

完全に正しいわけじゃないよ。権威主義の下で暮らしている人たちは、自分の言葉に気を使っているし、恐れから自己検閲をしている。権力者に従ったり(地元レベルでも)、権利よりも権力のヒエラルキーを受け入れたりしている。全く同意しないわけじゃないけど、自由がないことは日常生活にある程度影響を与えているよ。

まあ、日常生活は似ているけど、そうじゃなくなるときもある。その時に、自分には選択肢がないことに気づくんだ。自分の人生は、池の中の泡みたいなもんだよ。

これがアメリカ人(や他の「西洋人」)が「彼らを見て、共産主義者だ!!!」って言う大きな理由だと思う。「彼らを見て、権威主義者だ!!!」って言わないのは、実際のことを呼ぶと、あまりにも多くのアメリカ人が点と点を結びつけてしまうかもしれないから。

あなたが何らかのマイノリティであったり、政治的に活動的であったり、法的なトラブルに巻き込まれていない限り、日常生活は西洋の生活とほぼ同じだよ。 それがまさに、私は西洋のリベラルな政府を好む理由なんだ。そっちの方がいいし、その理想は権威主義者を批判する価値があるし、西洋で守るために戦うべきものだと思う。

こういう広い言い方をするのはちょっと無意味だね。北朝鮮や中国の生活について話してるの?アメリカのメディアが「他の」側を歪めるのが、中国やロシアのメディアよりもひどいと思ってるの?

これはちょっと naïve な見方だね。ソ連の下での生活はひどかったよ。隣人に密告されることを恐れていた人たちに話を聞いてみて。これはみんなに影響を与えるから。

記事のポイントには大体同意するけど、この部分は著者がユタ州についてあまり知らないなって感じた: > 公共の場での露骨な社会信用技術のイメージが強力すぎて、ユタ州の下院は社会信用システムを禁止する法律を通したけど、アメリカにはそもそも存在しない。むしろ、LDS教会が自分たちと競合する社会信用システムを禁止したって感じだね、笑。

ここではちょっと「堅苦しい」印象を与えちゃってるかもしれないけど、他の人と喧嘩することはないよ(軽いやり取りがせいぜい)。その理由は、昔は本当にひどいトロールだったから、UseNetの時代にね(昔が良かったなんて言ってる人の話は信じない方がいいよ、本当にひどかったから)。そのことを償わなきゃいけないと思ってる。誰かに評価されるかどうかはあまり気にしてない(実際、今は喧嘩っぽい時よりも敵が増えた気がする)。自分のためにやってるんだ。個人の誠実さのモデルを育てたときにこそ、私たちは「社会の生産的なメンバー」として最も力を発揮できると思う。

雇用主が信用調査をする理由が全然わからない。これはやりすぎだし、違法にすべきだと思う。

カナダからカリフォルニアに新しい仕事のために引っ越したんだけど、年収が中くらいの6桁なのに、信用スコアがないせいで賃貸物件を見つけるのがすごく大変だった。信用スコアなしで借りられる物件は、シェアハウスの部屋だけだったんだ。それじゃ猫や妻、子供たちと一緒に住むのは無理だった。結局、1年分の家賃を前払いで受け入れてくれるところを見つけた。カナダからアメリカにそんな大金を移動させるのも大変だったよ。それが片付いたら、車を買うためにまた色々と面倒なことが待ってた。現金(もちろん小切手で)でディーラーからCPOのマツダを買うことにしたんだけど、書類にサインした後に新しく作ったSSNで信用調査をされたんだ。システムが私のSSNを見つけられなくて、確認できない人からそんな大金を受け取れないってことで、車の購入を拒否された。パスポートやカナダの運転免許証はディーラーには身分証明として受け入れられなかった。一方で、カナダでのAmexとの長い付き合いは引き継がれて、すぐに高額なクレジットカードを作ってもらえた。社会的信用はすでに存在してるけど、企業が管理してるものの方が消費者にとっては良いかもしれないって思ってる。

なんてこった、アメリカはカフカ的だね。うーん、覚えておくよ。将来的に私もあなたの立場になるかもしれないし、その準備をしとくね。ありがとう :)