世界を動かす技術を、日本語で。

ソーシャルクーリング (2017)

概要

  • Big Data の普及により、監視されている感覚が強まる現代社会
  • デジタル評価 やスコアリングが個人の行動や機会に影響
  • 自己検閲 やリスク回避などの「ソーシャルクーリング」現象の拡大
  • 創造性や多様性 の抑制、社会の硬直化への懸念
  • プライバシー意識 と権利保護の必要性

ソーシャルクーリング:ビッグデータ時代の冷却社会

  • 監視されている感覚 が行動変容を促す現象
  • Big Data によるスコアリングが、自己表現やリスク選択を抑制
  • 長期的には「 ソーシャルクーリング」として社会全体の活力低下

データスコアリングとその実態

  • 個人データが 何千ものスコア に変換される現実
  • データブローカーが他者データとの比較で 未公開情報まで推測
    • 宗教、被害歴、ダイエット志向、友人数、知能指数、政治思想、家族構成など多岐にわたる推測
    • 生活習慣や趣味嗜好、心理特性まで分析対象

デジタル評価がもたらす機会格差

  • デジタルレピュテーション (評判)が、機会や待遇の制限要因
    • アルゴリズムの バイアス や不正確なデータによる不利益
    • 例:SNSの友人によるローン金利上昇、性別による求人広告格差、健康保険の差別的活用
    • 投稿内容が 税務調査 や雇用機会に影響

行動変容とその副作用

  • より良いスコアを得るための 自己規制 や行動修正
  • ソーシャルクーリングの負の側面
    1. 同調圧力の強化 :自己検閲やリンククリックの躊躇
    2. リスク回避文化 :医師の例で明らかになる評価制度の弊害
    3. 社会の硬直化 :抗議や異議申し立ての萎縮、中国の「 社会信用スコア」の事例

新たな管理社会の到来

  • 社会的圧力 が最も強力かつ巧妙なコントロール手段
  • 弱点が可視化され、 透明性過剰 な社会への移行
  • 自己検閲 とリスク回避が新常態化

哲学的・経済的・社会的課題

  • 「より行儀よくなっても 人間らしさ は失われないか?」
  • 監視資本主義 時代の自由の意味の再考
  • 創造経済 における多様性とリスクテイクの重要性
  • 少数意見や多様性 が抑圧されるリスク

ソーシャルクーリングへの対策と課題

  • 地球温暖化 に例えられる、目に見えにくい社会的公害
  • 政治家、市民、企業、科学者の 協働 が不可欠
  • パブリックアウェアネス (社会的認知)の低さ
  • プライバシーと「 忘れられる権利」の再定義
  • アルゴリズムによる評価社会 での「失敗する権利」の保護

まとめ・行動提案

  • データとプライバシー への成熟した認識の普及
  • 完璧さへの圧力 が高まる中での寛容さと再起の権利
  • 社会的冷却 が現実化する前に、広範な議論と行動の必要性

Hackerたちの意見

正直言って、オンラインで使う名前が一貫してない私としては、これが大好きなんだ。便利なときにアカウントを再作成するような長い歴史を持たずにね。特にSNSでは、5年前に言ったことや共有したことを掘り起こされて、それを私に対して使われるのは避けたいから。自分を変えずに、他人に合わせることなく、自分自身でいられるのも助かるよ。

良いけど一時的だね。大手テック企業はブラウザのフィンガープリンティングを持ってるし、LLMもコサインを使ってテキストで再度マッチングできると思う。どこでもTailsを使って、言ったことをLLMで言い換えるのがいいかもね。そうすれば大丈夫かも。

{ concerned_with_privacy: true, online_usernames: ['kachapopopow', ...] } ;) 他の誰かが言ってたけど、たぶんフィンガープリンティングされてるよ。でも、直接調べられることはないし、データブローカーを使わない限りはね。

これにはアカウントだけじゃなくて、もっと変える必要があるよ。書き方があなたのフィンガープリンティングだからね。HNアカウントの具体例がいくつか投稿されて、何度も試されてるよ。

このウェブサイトは、HNでのあなたの可能性のある別名を見つけるためにスピーチを分析してるよ。他のアプリで名前を見つけるための信号をもう少し回収するのは簡単かもね:https://stylometry.net/user?username=kachapopopow 注意:オフラインみたいだけど、かなり効率的だったよ!

各アイデンティティごとにIPやブラウザのフィンガープリンツを回して、訪問したサイトや使用パターン、タイピングの速度やスタイル、マウスの動きなんかを変えない限り、データブローカーはあなたの「矛盾した」アイデンティティを結びつけられるよ。

このページは2017年からのものだよ。以前の投稿も見てみてね: https://news.ycombinator.com/item?id=24627363 (2692 いいね, 1099 コメント) https://news.ycombinator.com/item?id=14585882 (389 いいね, 190 コメント)

若いズーマーやアルファ世代のいいところは、もうこれを生活に取り入れてるから、全然グロテスクでも驚くことでもないってことだね。彼らは自分たちの文化をそれに合わせて適応させてる。

それは良くないことだね。彼らはこのレベルのコントロールと奴隷状態を内面化してしまったってことだ。パノプティコンの中で快適さを見出している。

“ソーシャルスコア”なんてなくても、冷却効果はあるよ。むしろ、他人に自分の信念を非難されるのが怖くて自己検閲する人が増えてると思う。知ってる人からも知らない人からもね。面白いことに、実際には「冷却」なんて起こってないと思う。むしろ、一部の人がすごく熱くなって、私を含む大多数の人が冷却を経験してる。残念ながら、最近のリベラルたちは、すべてに対して辛辣で、政治的に意見が違うからって友達や家族を切り捨てるような有毒な行動を支持していて、彼らが守ろうとしてる民主主義の理想を台無しにしてると思う。[1] 私は全体的にリベラルに近いと思ってるけど、最近の例として、久しぶりにFacebookを開いたら、昔の知り合いがチャーリー・カークの死を喜んでるのを見て、本当にがっかりした。彼の言ってたことに賛成してたかもしれない人を排除することで、彼らの主張がより同情的になるなんて思ってるのかな(私は一般的にはそうは思わないけど)。これじゃ分断が強まるだけで、社会の冷却効果が増すだけだよ。[1] https://open.substack.com/pub/theargument/p/were-not-all-goi...

アメリカは、赤ちゃんが公然と恥をかくのを見て、世界中がそれを見て笑ってる国だよ。ジェリー・スプリンガーみたいな番組で、父親がいないってことをね。良い魂を持った国とは言えないよ。ナチスと戦ったってだけで、誇ってるけど、ナチスに立ち向かうのは簡単なことだからね。この国の道徳的なキャラクターは、どのレベルでも強くなかった。キリスト教国家だって自分に嘘をついてるし、この国の重要な瞬間のビジュアルはほとんど神を持たないものばかりだよ。60年代に黒人を水で洗い流したり、今のメキシコ人を路上で引きずったり、日本人の強制収容所のこともあるし、今もキャンプがある。経済的なケチさや自己中心的な態度がいつも現れるのは耐えられない。右派の政治の人種差別や自己中心的な態度は、本当に…うん、正直言って、もう無理だよ。神を持たない。これを解決するには、まずそれを認める必要があるね。

考えてみると、これは全く新しい概念じゃないよね。確かに、過去60年間で西洋は独立した思考の強い文化を発展させたけど、全体を見渡すと、社会的規範による厳しいマインドコントロールが、まあ、普通だったんだ。ほとんどの社会は歴史の大部分で、声を上げることを考えるだけでも厳しく罰してきた。

耐性の逆説に対するより良い解決策があるなら、ぜひ教えてほしいな。(FacebookやDiscord、LinkedIn、GitHub、ChatGPTみたいなプラットフォームを使ってる人たちは、民主主義の理想を損なうもので、社会的に恥をかかせるべきだし、場合によっては殴られるべきだと思う。)

他の人も指摘してるけど、これは古いサイトだね。彼らは、Z世代が私たちの失敗から部分的に学んで、儚いメディアに目を向けているとも言ってる。ARメガネの普及は、もちろん「リアルライフ」での匿名性を奪うだろうけど、アメリカの「礼儀」の崩壊を見てると、どうしても「行動の沈下」っていうのを思い出しちゃう。

常に監視されて育ったアメリカ人(†)は、普通であることを目指してるんだ。彼らの世代は、以前の世代よりも異論を表明する可能性が低い。理由は明白で、すべてが記録されて放送されるから、個人的なミスが強調されて、長く残るけど、良い結果は得られない。そんな状況では、大胆な意見やクリエイティブなアイデアはリスクが高すぎる。これが悲しくて心配だ。私は混沌や健全な無秩序が好きだし、新しいアイデアを持った会話上手な人たちと話すのが楽しい。でも、社会的に不都合なときに道徳を表現するのが怖くてできない「冷え込んだ」人々が心配だよ。(† 脚注:これはアメリカ人だけじゃなく、あらゆる文化で成長している若者たちに当てはまる。「社会的冷却」効果はアメリカ人の方が表現のバリエーションが大きいから、より顕著に現れるんだ。)

学校時代の親友には今7年生の息子がいるんだけど、最近彼のことを話していて、彼の学校生活は私たちの時代よりずっとドラマが少ないことに気づいた。私たちはドラマがあって、いじめや涙、喧嘩、ひどいことがたくさんあったけど、彼の息子の学校生活は全く無害で穏やかだ。もちろん、これはn=1だし、私たちが当時すごく運が悪かっただけかもしれない。でも、どんな混沌とした経験も価値があるのか、ちょっと考えちゃうね。

2015年の記事(タイトルに入るべきだね)

「社会的冷却」、検閲、自己検閲が、トランプが大統領でいる大きな理由なんだ。

人々が「保守的」な意見を持っているときに自己検閲しなきゃいけなかったのは、公開の議論に参加せずに非難されることを恐れたからだと思う。だから、投票する時にトランプみたいな人に頼ることになったんじゃないかな。もし安全だと感じていたら、もっと多くの人が反対側の意見を理解しようとしたかもしれないし(もちろん逆も然り)。それが言いたかったの?それとも、自己検閲がトランプを二度も権力に押し上げるのにどう役立ったのか?

現代のソーシャルメディアの地獄を使わないことが問題を解決するんじゃない?

ソーシャルメディアに存在しないことが、何か隠しているっていう信号として受け取られることがない限り、君はテロリストかボットだね。

わからないなぁ。今は参加しないと問題のある人ってレッテル貼られるの?(悪魔の擁護をするなら、HN以外のSNSには参加してないけどね)

面白いことに、HNに投稿されてるんだよね。ここではユーザーのスコアが「カルマ」と呼ばれていて、それがコミュニティに完全に参加できるかどうかを決めるんだ。だから、従順でいるか、そうでなければダウンボートされてほぼ見えなくなる。

まぁ、他の人を upset するよりも貢献してるなら、バランスが取れてるみたいだね。過去にひどいコメントをしたこともあるけど(少なくともダウンボートから判断すると)、それでもこのコメントは残ってるし、今後のコメントも多分残るよ。ダウンボートされたコメントもあったけど、それでも面白い会話が生まれたから、それは勝ちだと思ってる。