もちろん、最も良い行動っていうのは、権力者たちにとって全く脅威にならない行動だよね。なんて素晴らしい未来が待ってるんだ、仲間たちよ。

HBOの「ウエストワールド」の後半のシーズンを最後まで見た人は、エリソンが描いてる世界の信じられないほどリアルな見方を得られたと思う。しかも、その時期は必要なコンピュータ技術の多くがまだSFみたいに思えた頃だったし。アーロン・ポールのキャラクターが10年前にダイナーで母親と交わしたランダムな会話を、機械知能が録音して保存していたってアイデアには、ちょっと笑っちゃったのを覚えてる。プライバシーの熱心な支持者ではなかったけど、大きな政治的行動がない限り、パノプティコンが包括的で実行可能、しかも安価に出現するのは避けられない気がする。

ラリーはいい例になって、すべてのコミュニケーションを公開すべきだよ。彼は常に「良い行動」をしてると思うし。

10年か20年後に振り返ると、ほぼ全ての人が監視される時代がAIの最大の社会的影響の一つ、いや、もしかしたら最大かもしれないって見られると思う。まだ表面をかすっただけで、ほとんどの人がそれを深く考えてない気がする。エリソンが何が起こっているのかを人々に教育していることには感謝してるかな。

ここで本当に危険なのは、「監視は悪い」ってだけじゃないんだ。AIが監視を制限していた労働コストを取り除くことが問題なんだよ。CCTVはすでに問題だったけど、誰かがそれを見たり、検索したり、解釈したり、エスカレーションしたりしなきゃいけなかった。AIはそれを変える。監視を検索可能で、スケーラブルで、管理的に役立つものにする。変化は「あなたは観察されるかもしれない」から「あなたの行動は常に機械的に解釈される」に移る。それが国家の道徳的な形を変える。民主主義は警察、裁判所、国境、監査、詐欺検出、公共の秩序を持つことができる。真剣な議論は、誰も監視されるべきではないってことじゃないと思う。問題は非対称性だ。普通の市民が国家やその契約者に対して、国家よりも透明になったら、自由な社会は生き残れない。原則はこうあるべきだ：人にはプライバシーを、権力には透明性を。警察のボディカメラは警察に責任を持たせるべきだし、調達は監査可能であるべきだ。アルゴリズムによる決定には監査の記録が必要だし、内部告発者やジャーナリストは保護されるべきだ。公共のシステムは市民にとって理解できるものであるべきだ。私が心配しているのは、オーウェルの漫画的なバージョンだけじゃなくて、退屈なバージョンなんだ。安全ダッシュボード、リスクスコア、詐欺検出、生産性分析、移民の取り締まり、「信頼と安全」、コンプライアンスの自動化、調達契約。ブーツは必ずしもブーツとして現れるわけじゃない。時にはインフラとして現れることもある。で、難しい質問は、監視が秩序を生み出せるかどうかじゃない。もちろん生み出せる。刑務所もそうだ。問題は、その後に責任ある権力を生み出すかどうかだ。パノプティコンは「良い行動」を生み出すかもしれないが、それは市民を管理された対象に変えてしまうだけだ。最近の新しいビジネスの文脈、例えばアマゾンの倉庫作業員や配達員を通じて人をコントロールしようとするこのフェティッシュな感覚を理解しようとしてるんだけど、それが生み出すのはただの恨みだけなんだよね。それで会社や社会を作りたいの？恨みの上に？

バングラデシュはそのいい例だよ。人々は普段、交通ルールを守りたがらないんだ。でも、AIカメラで録画して、AIによる罰金システムがあるおかげで、みんな交通ルールを守ろうと頑張ってる。特定のエリアでは、日本みたいになってきてるよ。警察は、億単位の車に罰金を科すのが怖かったんだ（だって、車の持ち主が何か大きな権力に関わってるかもしれないし、職を失うかもしれないから）。今は、路上でおしゃべりして、AIに仕事をさせてる。HNの人たちにとって、監視は怖いかもしれないけど、私たちにとっては、監視は恵みなんだ。

録画そのものが重要なのではなく、実際の執行が大事なんだよ。中国では、横断歩道を渡るときの顔写真が交差点の大型ビジョンに映し出される。それによる社会的な屈辱が、人々を行動に導いて公共の秩序を保つんだ。恥知らずなアメリカ人はこういう方法を逆手に取るだろうから、アメリカの文化では逆効果になると思う…それって暗い未来だよね、もっと厳しい監視が必要になるってことだから。中国のおばちゃんたちが警察と喧嘩するのを見てると、アメリカではもっと暴力的な結果になるだろうな。アメリカの法執行機関が良い行動を強制するためにやらなきゃいけないことは、もっと暴力的になるだろうね。

監視は、非常に小規模な社会でしか機能しないと思う。監視 == 情報 == 権力。じゃあ、誰がその監視を管理するの？君？私？政府？どうやって彼らを信じるの？信頼が監視の根本的な問題なんだ。無実の人が通りで殺された。通りのあらゆる角に監視カメラがあれば、簡単に犯人を捕まえられたはずだ。録画を管理するのは誰？個人？団体？政府？彼らが顔をタグ付けしてデータを売ってないってどうやってわかるの？常に信頼の問題なんだ。興味深いのは、韓国のソウルのケースだね。あそこはほぼすべての角にカメラがある。私の見解では、一般の人々は、前述のような状況を避けるために録画された通りを好むと思う。ただし、政府に対する信頼があればこそ機能するんだ。逆にアメリカでは、政府と人々の間の断絶が大きすぎて、そんな信頼は持てないと思う。

こういうことを主張する人は、まず真っ先に24時間365日の監視にサインアップすべきだよね。家族全員もね。

ちょっとクリックベイトっぽい見出しだね。彼はボディカメラについての議論で、警察と対比して「市民」という言葉を使ったんだ。>「もう一つのこと：ボディカメラ、私たちはボディカメラを完全に再設計しました。私たちのボディカメラは70ドルで、普通のボディカメラは、うーん、7000ドルくらいかな[...] メンフィスでのこのひどい事件を思い出してほしい。5人の警官が別の市民をほぼ殴り殺した事件だが、そんなことは起こらない。なぜなら、それは本部のテレビで放送されるから、みんなが見ることになるし、あなたのボディカメラがそれを送信しているから。警察は最高の行動をするだろうし、市民も最高の行動をするだろう。なぜなら、私たちは常に起こっていることを録画して報告しているから。」監視には賛成じゃないけど、この記事はちょっと変だね。見出しを含む記事全体が一つの引用だけで構成されていて、文脈が全くない。好意的に解釈すれば、「市民は警察が映像を確認できることを知っているから、警察の前では行動が良くなる」ってことになるけど、好意的な解釈を推奨しているわけじゃないよ。引用の全文すら提供しないなら、読者が自分の結論を引き出すことすら許していないってことだよね。 https://www.oracle.com/events/financial-analyst-meeting-2024... 1:10:03