世界を動かす技術を、日本語で。

私たちは悪者なのか?

概要

現代のデジタルサービスは、 AI心理学 を駆使してユーザーから利益を最大限に引き出す構造 日常のあらゆる取引に 中間業者 が介入し、操作的な仕組みが蔓延 ユーザーの不満や離脱すらも事前に予測し、 アルゴリズム が最適化 個人や企業がこの構造から抜け出すのは困難な 集団行動問題 資本主義の暴走と倫理の崩壊を憂う 社会批判

テック企業による操作社会

  • Hinge などのマッチングアプリでの ブースト機能 の乱用
  • Uber のチップ画面やアルゴリズムによる価格操作
  • サービス利用のたびに発生する 心理的な誘導搾取
  • コーヒー購入やデート、配車、送金など日常的な行動にも 中間業者AI の介入
  • 最先端AI がユーザーから「もう少しだけ」多くを搾り取る設計
  • ユーザーが操作に気づき始めると、 ダッシュボード で即座に調整
  • 「操作されている感」を減らすための AI自動最適化
  • 競争社会の中で 企業も抜け出せない 現実

集団行動問題と倫理の崩壊

  • 個人の離脱 では解決できない 集団行動問題
  • 民主主義 の限界:アルゴリズムが変革を阻む
  • サービス利用者と提供者間の 価値の分断
  • 「改革」ではなく「革命」が必要という 絶望感
  • 金融危機第三次世界大戦 など極端なシナリオへの言及

現代資本主義と社会の自己破壊

  • 広告価格差別ビッグデータ機械学習 による大規模な操作
  • 顧客を「Moloch」に捧げるかのような 倫理なき利益追求
  • Wireheading (人工的な快楽追求)に例えられる現代資本主義
  • Hypnodrones」による消費の強制的増加への皮肉
  • 「みんなが自分の利益を追求する社会」の限界と危機感

Hackerたちの意見

ある人たちにとって、列に並ぶのを飛ばすためにプレミアムを払うことが目的なんだよね。でも、みんながそのプレミアムを払うようになったら、結局また列に戻ってくるってことを予想してなかったんだ。主にオーストラリアのフリークエントフライヤーたちの話なんだけど、高いハードルがあった頃は特典があったのに、今はフライイン・フライアウトの仕事でクラブステータスが商品化されちゃって、搭乗のメリットもほとんどなくなったし、ポイントのフライトも取れない。だから、そういうステータスを求めたり、差別的な価格を求めるのは、消費者に対して武器化されると、あまり社会的じゃないパターンだと思う。とはいえ、ウーバーは嫌いだった。彼らは実際に法律を破る人を支援する提案をしてきたし(それで企業の違法者として排除されなかったのが不思議)、利益を海外に持ち出し続けてる。でも、タクシーサービスがひどくなって、今はウーバーに慣れちゃって、サージプライシングについてあまり気にしなくなった。ゆっくりと煮られた感じだね。オーストラリアの仲間たちも、ペイウェーブやフードサービスでのチップ導入にはちょっと嫌な気持ちを抱いてる。あれはオーストラリアらしくないよ。法的に最低賃金とペナルティレートがあるんだから、その機能はオフにしてほしい。ヨーロッパでのフライトに含まれる荷物を義務付ける動きには、結構なトロールが見られる。だから、清潔な下着が必要だと思うのは弱いって信じてる人もまだいるんだよね。

ほとんど搭乗のメリットがない EUの格安航空会社(特にライアンエアーやイージージェット)では、優先搭乗の列にいるのは他の人たちだけで、私は非優先の列にいる唯一の人だよ。昔はもちろんそうじゃなかったけど、今は優先列の2/3よりも前に搭乗することが多い。これってちょっと変だよね。 > サージプライシングについて。ゆっくり煮られた感じだね。アメリカではどうなのか分からないけど(過去に休暇でウーバーを使ったことはあるけど、休暇中は価格をあまり気にしない)、ここではサージの時に価格が急上昇することが多い。数分で40ユーロから50ユーロ、さらに38ユーロに下がったりする。数分アプリを見て、いいタイミングで選ぶようにしてる。タクシーはほとんどいつも2倍、時には(空港では)3倍の価格だし、彼らはしばしば失礼だし、評価もできない(この2つは関連してる)。最後に乗ったのは3週間前で、ひどい「ビジネスホテル」から空港まで10分のドライブだった。早いフライトだったから、チェックアウトして5時にウーバーを注文して待ってたら、目の前に「本物」のタクシーが止まった(今はどちらも合法でライセンスが必要だけど、タクシーには「タクシー」と書いてある)。運転手は自分の客を迎えに出てきたけど、私だとは思ってなかったみたい。しばらく話をして、彼の本当の客を待ってたら、ウーバーの料金がいくらか聞いてきた。15ユーロだと見せたら、「キャンセルして15ユーロくれ」と言われた。仕方ないから前に乗り込んで、他の客は後ろに。到着して駐車待ちしてる間に、15ユーロの端末を私の顔に突き出してきたから、支払った。降りると、彼は後ろの客の荷物を持って、「いくら?」と聞かれた。72ユーロだって。ありがとう、兄弟;10分の旅でほぼ90ユーロ稼いだことになる。要するに、ウーバーを嫌う(以前は使うのを拒否してた)ことは、あまり得にならないのに、自分の生活をとても厳しくしてるってこと。タクシーはもっと頑張るべきだったのに、何も学ばなかった。相変わらず事前に注文しないといけないし、アプリも使えないし、価格も高い。どうやって存在できるのか分からない(もちろん分かってるけど、彼らはウーバーの存在を知らないか、使い方を知らないか、使うのを拒否してる)。2人以上でいると、タクシーはしばしば電車より安いことが多い。これって本当に変だよね、「人はできるだけ電車を利用すべき」って言われてる国で。

清潔な下着が必要だと思うのは弱い。 洗濯は数千年前に発見されたことだし、飛行機に乗るのはもっと早い。あなたの荷物にお金を払いたくない!

オーストラリアの仲間たちみんな、ペイウェーブや飲食サービスでのチップ導入についてちょっと気分が悪いんだ。これはオーストラリアらしくないよ。私たちは法的に最低賃金とペナルティレートがあるから、その機能はオフにしてほしい。まあ、みんなの代わりに話すつもりはないけど、私は契約者に良い仕事をしてもらったお礼にちょっとお金を渡すのが好きなんだ。問題は、それに構造的に依存することだよ。14歳のときに荷物のハンドラーとして働いてた時のことは忘れられない。アメリカのクルーズ船からのオーバーフローの仕事を受けた時のこともね。時給20ドル(当時はまあまあの給料)もらってたし、税金なしで1100ドルくらい持ち帰ったからね。手渡しの現金ほどオーストラリアらしいものはないよ。 >とはいえ、ウーバーは嫌いだった。彼らは実際に法律を破ってでも人を雇おうとしたからね。不当な法律を破るのは常に道徳的だと思う。タクシーの独占は壊されるべきだった。その法律がアメリカのVCマネーの寄付のおかげで挑戦されたのはボーナスみたいなもんだ。実際、まだやるべきことはある。シドニーのCBDはライドシェアに対して非常に敵対的だから。

彼らが予測できなかったのは、みんながプレミアムを支払った後、再び列に並ぶことになった時のことだよね。市場の純粋主義者は、これは商品が誤って価格設定されているだけで、チケットは実際にはプレミアムを加えた価格であるべきだと主張するんじゃないかな?本当に必要なのは、チケットの価格を上げて、列を飛ばすための価格を設定することじゃない?

寛大に考えれば、逆に言えるかもね。一部の機能をプレミアムに移すことで、時間やお金の価値を違うふうに考える人たちが、提案から求める価値の大部分を得られるようにできる。俺は、HQで実際にその話がされているとは思わないけど、まあ有効な意見だとは思う。

今や、フライイン・フライアウトの仕事はクラブステータスを商品化して、搭乗のメリットがほとんどなくなった。必要以上に早く飛行機に乗りたい理由は何だろう?思いつくのは、 overheadロッカーへのアクセスが良くなることだけど、最近はすぐに埋まっちゃうからね。

これらの投稿は、主に人口統計のヒートマップとして面白いと思う。今や、特定の興味(この場合はgeohotのハッキング)を追いかけるだけじゃなくて、この人は問題に気づいて、投稿するほどのモチベーションを持ったってことだね。geohotは、地図の中心にかなり深く入り込んでると思う。

これが私にも響いた部分だと思う。ジョージ・ホッツから聞いた、いわゆる過激な反資本主義の話は、リンクを開いたときに予想していたものではなかった。それでも、ホッツがこの投稿で表現した感情は私も感じている。彼がそれを言ったことを称賛するよ。

いつか、人々は私たちが社会に生きていることを認識しなければならない。何が必要なんだろう?ポッドキャスト(トレバー・ノアや一般的なソーシャルメディア)から、今の社会が分散的に社会問題を指摘できるようになったのは良い点だと思う。例えば、私たちの社会にはコミュニティが絶対に必要だってこと。つまり、現代版の村が必要なんだよね。全ての決定で個人主義や自己中心的にならないこと。お互いの要求やニーズに調整すること。時には、親が間違ってるとわかっていても自分を主張しないことも大事。こういう相互依存の社会を育む時が来たと思う。完全にバラバラになって、取引的になるのは良くないよ。

アルゴリズム(または不満を持った元デート相手が、疲れて低賃金のカスタマーサポートエージェントに通報する)によって、デーティングアプリから禁止されると、出会うチャンスが劇的に減るのがさらに不気味だよね(アメリカではカップルの60%以上がオンラインで出会ってる)。アプリがほとんどのデートの仲介者になってるから、戻るのは本当に難しい。特に、顔認証を使って自分を証明したことがあるなら、未来の登録試みはすぐにブロックされる。異議申し立ての方法もない。ディストピアだよ。

あなたの運命、そして自分の家族を持てるかどうかは、Match Groupによって決まる。

Hacker Newsで議論の続きを見る