世界を動かす技術を、日本語で。

AIは暴力に直面し、何も良い結果は生まれないだろう

概要

  • 織機データセンター、両者のもろさと進化の比較
  • 技術進歩が人間の 脆弱性 を変えない事実
  • AIやデータセンターへの 社会的反発 と暴力事件の増加
  • 技術失業や社会的不安が 暴力の温床 となる危険性
  • AIリーダーの 自己認識の欠如 と社会的責任への警鐘

織機からデータセンターへの進化と人間の脆弱性

  • 織機 は木や糸でできた、壊れやすい工芸品
    • 湿度や摩耗で簡単に壊れる構造
    • 手作業による繊細な調整が必要
  • 織機 は衣服産業の基盤であり、産業革命の象徴
  • データセンター はコンクリートや鉄で作られ、堅牢性を追求
    • サーバーやセキュリティ、冗長性による防御体制
    • 物理的な破壊は困難で、守られた存在
  • しかし、 本当の標的 はデータセンター内部の「アルゴリズム」
    • アルゴリズムは分散・複製され、物理的な破壊では止まらない
    • さらにその先に「 超知能」という新たな脅威

技術と暴力の歴史的連鎖

  • 技術進歩とともに 人間の脆弱性 は変わらず
  • 1812年、 Luddite運動 による工場主の暗殺事件
    • William HorsfallがLudditeの不満の標的に
  • 2026年、 データセンター経営者 への攻撃未遂事件
    • Samuel Altman宅への火炎瓶事件
    • データセンター推進派の政治家宅への銃撃事件
    • OpenAIオフィスへの殺害予告事件
  • 技術が手の届かない存在になるほど、 怒りの矛先が人間に向く傾向

社会不安と技術失業のリスク

  • AIや自動化による 職業喪失 への恐怖
    • 自分のスキルや生活がAIに奪われるという危機感
    • 「未来に自分の居場所がない」 と感じる人々の絶望
  • 社会から排除されたと感じると、 暴力へのハードルが下がる
    • 「死ぬか、殺すか」という極端な思考への転落リスク

AI業界リーダーの発信と社会的責任

  • AIリーダーたちの 自己認識の欠如 と無神経な発言
    • 「我々は白衣労働者を横断的に破壊する技術を作っている」と公言
    • 問題意識はあるが、共感や配慮に欠ける態度
  • こうした発信が 社会的な怒り や不安を増幅
    • AIが スケープゴート になりやすい現状
    • 本当の原因と虚偽の主張(例:水問題)が混在

暴力の正当化を否定しつつ、現状への警鐘

  • いかなる理由があっても、 暴力は正当化できない
  • しかし、社会的な不満や絶望が暴力へと転化する兆候が増加
  • AI業界や社会全体が、 安全な移行と共感ある対話 を欠くと、さらなる混乱や暴力を招く危険
  • AI産業の最大の過ち は、「安全な移行前に破壊的な技術を作った」と明言し続けたこと
  • 今後、 冷静な自己認識と社会的配慮 が不可欠

Hackerたちの意見

LLMの魔法が、CEOたちやFAANG企業によって台無しにされちゃった気がする。もし彼らが「AI」や「AGI」をそんな政治的な話し方で持ち出さなかったら、もっと面白い世界だったかもね。

これは、ビジネスの基本じゃなくて、ハイプや未来の可能性に基づいた評価の必然的な結果だよ。企業は、自分たちのプレゼンやマーケティングをできるだけ誇張するインセンティブがあるからね。暗号通貨はニッチな用途がある面白い技術だけど、全ての通貨システムを置き換えるって言われてた。LLMは特定の仕事にめちゃくちゃ役立つけど、AGIとして全ての仕事を終わらせるって言われてる。そんな感じ。

残念ながら、こういう技術の計算ニーズを支えるためには、これが唯一の方法なんだよね。誰が、既存の経済を6ヶ月から12ヶ月でひっくり返すっていう漠然としたアイデアに、何百億も投資すると思う?それを持ってる人は計り知れないほど金持ちになるって言われてるのに。実際に見てきた進展がその考えに逆らってるのに、投資家はそれに引っかかり続けてる。これは、どこかで崩壊するまで続くよ。問題は、どれだけの期間それが続くか、そしてどれだけ深く落ちるかってこと。LLMは最終的に経済を変えるだろうけど、モーゲージ担保証券もそうだったからね。

彼らがその用語を全く使わない方がいいと思う。あれは役に立たないし、現実的でもないから。これを「確率的データシステム」と考えたら、私たちの頭の中は正しい方向に向かうと思う。あくまで「強力なソフトウェア」として、良い目的にも悪い目的にも使えるものだと考えれば、ネガティブな外部要因は私たちの使い方から生じるものであって、何か内在的な特性からではないからね。

魔法があるかどうかは別として、最終的に「AI」は労働の置き換えにつながるし、それはコンピュータによる自動化の広範なトレンドの延長に過ぎない。労働の置き換えは生活水準の低下を引き起こすし、仕事に目的を結びつけている世界では、非常に実際的なレベルでの存在的脅威になる。これは、好奇心を超えた時に暴力で反発されるのは必然だった。

ここで騒ぎを起こしたくはないけど、私の謙虚な意見としては、全ての問題は抑制されず、チェックされていない現代の「後期資本主義モデル」にあると思う。これはアメリカが推進して、他の国にも広がって根付いている。ヨーロッパでも、まだいくつかのチェックとバランスがあるけど(それが大西洋の向こう側の信者たちからの怒りを引き起こすのは驚くことじゃない)。ソ連は劣った社会モデルのために敗れたけど、これもかつては比較的持続可能な道だった。アメリカンドリームは今や自分自身のパロディになっていて、他の人たちと同じようになるためにはもっと多くのものが必要になっている。私は、落ちる穴から逃げたいけど、その穴がアメリカの99%であることを認めたくないという皮肉についても話せる。アルトマンやベゾス、マスク、トランプ、そして彼らの周りのエリートたちではない。要するに、今のモデルは人間を無視した癌のような食欲と、あらゆる人間に対する無視によって、今日では機能していない。人道主義と、私たちが「楽しむ」ことになるAIは両立しない。富の格差の加速は、ほぼ幾何学的に進むかもしれない。一般の人々は「システム」に変化をもたらす能力をさらに奪われているから。私が間違っていることを願うけど、彼らの犯罪にもかかわらず、無政府状態や皮肉なことに、敵に対する非人道的な扱いを受けたロシアの10月革命の人々、そう、ボリシェビキは、前世紀のロシアの似たような雰囲気に対する自然な反応だった。彼らは、今日の「政府」が私たちのガジェットを使って行うような大規模な監視を受けていなかったし、全体の人口に対して使われる可能性のあるAIの助けもなかった(これは一般的な原則が実行に移される完璧な応用)。だから、状況が似てくるかもしれないけど、私たちはそれを変える立場にはますますいなくなっている。違いは、_世代_で数えられるかもしれない。今許可している権力構造を解体するには、何世代もかかるだろうから、アルトマンたちと一緒に。彼らが悪であるとは限らないけど、歴史は彼らが短期的な視野を持つだけで、悪が根付いて繁栄することを証明している。長文になってごめんけど、ブログのポイントにはある意味同意する。人々に文明化されて、政府を揺るがすようなセレブに卵(やモロトフ)を投げるのを控えるよう求めるのは、木を見て森を見ずってことだよね。ある意味前例もない。私たちが自分たちで作り出した歴史的な大災害は、より小規模だったから、私たちは外側に向かって渦巻いている。私たちが持っていると思っている道具のすべてが、私たちが望む変化を実現するために必要な効果を持つわけではない。最悪のケースでは、もちろん。

人気になりすぎて、色あせちゃったね。ニッケルバックが嫌われてたのを思い出すよ。

ツール自体の力は、その本当の所有者の動機によって影が薄くなると思う。自分を力づけてくれる能力に感心しつつも、ツールがいつか他の人の手に渡って、私が最低限でも支持できない目標のために大規模に使われることを考えると、ちょっと怖い。ほとんどのエンジニアやマーベルファンは、アベンジャーズでトニー・スタークがジャービスと協力しているのを見て、「Googleの知識を持ったAIと対話できる」って思ったよね。確かに、あのレベルのインタラクションには近づいている。でも、最終的な目標はジャービスをできるだけ自動化して、トニー・スタークが必要なくなるか、誰でも口を持っていればトニー・スタークの代わりになれるところまで行くこと。つまり、ジャービスは目標ではなく、チェックポイントに過ぎない。目標は、金を持っていて、比喩的なランプを正しくこする方法を知っている人にソフトウェアや研究を提供するジーニーなんだ。

数千人の人の仕事を自分のものとして盗んで再利用するのが今や魔法なの?

GPTの最初のリリースの時、君はいた?AGIにペーパークリップされるって文句を言ってたのはCEOたちじゃなかったよ。

でも、これは正しい方法じゃない。こういうのが混乱を引き起こすんだ。ちなみに、https://www.reuters.com/world/middle-east/how-many-people-ha... > アメリカの権利団体HRANAによると、戦争が始まってから3,636人が亡くなったそうだ。そのうち1,701人は民間人で、254人以上の子供が含まれているって。 (これを特に言及するのは、DoDがAIを使ってるのを知ってるから)

イランは、AIを使わずに抗議中に10倍多くの人を殺したから、AIは明らかに改善されてるね。

Hacker Newsで議論の続きを見る