世界を動かす技術を、日本語で。

AIが制度を破壊する方法

概要

  • 市民的制度 は民主主義社会の基盤
  • AIシステム がこれらの制度を脅かす
  • 専門性の喪失、意思決定の短絡化、人間関係の希薄化が進行
  • 透明性・協力・説明責任 が損なわれる危険性
  • 現行のAIは市民的制度にとって 致命的な脅威

市民的制度の役割と重要性

  • 市民的制度 (法の支配、大学、自由な報道)は 民主主義社会の根幹
  • 複雑な社会における 協力と安定 の促進
  • 権威の階層役割・ルールの枠組み の中で進化・適応する能力
  • 知識の正当性行動の信頼性 の維持
  • 透明性・協力・説明責任 を軸とした目的志向の制度設計
  • 個人による 知的リスクの容認現状への挑戦 の促進
  • 人間関係 を通じた視野拡大と市民的目標へのコミットメント強化

AIシステムがもたらす脅威

  • AIシステム の特性が制度の特徴を 消滅 させる
  • 専門性の侵食 による知識の価値低下
  • 意思決定の短絡化 による判断プロセスの形骸化
  • 人間同士の隔絶 による連帯感の希薄化
  • 進化・透明性・協力・説明責任 が損なわれる構造
  • 制度の持続可能性 や目的意識の消失
  • 現行のAIシステムは 市民的制度の死刑宣告 に等しい存在

結論と提言

  • AIシステム の導入・運用に際しては 市民的制度への影響 を最重要視
  • 制度の進化や正当性維持 を阻害しない技術設計の必要性
  • 透明性・説明責任・協力 を担保するAIの開発・規制
  • 市民的価値観 の再確認と制度保護の重要性

Hackerたちの意見

これは要約だから、要約について議論するのはやめようぜ… 論文のダウンロードリンクはここだよ: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=5870623

これについては、2日前にHNで議論したけど、この論文は査読されてないドラフトなんだ。DOGEやFDAがAIを使ってる例は、あまりよく調査されてないし、引用も不十分。例えば、FDAが全体の研究を幻覚するAIを使ってることを批判してるけど、製品回収に使われてることには触れてないんだ。その批判の引用元は、CNNの記事を取り上げたEngadgetの記事で、匿名の不満を持つ元従業員に頼ってるから、事実が間違ってる。要するに、この論文を掘り下げれば掘り下げるほど、意見記事だってことが分かるよ。

高等教育、医学、法律といった制度は、それぞれ学校、病院、裁判所などの組織内での安定した予測可能な行動パターンを形成し、混乱や摩擦を減らします。誤字や重複した句読点が多すぎて、真剣に受け取るのは難しいです。一般的な「AIは社会に悪影響を与える」というトーンには共感しますが、この議論は「海賊行為が映画産業に悪影響を与える」と似ているように感じます。なぜそれが大衆に理解される魅力を持っているのか、単なる悪役だけではなく、認識されていないからです。制度はAIが魅力的である理由の一部に責任があります。今のアメリカでは制度への信頼が低いです。ジャーナリズム、医学、教育、政府は理想に応えていません。良い個別化された医療を見つけるのがこんなに複雑で高額なのに、AIに医療の質問をすることを責めることはできませんし、専門家による教育を受けるのがこんなに高額で選択的なのに、AIから新しいことを学ぶのを責めることもできません。

つまり、弁護士たちもやっと気づいたってことだね。次の10年は、あらゆる知識の分野がAIに対抗して共謀する時代になるよ。

ああ、そうだね。技術が不安定で孤立させてるっていう真剣な批判じゃなくて、陰謀論なんだね!ありがとう。一瞬、自分の信念を見直さなきゃいけないかと思ったよ!

すごいね。

適切な場合に限ってですが、弁護士の目的は法律を守り、広めることです。「ほとんどの人が言っていること」とは異なります。一般的に正義は、完璧ではないにせよ、可能な限り高いレベルで正しい答えを追求することを意味しています。特に、新たに受け入れられた判例法が以前のものと矛盾する場合でもです。ウェブプログラマーは自己防衛の観点からAIに反対することができ、その行動は完全に正当化されるでしょう。しかし、弁護士はAIに対してもっと根本的で和解不可能な違いを追求する権利があります。AIは受動的な「国家、すなわち私」的な存在になり、到達したものをローカルマキシマムとして固定し、内省を拒否します。これは法律に反しています。

12人の怒れるエージェント

AIが原因だとは思わないな。単に、すでに起こっていることを加速させてるだけだよ。ソーシャルメディアはすでに人を孤立させてたし、AIボットの使用でそれが加速してる(デッドインターネット理論を見てみて)。これらのボットは、政治的目的で社会に混乱をもたらすために使われてるけど、全体的には人々をますます過激化させて、結果的に孤立させてる。AIが大学の制度を侵食してるわけじゃない、もともと金儲けと美化された雇用プログラムになってたし。人間関係(つまり、つながり)はまだ存在してるし、AIがこのシナリオでそれをどう変えるのかは見えない。AIが私たちの社会をどう形作ってるかには賛成できないけど、これらの事例に対して責任を負わせるつもりはない。私の意見では、AIがこれらの側面を加速させてる。記事は、AIに起因する一つのこと、つまり批判的思考の欠如を強調してる。AIを使うことで、人々は考える時間を減らしてる。評価したり、探求したり、創造的に考えたりする代わりに、私たちはそれをAIにオフロードしてるんだ。

最初の部分は100%正しいけど、AIユーザーとその使用には二峰性の効果があると思いたい。熱心に働く専門家たちは、AIを外骨格のように活用して、出力を慎重にレビューしてるから、より多くのことを成し遂げて、強い人間になってる。これはコーディング、執筆、メディアに当てはまる。AIを簡単なボタンとして使ってる人たちは、逆に弱くなってる。彼らは関与が減り、注意力が低下し、批判的思考も弱くなってる。時間が経つにつれて、これは非常に重要になると思う。専門的なAIユーザーが非AIユーザーを置き換え、質の低いAIユーザーは下にフィルタリングされるだろう。これらのシステムが人間を必要とする限り。個人的に言うと、私のコードの出力は簡単に倍増した。すべてを慎重にレビューして、ほとんどのものは手で書いてる。私は10億ドルの取引量のシステムを構築・維持した真剣なエンジニアだ。分散システム、アクティブアクティブ、5つ以上のナインズSLA。これらのツールは非常に価値があると感じてる。デザインの出力は100%新しいものだ。以前はできなかったことだ。今はウェブサイトやマーケティンググラフィックスを簡単に作れる。すごいよ。昔は趣味で映画やメディアを作ってたけど、今はたくさん作ってて、常に作ってる。出力が30倍になった。3Dキャラクターを作って、プリビジュアライゼーションやスタンドイン用にリギングもしてる。これも以前はできなかった。まだ自分の執筆を助けるためにLLMを使ってないけど、いつか使うかもしれない。たまにシソーラスとして使ったり、良いイディオムを調べたりすることはあるけど。

この議論はあまり意味がないと思います。崖に向かって坂を下っているときに、プロセスを加速させるためにカートを追加することが道徳的な責任を免れるわけではないというのは、あまり役に立たない観察です。坂を下るのをやめることも、カートに乗らない選択もできますからね。

デッドインターネット理論の元の投稿: https://forum.agoraroad.com/index.php?threads/dead-internet-...

Hacker Newsで議論の続きを見る