これについては、2日前にHNで議論したけど、この論文は査読されてないドラフトなんだ。DOGEやFDAがAIを使ってる例は、あまりよく調査されてないし、引用も不十分。例えば、FDAが全体の研究を幻覚するAIを使ってることを批判してるけど、製品回収に使われてることには触れてないんだ。その批判の引用元は、CNNの記事を取り上げたEngadgetの記事で、匿名の不満を持つ元従業員に頼ってるから、事実が間違ってる。要するに、この論文を掘り下げれば掘り下げるほど、意見記事だってことが分かるよ。

高等教育、医学、法律といった制度は、それぞれ学校、病院、裁判所などの組織内での安定した予測可能な行動パターンを形成し、混乱や摩擦を減らします。誤字や重複した句読点が多すぎて、真剣に受け取るのは難しいです。一般的な「AIは社会に悪影響を与える」というトーンには共感しますが、この議論は「海賊行為が映画産業に悪影響を与える」と似ているように感じます。なぜそれが大衆に理解される魅力を持っているのか、単なる悪役だけではなく、認識されていないからです。制度はAIが魅力的である理由の一部に責任があります。今のアメリカでは制度への信頼が低いです。ジャーナリズム、医学、教育、政府は理想に応えていません。良い個別化された医療を見つけるのがこんなに複雑で高額なのに、AIに医療の質問をすることを責めることはできませんし、専門家による教育を受けるのがこんなに高額で選択的なのに、AIから新しいことを学ぶのを責めることもできません。

ああ、そうだね。技術が不安定で孤立させてるっていう真剣な批判じゃなくて、陰謀論なんだね！ありがとう。一瞬、自分の信念を見直さなきゃいけないかと思ったよ！

すごいね。

適切な場合に限ってですが、弁護士の目的は法律を守り、広めることです。「ほとんどの人が言っていること」とは異なります。一般的に正義は、完璧ではないにせよ、可能な限り高いレベルで正しい答えを追求することを意味しています。特に、新たに受け入れられた判例法が以前のものと矛盾する場合でもです。ウェブプログラマーは自己防衛の観点からAIに反対することができ、その行動は完全に正当化されるでしょう。しかし、弁護士はAIに対してもっと根本的で和解不可能な違いを追求する権利があります。AIは受動的な「国家、すなわち私」的な存在になり、到達したものをローカルマキシマムとして固定し、内省を拒否します。これは法律に反しています。

12人の怒れるエージェント

最初の部分は100%正しいけど、AIユーザーとその使用には二峰性の効果があると思いたい。熱心に働く専門家たちは、AIを外骨格のように活用して、出力を慎重にレビューしてるから、より多くのことを成し遂げて、強い人間になってる。これはコーディング、執筆、メディアに当てはまる。AIを簡単なボタンとして使ってる人たちは、逆に弱くなってる。彼らは関与が減り、注意力が低下し、批判的思考も弱くなってる。時間が経つにつれて、これは非常に重要になると思う。専門的なAIユーザーが非AIユーザーを置き換え、質の低いAIユーザーは下にフィルタリングされるだろう。これらのシステムが人間を必要とする限り。個人的に言うと、私のコードの出力は簡単に倍増した。すべてを慎重にレビューして、ほとんどのものは手で書いてる。私は10億ドルの取引量のシステムを構築・維持した真剣なエンジニアだ。分散システム、アクティブアクティブ、5つ以上のナインズSLA。これらのツールは非常に価値があると感じてる。デザインの出力は100%新しいものだ。以前はできなかったことだ。今はウェブサイトやマーケティンググラフィックスを簡単に作れる。すごいよ。昔は趣味で映画やメディアを作ってたけど、今はたくさん作ってて、常に作ってる。出力が30倍になった。3Dキャラクターを作って、プリビジュアライゼーションやスタンドイン用にリギングもしてる。これも以前はできなかった。まだ自分の執筆を助けるためにLLMを使ってないけど、いつか使うかもしれない。たまにシソーラスとして使ったり、良いイディオムを調べたりすることはあるけど。

この議論はあまり意味がないと思います。崖に向かって坂を下っているときに、プロセスを加速させるためにカートを追加することが道徳的な責任を免れるわけではないというのは、あまり役に立たない観察です。坂を下るのをやめることも、カートに乗らない選択もできますからね。

デッドインターネット理論の元の投稿: https://forum.agoraroad.com/index.php?threads/dead-internet-...

この立場にはあまり賛成できません。たとえ話をするなら、すでに燻っている葉の山にガソリンをかけると、私は森林火災を「引き起こした」わけではないかもしれませんが、状況を認識できないほど急速に加速させてしまいます。すでに建物に亀裂があったかもしれませんが、それは修復可能でした。AIはその全体構造に破壊的な影響を与えます。

資本主義が制度を壊しています。新しい技術は「数字が上がる」ために使われなければなりません。このシステムでは、外部性を税金で価格に組み込む必要がありますが、実際に外部性を考慮するよりも立法者を買収する方が安上がりです。これが、栄養素が少なくても輸送が楽な食べ物や、世界中から届く使えないプラスチックごみの翌日無料配送、教えるのではなくお金を引き出すために存在する学校、広告を押し付けてあなたを騙してもっと時間を使わせるために存在するソーシャルメディアを生む理由です。今後4年間で、アメリカの実験は終わりを迎えるでしょう。株主資本主義が完全に自己消費し、価値のあるものを作るのではなく、ただ搾取する経済を生み出すからです。

同意するよ、実際、AIがこれらのプロセスを逆転させるかもしれない。大学は60年代からポストモダニズムを推進してきたけど、それが真実の軽視の前触れだった。後に、Googleが報道を殺して、真実が簡単なお金稼ぎのために従属するようになって、今やソーシャルメディアはデマで溢れかえってる。でも、ちゃんとした調整がされたAIモデル（もしかしたら政府による規制付きの調整）があれば、今見てる左派と右派のポピュリズムとは違う、まともな物語が生まれるかもしれない。今の状態は国家の破壊に繋がってるから。

AIが原因だとは思わない。AIは、すでに起こっていることを加速させるメカニズムに過ぎないと思う。技術的な用語で言うと、「火にガソリンをかける」ってやつだね。普通、これはすごく悪いこととされる。 > AIが私たちの社会をどう形作っているかには賛成できないけど、これらの事例に対してAIを責めるつもりはない。僕の意見では、AIはこれらの側面を加速させてる。誰かが火にガソリンをかけたら、その火が制御できなくなるのは完全にその人のせいだよね。結局、状況を悪化させたのはその人だから！例えば、「以前は消えそうな小さな火だったのに、あなたがガソリンをぶちまけたせいで、今は周りに森林火災が広がって死にそうだ。」

そうだね、AIはただの症状に過ぎないよ。根本的な原因はフィアット通貨制度だ。歴史上、フィアット通貨制度が長続きしたことはない。何百もの制度があったけど、結局はいつも失敗して、国や帝国の崩壊につながるんだ。

メディアは自由ではない - プロパガンダだらけ 1850年から1950年の間と違うと思ってた？

これらの制度の代わりは今のところソーシャルメディアだけど、どの指標で見ても悪化してるよね。正確性、公平性、好奇心とか。僕はこの投稿よりもAIに対して楽観的だよ。ソーシャルメディアよりはマシな代替品だと思うから。ある意味、AIと制度は共生関係にあると思う。

逆説的だけど、これらの制度は今までで一番良い状態かもしれない。100年前は、もっと信頼してたけど、今は良いものを敵にして完璧を求めすぎてる。賢者はこう言った：「刑務所で、私はこの世界のすべて、金を含めて、現実に基づいて動いていないことを学んだ…」「でも、現実の認識は…」私たちの制度への不信は、自分たちで作った牢獄なんだ。

これが本当なら（僕も同意するけど）、民主的な生活の基盤は何なのか、あるいは何であるべきなのか？

彼らは民主的な生活の基盤の一部だよ。でも、ここ数十年、アメリカの民主的な生活はうまくいってない。壊れた基盤は、この悪循環の原因でもあり、症状でもある。

メディアは信じられない存在だった。どれだけの無実の人が殴られたり、はめられたり、撃たれたりして、メディアは警察の言葉をそのまま受け入れたんだ？80年代のラッパーたちは警察の暴力について語ってたけど、ロドニー・キングのビデオが出るまで誰も信じなかった。今では、誰もがポケットにカメラを持っていて、ソーシャルメディアに動画を投稿するから、警察を本能的に信じる人は少ない。一方で、メディアも両党も、トランプの台頭まで田舎のアメリカで何が起こっているかを無視してた。

これらは民主的な生活の基盤であるべきだけど、株主のことも考えてくれないかな？

AIの影響に対する否定的な態度の一因は、たくさんの構造を壊してしまうからだと思う。伝統的な機関は、知識に関してよく構造化された低エントロピーの社会を維持している。法律相談には弁護士、医療相談には医者に行くし、大学に子供を送って高等教育を受けさせる。何をすべきか、誰に聞くべきかが分かっている。インターネットの登場でこれが変わり始めて、今や古いシステムはほとんど役に立たない。あなたが指摘するように、法律相談にAIを使った方が効率的な場合もあるし、正しく使えばAIはほとんどのことに関して大学の教師よりも知識が豊富だ。限界的には、以前の社会は単に変わるのではなく、完全に消えてしまう。みんなが$AI_PROVIDERのサブスクリプションを持った完全に自律したエージェントになる。専門家グループや知識を整理・普及するために必要だった他のタイプの団体も同様だ（今の弁護士って何？$LEGAL_AI_PROVIDERのサブスクリプションを持っている人？SWEって何？）。今、私たちは最大エントロピーの状況にいる。こういう状況で価値はどう進化し、普及するの？みんなが正しいと思うことについてAIに支えられた意見を持っている。どうやって合意するの？次のステップをどう決めるの？AIはそのための構造を提供してくれない。

弁護士がアドバイスに500ユーロを請求する一方で、AIツールがほぼ無料なら、たとえそのアドバイスの質が良い弁護士の80%に満たなくても、勝負にならないよね。AIの勝ちだよ、たとえそれが悪いかもしれなくても。 面白い例だね。私が考えるのは、やっぱり信頼できるアドバイスにはお金を払うよね。本当に信頼できるアドバイスが必要なときは特に。20%の確信を持って間違った法律アドバイスは、全くアドバイスがないよりも悪い。難しいのは、その弁護士がAIに仕事を押し付けているときだね…