その通りだね、無法な政権に合法的な目的や方針を決めさせてる。人間の承認って、結局は「はい」ボタンを押すだけのことになるんじゃない？ガザの爆撃でイスラエルの軍人たちがやったみたいに。

その言い回しは、> OpenAIの技術を自律武器システムの指揮に使ってはいけない とは一致してないね。

いや、これは非常に狡猾で悪質だよ。行政機関が合法だと考えることが、ここでの本当の合意なんだ。トランプは何でも合法だと言えるし、それで終わり。司法の監視もないし、被害を受けている人たちの権利を守る弁護士もいない。トランプはペンタゴンに「ミネソタの全員は潜在的な反乱者だから、愛国者法と反乱法の下で監視しろ」って言える。大量監視には令状が必要ないから、彼らはそれを望んでるんだ。それが「大量」ってこと。令状があると司法の監視が入るからね。Anthropicは、裁判所（FISA裁判所でも！）が令状を出した場合の監視には反対してなかった。トランプはFISA裁判所を通ることすら望んでない。これはサム・アルトマンからの純粋な悪だね。誰かこの人たちの名前を記録してる人いるのかな？忘れ去られるのは嫌だな。アルトマンからザッカーバーグまで、もし正義が勝てば、彼らは報復を受けることになるだろう。

アメリカには自律武器に人間の管理を求める法律ってあるの？それって矛盾してない？

彼らの解決策は、海で失われた戦闘員を撃つことを推奨できるの？これは重要だよ。戦争犯罪の教科書的な例だからね。現政権が何度も自慢してきたことでもあるし。要するに、ここで何が合法かを決めるのは誰なの？OpenAI、国防長官、あるいは裁判官？

ちょっと待って、その契約の一つにはターミネーターを作ってはいけないって書いてある。他の一つには、国防総省の弁護士が大丈夫と言えばターミネーターを作ってもいいって書いてある。これは大きな違いだね。

アメリカ軍は公式に、国際水域での民間人に対する違法な超法規的暗殺を数ヶ月間行ってきた。私たちは、アメリカと国際法に反してジェノサイドを行っているイスラエルに技術や武器を提供している。今、イランに対してもアメリカと国際法に違反する戦争を行っている。こうした勢力に対する援助は、その無法を助長するもので、法治国家の概念を軽視していることを示している。OpenAIが「軍は合法的に行動できる」と言うとき、この軍が形式的な合法性にすら興味がないことを知っているのに、どうしてあなたがこれらの決定に「同意している」と思うのか疑問だよ。他の生活の側面でも、薄っぺらな嘘を信じてるの？

OpenAIは、アメリカ政府が合法的に何でもできるという要求に応じた。Anthropicは、自社の製品の使用に自分たちの道徳を押し付けたかったんだ。「成功率が高いとは言えないことに対して、誰かに製品を売らない」というのがAnthropicの道徳だとしたらどうなる？政府は、文字通り不可能なこと（例えば、暗号の「安全な」バックドア）をすることはできないけど、失敗が予測されていても試みることは合法なんだ。ここで何が起こっているかは分からないけど、そういうシナリオを区別するのに十分な証拠を提供していないから、事実として言うのはかなり誤解を招くよ。

「合法」という言葉がすごく重要な役割を果たしてる。政府が公然と行っている数え切れないほどの違法行為を考えるとね。機密の閉ざされた場所で何が起こっているのか？政府が常に違法なことをしているなら、彼らが法律を守るとは信じられないという道徳的立場と考えることもできるね。Anthropicがそう言ったわけではないけど、私が受け取っている要点はそんな感じだよ。

このサガを完全には追ってないけど、彼らの「自分たちの道徳を押し付ける」ってのは、「私たちのAIが無監視で殺戮を繰り返すのを許したくない」ってことじゃないの？

この言葉は、国防総省が合法だと見なすものに対してモデルを使用することを許可している。注意深く読んでみて。最初は「戦争省はAIシステムをすべての合法的な目的に使用できる…」と始まり、そこに制限はない。むしろ、DOWが今日合法だと考えることを説明していて、規制を変更することを許可している。ダリオが言ったように、これは言葉遊びの法的表現で、この政権は法的な言葉を利用するのが得意で、民間人をボートで殺したり、都市に部隊を送ったり、州の投票用紙を押収したり、発言のために移民を追放したりすることがある。サム・アルトマンは愚か者か、私たちが愚かだと思っているかのどちらかだね。

ちょっと厄介だね。大規模な監視の場合、彼らは自分たちの法律を作ることができないから、法律を作って、アメリカの州の3分の2が憲法改正にサインしないといけないんだ。誰かが法律を破ろうとしてるのを知りながら手助けするのは、法律を破る共謀になる。OpenAIは責任があるよ。政府を訴えることは多くの場合できないけど、OpenAIには訴えられるからね。

その通り。彼らは自分たちのルールを作るだけでなく、それを秘密裏に効果的に起草・施行できるんだよね。

有罪の詐欺師の言葉を信じられないってこと？

唯一の力は辞めることだけ。これを大勢で行使すれば、すごい力になるよね。

唯一の力は辞めることだけ。従業員はしばしばオーナーを追い出して会社を乗っ取る力を持っているし、もっと言えばビジネスを止める力も持っている。もちろん、強い労働組合と団結の文化が必要だけど、OpenAIのような場所ではそれは難しいだろうね。

この件ではもう手遅れかもしれないけど、これは労働組合のためのものだよ。サム・アルトマンと数人のスカブが、エンジニアたちがこの決定が覆るまで働くのを拒否したら、OpenAIの電気をつけ続けることはできないからね（もっと良いのは、そもそもその決定がされないことだけど、労働組合がそのプロセスの一部になるから）。

OpenAIの社員たちは、2年前に取締役会から追放されたサム・アルトマンを再任させる力を持っていたんだ。

ローカル推論の方がいいかもしれないね。

それに、Claudeは今のところChatGPTよりもずっと良いっていうおまけもあるしね。

これらの企業に対して、私たちが動く意志があることを示すのも良いことだよ。もしこれらの企業が、全ユーザーが最初の論争でさっさと移動することを知っていたら、論争は起こらないだろうね。

Anthropicが決して倫理的に何かをしない聖人だとは思わない。ChatGPTも特に良いとも悪いとも思わない。長期的には、オープンウェイトモデルが最良だと思うし、Anthropicがここでやったことをする企業はほんの一部だと思う。彼らには折れないようにかなりの圧力があったはずだけど、彼らはそれに屈しなかった。だから、私は少なくとも何かをして、企業に人々がこういうことを気にしていると示したいと思ってる。無条件の道徳を持つことが大事で、どんな値段でも売り物じゃないと思う。Anthropicとは意見の不一致もあるけど、オープンモデルについての考え方に関しても意見があるけど、全体的にはOpenAIよりも信頼できると思う。ただ、良いGPUがないから、私もChatGPTの使用をやめて、他の人たちがやってるようにClaudeや(Kimi?)を使うつもりだよ。これが今後の道かもしれないね。

コーディング以外のタスクに対するClaudeの使い勝手はどう？ 例えば、レシピや電話のレビューみたいなちょっとした質問のGoogleの代わりに使う感じ。マジで聞いてるんだけど、もし良ければ参考にしたいな。

発言してくれてありがとう。私も同じように解釈してるよ、下に書いた通り。これは、OpenAIが言っていることや、彼らが誇っている契約上の「安全策」に対する「合法的な使用」の単なる甘い言い回しに過ぎない。

OpenAI、元々は非営利団体で、CEOを解雇しようとした理事会があったけど、今は全然オープンじゃないし、倫理についてもあまり関係ないよね。個人的なレベルでも、OpenAIはプライバシーポリシーを2回変更して、以前は集めていなかった私のデータを集めるようになった。毎回無効にするのにたくさんの手順があって、ダークパターンが多いし、データチェックアウトもバグってる。これは、彼らが私が入力したすべての情報をどれだけ使っているかを隠すための偽の機能だよ。

その通りで、これがダリオが言っていることだよ。彼は昨夜のインタビューでこのシナリオを指摘している： https://youtu.be/MPTNHrq_4LU

そのままの意味だよ。制限はすでに法律で決まってるものだけ。これ、ダリオが言ってた言葉遊びみたいだね。

その監視がすでに法律で禁止されている範囲内で。政府契約で「違法なことはできない」と言っても、結局は彼らが「何が合法か」を決めるんだよね。政府に異議を唱えられるシステムに住んでるのは幸運だけど、どちらの立場にいても、みんなその機能を壊そうとしてると思ってるよね（誰がそれをやってるかで意見が分かれるけどさ）。それがまさにダリオが主張してたことだし、DODがそれを回避したかった理由でもある。彼らはClaudeを合法的な目的で使いたかったけど、Anthropicは道徳的理由を挙げた。OpenAIのレッドラインの微妙な言い回しにも注目してみて。「OpenAIの技術を大規模な国内監視に使うことはできません。」インターネット上の普通のコミュニケーションが国際的な境界を越えることが多いから、NSAがこれをどう悪用したかはもう見てきたよね。そして、彼らがそうできなかったことは、アメリカ市民を監視できる同盟国を通じて回避したんだと思う。合法性と道徳性はイコールじゃないってことを忘れない方がいい。これは道徳を形式化しようとする試みだけど、みんながそれを回避するのがどれほど簡単か見てると思う。> 私はこれが、DoWが民間企業からアメリカ市民のデータを大量に調達できることを示唆していると思う。 - 上院にこの件についての法案があるから、あなたの上院議員に連絡してみて。ここにEFFの見解があるよ [1]。個人的には完璧からは程遠いけど、重要な一歩だと思う。これについてもっと話すべきだと思う。私も問題があるけど、ここに何かがあって、物事が良くなるのを妨げてるわけじゃないよね？ 批判するのは簡単だけど、何もしないのはもっと簡単だよね。もう10年以上議論してきたし、小さな一歩を踏み出す方が、後退するよりはマシだと思う。> もし私が正しければ、これはひどいことだね。WorldCoinのことも忘れないでおこう [2]。World（ブロックチェーン）？ World Network？ アルトマンには全く信頼できない。彼が人間とボットを区別するための解決策は、大規模な生体監視だよ。これはFlockのCEOやRingのCMと同じくらい無関係に思える。安全性の失敗も数え切れないし。Soraがリアルな人を生成できるようになった？ いいマーケティングだね。すぐに「修正した」って言ってくれて嬉しいよ…今、いろんなことが急速に進んでるから、注意が必要だと思う。権力を分散させるシステムを開発したけど、自然と集まろうとするからね。政府の権力でも、メールプロバイダーでも。権力が大きくなればなるほど、責任も大きくなる。でも、それが最初に分散型権力システムを作った理由じゃない？ 個人的には、一人か少数の人の管理下にある自律的で無条件に殺すロボットは欲しくない。今管理している人がサイコパスじゃないと信じていなくても（--）、そういう人が権力を握る可能性があることには同意できるでしょ。権力は腐敗する。誰かを殺すことのようなことは、感情的に難しいべきだ。それは欠陥じゃなくて、機能なんだ。命令に疑問を持つ兵士は機能であって、欠陥じゃない。権力を集中させることで、感情を持たない人にその権力を渡すリスクがある。私たちはターンキーの専制政治をより危険にしている [0]、法律は自然言語から正式なシステムを作るための最善の試みかもしれないけど、話がそれちゃったね [1] https://www.eff.org/deeplinks/2024/04/fourth-amendment-not-s... [2] https://en.wikipedia.org/wiki/World(blockchain)

NSA関連の活動や政府の越権行為が、公式から「合法」だとされるメモと共に来ることをみんな見落としがちだよね。

非アメリカ人として、サマの発言には全く慰めを感じないよ（あの蛇が言った言葉を一つでも信じてたとしても、信じてないけど）。

つまり、ネットの公共フォーラムを探って思想犯罪の証拠を探すのは、全然問題ないってことだよね。トランプ政権は、こういうツールを使って政治的な敵や好ましくない人たちのリストを作るだろうし、それを使って人を嫌がらせしたり、個人の権利を選択的に制限したりするんだ。もうすでにやってるし、これでますますやりやすくなるよ。