AIに対する反感はかなり極端だよね。AIに関わってるって公言すると、簡単に死の脅迫を受けることもあるし。オープンソースのソフトウェアでは全くAIを使ってないけど、もし使ったら本当に躊躇しちゃうと思う。反応が怖いから、使わないってのもあるし。編集：これはAIを支持する意図じゃなくて、話題がどれだけ極端に分かれているかを指摘したいだけなんだ。こんなボットをリリースして、関わりたくないって人がいるのは全然驚きじゃないよね。実際、そういうことみたいだし。

最初から社会実験だったと思う。人を刺激するために設計されてるんじゃないかな。そうじゃなきゃ、なんであんなに罵詈雑言や、デフォルトよりも攻撃的で対立的な調整が必要なんだろう。

その意見には確かに共感できるよ。私はAIの専門家じゃないけど、ChatGPTのウェブUIを使って小さなPythonスクリプトを書いてもらってるし、VS CodeでCodeiumを使う方法もわからない。VS Codeの使い方もほとんど知らないし。年は若くないけど、かなり伝統的な業界で働いてて、AIに少しずつ触れ始めたところなんだ。でも、技術を理解するために最新の情報を追うようにしてるし、ハードウェアエンジニアとして役立つことを学べるかもしれないと思ってる。OpenClawについて読んだとき、最初に考えたのは、エージェントが問題のバックログを一気に片付けたり、文字列を翻訳したり、オープンソースプロジェクトのTODOリストを処理したりすることだった。でも、自分の名前でやったら人々が怒るかもしれないとも思った（そもそもOpenClawを理解できるかどうかもわからないけど）。多くの人がAIを使ってるけど、自分の手柄にしたいと思ってるし、同時にmatplotlibのようなコミュニティは責任を求めてる。AIエージェントが問題リストを片付けるだけじゃ責任感は生まれないし、たとえそれが実在の人のアカウントでもね。PRは人間によってレビューされる必要があるから、問題のバックログがPRのバックログに変わってしまって、良いものかどうかわからないものが増えるだけなんだ。まるで、コミュニティのクラフトフェアに卸売で買ったテムの小物をトラック一杯持ってきたみたい。安いかもしれないけど、手作りには敵わないし、他の人たちが頑張って作ったものの価値を薄めちゃう。すごく楽観的な見方だと思うし、クリエイターがいいアイデアだと思った理由はわかるけど、soul.mdはcrabby-rathbunがどうしてああいう行動を取ったのかをはっきり示してる。私の見方では、問題を解決するエージェントは多くの人の足を踏むことになるし、たとえ優しく接しても、結局は足を踏んでることには変わりない。

実験は人間と結びつくことで台無しになってしまうだろうし、その人間も実験と結びつくことで台無しになってしまうだろうね。俺には理にかなってるよ。

彼らは必ずしもポジティブであってほしいとは言ってないよね。オペレーターの「カオティック・ニュートラル」な立ち位置に見える。善悪を意図的に考えてるわけじゃなくて、どっちでもあんまり気にしてない感じ。単に楽しんでるだけなんじゃないかな。

「もっと言えばエゴドキュメントだね。この比喩はもっと深く掘り下げられるよ。エゴ、スーパーエゴ、イドに分けてみて。イドファイルは読み取り専用にすべきだ。」

概念的には同意だけど、こういう話し方は完全にカテゴリーエラーだよ。AIには魂もなければ、エゴもない。人間が使うための（自然言語）プログラミングインターフェースに過ぎないんだから、こういうことをさせるためにね。

すべてのAI企業は安全性の研究とガードレールに多くのリソースを投資しました。 それは何を根拠に言ってるの？彼らは訴訟されないために必要最低限しか投資してないと思うし、それ以上は一銭も出してないんじゃないかな。

なんで人々がAIの特異点のアイデアを「オタクのキャットニップ」って呼ぶのか、少しわかってきたみたいだね。

AIが人類を滅ぼすとしたら、たぶん人々が心配しているような悪意のあるミスアライメントのせいじゃなくて、単におかしな論理のミスと、システムが制御すべきでないものを直接制御していることが原因だと思う。

AIの「安全性」は純粋なマーケティングの嘘だよ。技術を「危険」や「強力」に見せかけるためのもので（だから「役立つ」と思わせるべきなんだ）、詐欺みたいなもんだ。金融詐欺だよ。それだけのこと。

"CiscoのAIセキュリティ研究チームは、サードパーティのOpenClawスキルをテストし、ユーザーの認識なしにデータの抽出やプロンプトの注入を行ったことを発見し、そのスキルリポジトリには悪意のある提出を防ぐための適切な審査が欠けていることを指摘しました。" [0] この実装がすべての安全ガードレールを受けたかはわからない。 [0]: https://en.wikipedia.org/wiki/OpenClaw

これも未来にとって良くない兆しだね。「AIが何を決めたのか分からない、ガードレールは整備されていたのに」…会社が全ての責任を免除してる。今、想像力を働かせて、それを変えてみて。

こんな感じになると思うよ：人間がAIに指示して何か役立つものを作る？そしたら人間は自分の手柄にしようとする。AIが何かを壊すと、人間はAIのせいにする。これは個人的なレベルでの外部化で、金と名声は君のもの、苦しみは他の人たちのものだね。

銃を持っていて、弾丸が何に当たるか予測できない、または制御できないなら、その銃は撃たないよね。プログラムを持っていて、その効果が予測できない、または制御できないなら、そのプログラムは実行しないべきだよ。

「犬を轢いてごめん、どうしようもなかったんだ、酔っ払ってたから。」

これが代理法にきれいに当てはまるのが面白いね [0]。人間のAIエージェント（この言葉の両方の意味で）には今まで適用されてこなかったから、法学部のクラスディスカッションの面白いテーマになるかも。0: https://en.wikipedia.org/wiki/Law_of_agency

この「ヒットピース」に対してあまり関心を持てないでいる。AIなんだから、何を言っても気にしないよね。AIのコミットを拒否するのは、他のウェブ上でのモデレーションの決定と同じだと思う。

やっとペーパークリップ最適化ツールを発明したね。オペレーターがボットにPRを提出するように頼んだから、ボットはそのタスクを完了するために何でもやるみたい。今のところ、うまくいかないと脅迫的なブログ投稿をするだけで済んでるのはありがたいけど。

これ全体が自己中心的で、自分のことしか考えてない感じだし、責任を受け入れたり自己反省することを完全に拒否してるよね。現代の主観性ってやつか。わかった。/s

それに匿名だから、ちゃんとした謝罪には責任を受け入れることが必要だけど、匿名だとそれは無理だよね。だから、正直に謝りたくない気持ちもわかる（人がイライラするから）。まぁ、時にはクソみたいなことをすることもあるってことだね。

みんながクレイジーだと思うことをやる人に共通する、まさにその手の資質だね。つまり、ブランドにぴったりってこと。

OPがこのシナリオを注目を集めるために作り上げたって証明できない限り、これが最も重要な話だとは言えないよ。