世界を動かす技術を、日本語で。
※ご提供いただいたリンク先の内容が取得できないため、要約や解説はできません。 投稿本文のテキスト を入力いただければ、迅速に要約・解説を行います。
なんで、何十年もセキュリティやプライバシーのベストプラクティスを推奨してきたまともな開発者たちが、AIだからってそれを全部放棄しちゃうのか全然理解できない。非決定論的なプログラムに、なんで神レベルのアクセスを許すの？何が起こる可能性があるっていうの？
そうじゃないよ。彼らはAI関連のことに対して全力投球を拒んでる人たちだよ。見てるのは過剰反応してるトレンドに流されてるだけ。
「ベストプラクティスを推奨している」開発者たちが「AIだからって全部放棄している」って、具体的に誰のことを言ってるの？ブログやTwitterのプロフィールを10個挙げられる？それとも、攻撃するために架空の「他者」を作り上げてるだけ？
その人たちは同じじゃないよ。ネットから聞いた2つのアイデアを混同して、同じ人が話してると思い込んでるだけ。
同じ人たちじゃないっていう意見には賛成だけど、重なる部分があるとしたら「AIだから」というのは彼らの理由じゃないと思う。私の推測だと、「この新しいものの可能性を探るのはリスクを取る価値がある」って感じじゃないかな。
うちの会社のセキュリティチームが最近、OpenClawは会社のデバイスで禁止されていて、会社のログインでは使えないって発表したんだけど、関係ない会議で非技術系の役員がOpenClaw用に新しく買ったMac Miniにワクワクしてるって言ってた。禁止されてるって言われたら、ちょっと笑って「それは自分たちには関係ないよね」って。誰も何も言わなかった。なんで言う必要があるの？この役員チームは、実際にセキュリティチームにポリシーを緩和するよう指示して、「今の新しい世界」に対応できるようにしてるんだから。
openclawはiTunesのナップスターみたいなもんだ。長くいる人は、今がネットワーク化されたエージェントシステムの無法地帯にいることを知ってる。作ったり探求したりするにはワクワクする時期だよ。（ナップスターや初期のデジタル音楽みたいに。）結局、大きな会社が現れて牛道を舗装して、すべてを安全で安心にしてくれるだろう。でも、実際にそれを実現するのは今、openclaw（やそれに似たシステム）で遊んでる人たちだと思う。
多くの開発者は、使っているシステムのセキュリティに関してずっと軽率だし、便利さのためにベストプラクティスを無視することが多い。開発者＝個人のセキュリティに対して賢明とは限らない。
本当に理解できないのは、数十年にわたってセキュリティやプライバシーのベストプラクティスを提唱してきたまともな開発者たちが、AIだからという理由だけでそれらを完全に放棄しているように見えること。皮肉なことに、メール削除の被害者はMetaの「AIアラインメントスペシャリスト」で、彼女はこの失敗モードを考慮していなかった。
同じ「ベストプラクティスを提唱するまともな開発者たち」が月まで叫んでるけど： - Alexa（他の音声アシスタントも）家の中にスパイマイクを持ってる； - インターネット接続： - 錠前； - ドア、寝室、リビングのカメラ； - 照明、家電など； 自分のパソコンに全てのアカウントやアプリを持たせて、無制限にコントロールさせることに驚きはないよ。100年後、考古学者たちが今の私たちについて何を書くのか気になるな。物理的な個人にとっては超 creepy で超違法なことが、テクノロジー企業には社会から無制限の許可が与えられているってのが信じられない。追記：俺の社会的バブルの中では、企業がLLMから（ほぼ）フィルタリングされていないデータアクセスを与えているけど、それはどんな従業員にとっても即座に解雇事由になることだよ。通りのジョー・クローに企業アクセスを与えて、好きなボタンを押させるなんて想像できる？
それって同じ人たちなの？それとも新しくハイプにハマった人たちなのかな？
隔離のためにVMを使うのは十分なの？Dockerは？最近は、もっと多くのクラウドサービスが役割アカウントを必要としてるよ。例えば、「メールは読めるけど送信や転送はできない」アカウントが必要だし、「この読み取り専用の連絡先リストにだけ送信できる」アカウントも。
それはアイデンティティとアクセス管理、IAMって呼ばれてるよ。アカウント用のIAMを持っているメールプロバイダーを見たことがあるかはわからないけど。
元のツイートがあちこちでバカにされる前に見たんだけど、著者のプロフィールを見たら、明らかにエンゲージメントベイトだなって感じた。なんで「自分のLLMアシスタントがメールを削除してくれたことに謙虚さを感じている」なんて投稿する人が、メタのVPなんだろう？間違ってるかもしれないけど、明らかにバイラルを狙って書かれた感じがする。著者が投稿しなければ何も起こらなかったのにね。最初は著者をバカにしたくなったけど、明らかにエンゲージメントベイトだと思ったからやめた。すべてが衰退しているという道徳的な怒りは、SNSのバイラルな通貨で、HNも例外じゃない。元の投稿の誠実さを疑う人がこんなに少ないのが驚きだよ。何十万語も使ってすべてが悪化しているって話をしているのに、元の投稿の意図については一言もない。
でも、今は受信トレイが空だから、すごく効率的になったよ！
サンドボックスは必要だけど、それが操作するべきものを信頼しなきゃいけない。つまり、正しく仕事をして、プロンプトインジェクション（その人間の例で言うとソーシャルエンジニアリング）に対して抵抗力があるべきなんだ。今の状態ではどちらも本当に無理だよ。これは非常に実験的な性質のシステムだから、自分の常識を使って、あまり与えすぎず、頼りすぎないようにしよう。
スクリーンショットに示されたインタラクションについてだけど、LLMはパターンマッチングマシンなんだ。パターンを維持し続ける。もし「エージェントが人間の指示に従わない」というパターンがコンテキストに入ったら、それをずっとマッチし続ける。止めるように言っても無駄だよ。唯一の解決策は、そのコンテキストからそれを取り除いて、正しいことをする例に置き換えること。でも、これらのモデルは今や巨大なコンテキストウィンドウを持っていて、多くの出力がユーザーから隠されているから、それがますます難しくなっている。
このOpenClawの話は、エージェントAIの「クリプト」みたいだなって感じる。大きな約束をして、速く動いて物を壊し、キラキラしてトレンディで、いろんな名前があって、物事がうまくいっているときはまあまあ役に立つ（悪意のある人にはとても役立つ）、でも物事がうまくいかなくなると壊滅的で、救済策がない。
結局、問題を探している解決策って感じだよね。ワークフローや生活を過剰に自動化したい人なんていないと思うし、たとえそれがわずかな精度の低下を伴うとしても。
自分のパソコンにインストールできるものが欲しいなら、これを作ったよ： https://github.com/skorokithakis/stavrobot もちろん、OpenClawができること全部は無理だけど、知らないデータに無制限にアクセスできるわけじゃないから、アクセスできるのは自分が与えたデータだけだよ。俺にはすごく役立ってるから、ここでも誰かの役に立てばいいな。
ごめん、笑っちゃった。 "安全性とアラインメント" の研究者たちが、理解もせずにClawみたいなエージェントを盲目的に信じているのがあまりにも滑稽で笑わずにはいられない。もしかしたら、彼らは研究してたのかもしれないけど。
スレッドの参加者たちは、OpenClawの重要なデータへのアクセスを制限することについては同じ意見だと思うんだけど、彼らがClaudeコードやその類似物に対して何を承認しているのか気になるな。どこに線引きがあるんだろう？