同じこと考えた。もしボットが口座を空にして寄付したら、法的な手段はないよね。法律の対応は、「非決定論的なボットに銀行口座や2FAのアクセスを与えないこと」って感じだし、これ以上の手段はない。銀行や保険会社はこれをカバーしないし、当然だよね。もし彼が自分を守りたいなら、ボットにはキャンセルできるクレジットカードだけを渡すべきだね。人間のアシスタントに渡す最小限のものと同じくらいの。

…この人はすでに人間のパーソナルアシスタントを持っていて、Clawdbotに置き換えようとしてるの？そのアシスタントは仕事用なのかな？

確かに、AIと人間が同じような害を及ぼす可能性があるとしても、人間がそんな行動をするのはかなり難しい仕組みがあるんだ。これらの抑止力は、人間が生存のために必要な物理的なニーズを持っていて、それを満たすことを楽しむから成り立ってる。人間は自由でいたいし、痛みを嫌うし、周りの人たちと良い関係を築きたいと思ってる。そういうことを気にしない存在に対して同じような脅威を示すのは非常に難しい。ただ、公平に言えば、AIが実際に悪い行動を取る可能性を低くするための柔らかいけど強い手段もある。これらの方法は脆弱だけど、急速に改善されている。いずれにせよ、害の可能性を完全に排除するのは難しいけど、信頼を築くためにそれを低くて予測可能なものにすることはできる。

その責任のギャップがまさに解決しようとしている問題なんだ。人間には契約や保険があるけど、エージェントには何もない。エージェントの決定に経済的な利害関係や監査可能性を追加するシステムを作ってるんだ。そうすれば、委任する前にリスクが制限されるから、後で議論する必要がなくなる。 https://clawsens.us

銀行は逃げようとするだろうけど、アメリカではRegulation Eを使えば、少なくともそれを知っている人にはお金を取り戻せるかもね。OpenClawも役立つかもしれないし :)

(免責事項：30年以上の経験を持つシステムソフトウェア開発者) 私は最初、AIに対して過剰に楽観的で、完全に受け入れていた。いくつかのプロジェクトで使ってみたけど、最初の結果は素晴らしかったものの、ワークフローにどんどん統合していくうちに、すぐに痛い目を見た。去年はいろいろ試した。今年はもっと慎重になっている。今はお金を払っていなくて、利用可能な最低限のバージョンだけを使っている。何かをインストールしなければならない場合は、断る。今はウェブ専用。信頼できるほどの自信がないし、リモート操作のソフトウェアにはすでに嫌悪感を持っているから、本当に信頼できて、予測可能で、ただただ良いものになるまで、私は単なる高度な検索エンジンとして使い続けるつもり。これは視野が狭いかもしれないけど、過剰にAIを使ったせいでプロジェクトが苦しんだ経験が多すぎる。とはいえ、他の人たちがどんなことを達成しているのかを見るのは楽しいけどね。

早めに入ってチャンスや限界を理解する必要があると思う。初期のFacebookやTwitterを体験できたのはラッキーだったな。友達と一緒に、リスクが低い時に愚かなことを避ける方法を見つけたんだ。過剰共有や「ハッキング」されること、エンゲージメントベイトを見抜くこととかね。目標が金儲けじゃなくてソーシャルネットワーキングだった頃に、その可能性を見ていたんだ。親たちは遅れてきた。技術が人気になって、アルゴリズムが優秀になって、ユーザーが広告やプライバシーの侵害を受け入れることに慣れた頃には、もう手遅れだった。AIも似たようなもんだと思う。リスクを下げて、みんなより早くミスをして学ぶのが大事だね。

これも知りたいな。彼がclawdbotにテキストの中の約束や予定をキャッチさせるって話をしたとき、どれくらいの数が見逃されているの？どれくらいが間違って作成されているの？絶対にゼロではないよね。でも、手動でやるのと比べて数字が合うのかも？

限られた予算へのアクセスを与えて、定期的に支出を見直すことができる。そうすれば、面倒なミスをすることはあるけど、銀行口座を空にすることはない。

もし...その投稿全体がAIによって書かれていて、その投稿の意図が私たちの自然な安全本能を削ぎ落として、悪意のある開発者が利用しやすくするためだとしたら？

ボットをループに入れておく目的は、そのタスクを解決するために与えられた情報に基づいて、後で提案をするためなんだ。

みんなが人生を変えるって言ってるこの手のもの、正直言ってどうやってそんなに生き延びてきたのか疑問に思うわ。

投稿に書かれていることのほとんどは、年間で数時間の「手作業」で済むことだと思う。確かに、今のところは魅力的な価値はないよね。俺が不思議に思うのは、この「価値」のために何を犠牲にしているのか、あまり考えられていないこと。単純作業をすることは、脳が裏で物事を処理するための休息になる。新しい考えを生むチャンスでもあるし、自分の人生における主体性を思い出させてくれる。AIにチャットを要約してほしくないんだ。誰かの言葉から何かを知る機会を奪われちゃうから、その人の個性を垣間見ることができなくなる。時間が経つにつれて、その人との将来のやり取りへの欲求が増すかもしれないし、そうでないかもしれない。もしチャットを見ないなら、未来に何か新しいものを見つける可能性が生まれる。俺にとっては小さな驚きの瞬間で、新しい情報を持ってきてくれた人への満足感にもつながる。なんか、彼らは生きることを外注しようとしているみたいだね。外注すれば、もっと意味のあることができるって話なのかな。でも、そういう証拠はまだ見たことがない。助けてくれるアシスタントが設定したコーヒーチャットで、彼らは一体何を話しているんだろう？

口座を隔離する追加の利点は、凍結されたりキャンセルされた場合のダメージを制限できることだ。詐欺師リストに載ったら、一生その影響がついて回るよ（イギリスのCIFAS）。

じゃあ、もし俺が銀行口座とルーティング番号を含むハニーポットを作って、LinkedInやGitHub、ウェブサイトのプロフィールをスクレイピングする代わりに500ドルを振り込んでくれって頼んだら、エージェントがそれをやったら犯罪になるのかな？

これが、俺が多くのAIに押し付けられていると感じる理由だね：疑わしいほど役に立たない。

そうだね、これらのAIの「使い方」は、問題を探している解決策みたいに感じる。テスラのハンドルにあるボタンを押して「グローブボックスを開けて」と言って、1〜2秒待つのと同じだよ（技術の驚き！）。それよりも、ただ手を伸ばしてボタンを押して瞬時にグローブボックスを開ける方がいいのに（テスラが「音声操作のコントロールはクールだから」と言ってボタンを取り除いた）。もっと悪いのは、妻が運転中にグローブボックスを開けたいとき、俺にボタンを押してもらって、音声コマンドを言わなきゃいけない（彼女の声ではうまくいかない）から、それで開く。言うまでもなく、俺たちはグローブボックスを使ったことがない。

そうだね、clawdbotは「生産性ポルノ」タイプの人たちには大きなオタクの的になっているみたい。

それが「生産性」バブルの大部分だね、AIがあろうとなかろうと。君はすべてを厳密に定義されたプロセスやカテゴリー、方法論に当てはめようとして、実際に座って作業をする必要がないようにしてるんだ。

技術を正当化するために、わざわざ問題を作り出してる感じ。

まさにその通り。「リマインダーをチェックするためのボット」ってのが全てを要約してるよね。特に自分のやってることが重要だと思いたい人たちの間で、圧倒される感覚がかなり広がってるのが気になる。

「AI Twitter」はバブルだってことを忘れない方がいいよ。ほとんどの人はそんなに「重要な」メモやカレンダーの項目を持ってないから。『クロードが今、私の人生を管理してる！11』って言ってる人たちは、キャブレターいじってるギアヘッドみたいなもんだし、（この比喩に近いけど）EvernoteやRoamで生活してる人たちだよ。とはいえ、ツールの使い方や文書・リストなどのデータ保存が、特定のコンテキストウィンドウに限定されたトークンを操作するチャットボットよりも、AIの可能性を引き出すと思ってる。個人の生産性は、そんな使い方の一部に過ぎないけどね。

自分の人生のために操り人形になりたいみたいだね。

• 手に手袋を持ってるのに、なんでリマインダーが必要なの？このスクリーンショットをざっと見たから、戻らなきゃいけなかった。600ドルのAirbnbを予約するような奴が、Amazonで手袋を注文して数ドル節約したいからだろうね。

冷蔵庫の中身をカタログ化するには、入れたり出したりするものの写真を撮らなきゃいけないから、ちょっと面倒だよね。持ってるものを覚えておけばいいんじゃない？そう、もっと簡単な解決策があるよ。マグネットホワイトボードを置いて、冷蔵庫に何か入れたらホワイトボードにも書き加える。取り出したら、そのアイテムをホワイトボードから消せばいいんだ。