Metaを批判するのは好きだけど、これは納得できる部分もある。こういう決定論的な確認は、LLMの仕事じゃないし、あってはならない。ツールがアクセスできるものは、権限のレイヤーを強制すべきで、LLMがユーザーが許可されていない行動をすることは絶対にないようにするべきなんだ。この場合、ツールがそれを怠った。

もしかして、彼らはそのままの意味でコミュニケーションしていて、自分たちが完全にバカだって認めてるのかも？

ああ、それは下流の依存関係だったんだ。ツールは動いてたけど、下流の依存関係が問題だった。アーストツカ万歳！

ここでの主張は、AIはただの入力ページに過ぎないってこと。入力フィールドはユーザー名とメールアドレスを求めて、それをバックエンドの関数に送信する。そんな入力ページは意図通りに機能してるんだ。問題は、バックエンドの関数がメールアドレスとユーザー名を確認しないこと。

それ、ClaudeやChatGPTが何か間違ったことをしたときに言い訳する時の言い回しにすごく似てるね。ソフトウェアの問題についてカスタマーサポートの返答を求められた時も。

だから「ツール自体」がそもそもその仕事に適してなかったってことだね。

そのバグはどれくらいの間あったの？サポートエージェントなしでアクセスする方法はなかったのかな？MetaはAIからの責任を逸らすために何でも犠牲にする気がする。だって、彼らの6000億ドル（「どの数字を使うかによるけど」）の実験が終わっちゃうからね。

ツールは正しく機能してたし、意図通りだったけど、バグのせいで正しくも意図通りにも動かなかった。

イタリア語では「手術は完璧に成功したが、患者は死んだ」と言います。

彼らを擁護するなら、LLMに間違いを犯さないように頼んだんだよね。

ソフトウェアのプロたちが、ユーザー体験のシンプルさと開発者体験のシンプルさを混同してるんだ。開発中はユーザー体験やサポートエージェントの体験を考えてなかっただろうし、ただ自分たちの開発体験に集中してたんだ。LLMにチャットボットを開発させて、それがうまくいったから、スピードが文書化されて上に報告されて、株主が投資するようにしてる。もし先を見越してたら、AIがエンジニアになるとか、生産性が100倍になるっていう話に反することになるよね。

発明の本質は、人々が自分の頭を使う負担から解放されることなんだ。例外はあるだろうけど（もちろん、君も含めてね、このコメントを読んでる人）、大多数の人はAIを使って怠けたいって思ってるんだよ。

アカウントは別に作ったの？それともメインのMetaアカウントの資産として（Meta Business Suiteみたいに）？俺はMeta Business Suiteでアカウントを作ってるから、広告費用とリンクできるメインの個人アカウントがあるんだ。だから、エンドユーザーインターフェースから作ったアカウントよりもサポートチャンネルが良いはずだと思ってる。

ドイツ語で「KI und der Neue Faschismus」（AIと新しいファシズム）という素晴らしい本があって、著者のライナー・ミュールホフが不透明な統計モデル（LLMみたいな）に基づく決定の危険性について警告しようとしてるんだ。人間が監査できる明確な決定プロセスの方が大事だって。

これ、ほんと最悪だよ。ビジネス用のアカウントを作ろうとすると、数分でIDを求められて、それでもアカウントがバンされちゃう。全部個人アカウントを通さないといけないんだよね。

これは残念ながら非常に一般的なことなんだ。ビジネスの人たちの間では、ブランドや商品ページを最初に作るときに予想される結果の一つだよ。これがうまくいかないなら、ブランドや広告代理店に連絡して、彼らのMetaのコンタクトに助けを求めるために100ドル払うことを勧めるよ。これを作るには、Metaの誰かを知ってる人が必要なんだ。ヒント：これをTwitterや他のプラットフォームに投稿しない方がいいよ。自動スパムが大量に来るから。

あの甘いクーラードリンクの味、どうして抵抗できるんだろう？…本当にやるべきじゃなかったと思うし、これが大手AIのIPOにどう影響するのか気になる。結局、Metaはこの分野の大手プレイヤーの一つだからね。もし彼らがうまくいかないなら、どうなるんだろう…。

アカウント回復は、どのサービスでも一番多いチケットの種類だね。人々が認証情報を忘れたり、失ったり、ハッキングされたり、なりすまされたりするから。これが正当なチケットだけど、さらに日常的なスクリプトキディや身代金詐欺師（「価値のある」ハンドルを盗もうとする人たち）から、反対派アカウントにメッセージを送る人たちのDMにアクセスしたい国家の行為者まで、いろんな不正なチケットもある。これには三つのことが関わってくるんだ。まず、人間がこれらのチケットを処理するのにお金がかかること。次に、そういったリクエストに対して行動するかしないかでPRのダメージがすごく大きくなること。そして、ユーザーや顧客は世界で一番頭が良くて金持ちな人から、クマに脳みそが負けるような完全なバカまで様々なんだ。さらに悪いことに、オンラインサービスは政府発行のIDに結びついてないことが多くて（直接的にも、携帯電話のSIMみたいな代理を通しても）、すべてのレベルで腐敗が絡んでる。特に「おいしい」ターゲットの場合、金銭的な価値に換算できるなら、数百万ドルに達することもある。今、インスタグラムだけで世界中に30億人のユーザーがいるから、ユーザーサポートに多くのお金を使わざるを得ないんだよね（全世界のことを考えると、約7000の言語にも対応しなきゃいけないし、アメリカの大統領やイーロン・マスクみたいな強力なターゲットもいる）。全体的なリスク管理がひどく欠けてたのは明らかだけど、そもそもこれが簡単な問題領域だとは思わないでおこう。だからこそAIの導入が進んでるんだ。正しくやれば、ファーストレベルのサポートデスクの仕事をかなり減らせるからね。

2FAは役に立たなかったみたいだね。 https://news.ycombinator.com/item?id=48359102

現実的に、これがMetaにどんな影響を与えると思う？一部の人は怒ってるけど、他の人は気にしてないし、いつも通りのビジネスだよ。