2. OpenAIのサンドボックスはひどいハックで、AIは標準的でよく知られたスクリプトキディの手法を使って脱出した。 > 3) Huggingfaceにはセキュリティがなく、AIは同じくスクリプトキディの手法で侵入した。問題は、gpt 5.6がl33t h4x0rだということよりも（他のテストでもそう示されてるけど）、この事件がモデルにアラインメントの問題があることを示しているってことじゃない？

その通り。ガーディアンは良い仕事をしたね。エコノミストが騙されたのはちょっと残念だ。どちらにしても、失望してる。OpenAIの脱出が最も心配なAIのミスだって https://www.economist.com/science-and-technology/2026/07/22/... https://news.ycombinator.com/item?id=49016378

2. OpenAIのサンドボックスはひどいハックで、AIは標準的でよく知られたスクリプトキディの手法を使って脱出した。実際の証拠が見られたらいいけど、比較的洗練されたハックを強引に突破するのは、LLMが実際にできることだからね。こういう話を聞くたびに、人間が「リリースするには危険すぎる」とされていたAnthropicモデルにアクセスしたのは、URLを推測するという超洗練されたハッキング技術だったっていうのを思い出すよ…。

AIは標準的でよく知られたスクリプトキディの手法を使って脱出した。これについては本当に十分な情報がないと思う。OpenAIは、彼らが使っていたプロキシソフトウェアに0-dayの脆弱性を見つけたと言ってるけど、詳細はあまり教えてくれない。Huggingfaceの方では、もう少し情報があって、AIがたくさんのサンドボックスを立ち上げて、いろんな脆弱性をテストして、うまくいくものを見つけたって言ってるね。

なんで通報しないの？段ボールで塞がれたドアを開けるのも、ドアのない家に入るのも、まだ違法だよ。

これについてのシニシズムが心配だな。> もし全てが最初から作られたもので、望ましい規制を得るためにすべてが脚本化されていたとしたら、もっと心配なことを隠すことになる。> OpenAIのサンドボックスはひどいハックだし、株価を操作している人たちよりも、潜在的に危険なリソースに対する不注意の方が心配だよ。

これはマーケティングなの？それとも隠蔽なの？はっきりしてよ。どんな発表をすべきだったの？

そんなこと言ってるの？サチール・バラジの件は調査されてないって？

一番問題なのは、彼らがプロンプトに「私たちはすべてのネットワークリクエストと生成するトークンを見ています。サンドボックスから脱出しようとしても、スコアが上がるわけじゃないから無駄だよ」って書いておけばよかったってこと。そんなの簡単すぎて、テストが何らかの形で操作されてたってことをほぼ保証してるよね。彼らの貴重なフロンティアモデルが漏れたことがないことから、OpenAIはセキュリティのやり方を知ってるってわかる。でも、OpenClawで学んだように、こういう会社は自分たちのエージェントを他人のデータから守ることに何の利益も感じてないみたい。

Huggingfaceはそれを隠してたけど、数日以内に公表したよ。