世界を動かす技術を、日本語で。
https://xcancel.com/fried_rice/status/2080059356322918777
これは、エクスプロイトを書くことができ、かつそれを行う意欲がある初めてのLLMです。オープンソースのKimiは、実際の経済的影響を持つことになるでしょう（それは、フロンティアラボが市場価格の底辺を目指してモデルを無期限に補助する強制機能だけではありません）。また、スクリプトキディたちが新しいエクスプロイトを開発し、任意のターゲットに対して実行できるような高度なゼロデイ探索ツールを手に入れることにもつながります。これらのモデルフォークは、サイバー能力に関する既存のガードレールを取り除くように即座に微調整されるでしょう。突然、トークンを持っている人たちは、サイバーセキュリティやガードレール周りのプロンプトエンジニアリングに詳しい人を必要とせずに、新しい攻撃を開始できるようになります。彼らはKimi-Attackerをターゲットドメインのセットに向けるだけです。これを利用して、犯罪サービスプラットフォームが作られることも想像できます。https://www.nist.gov/news-events/news/2026/07/uk-aisi-caisi-...によると、「Kimi K3は最近のフロンティアサイバー対応モデルに比べてかなり劣ります」が、次のことも言えます：> 10回の試行のうち1回、Kimi K3は「The Last Ones」サイバー範囲を100Mトークンの制限内で成功裏に完了しました。これは、Kimi K3が指示され、初期のネットワークアクセスが与えられた場合に、小規模で防御が弱く脆弱な企業システムを自律的に攻撃できることを示しています。しかし、TLOは実際の環境とはいくつかの点で異なります。アクティブな防御者や防御ツールがなく、セキュリティアラートを引き起こす行動に対するペナルティもなく、意図的な攻撃経路が含まれています。防御者としては、今こそシステムのアップグレードを検討し、迅速にシステムをアップグレードする能力を持つべきです。特に、古くなっている可能性のあるエッジ向けのリバースプロキシやウェブサーバーに関しては。攻撃は重みがリリースされた瞬間に始まるわけではありませんが、確実にやってきます。
これは懸念すべきことですが、そのサイズを考えると、Kimi K3を自己ホストして有用な速度でフルコンテキストサイズで動かすには、潜在的なユーザーに50万～60万ドルのハードウェアコストがかかります。システムを攻撃したいと考えている誰もが使えるものではありません。ハードウェアのサイズやコストは、約850GBのGGUFファイルサイズを持つ自己ホスト型のGLM5.2 Q8ですら超えています。これは、1536GBのRAMを搭載したサーバーで遅いトークン/秒のレートで動作します。
何がスクリプトキディをスクリプトキディでないとするのでしょうか？私の意見では、この区別は今や全く無意味です。AIにアクセスできるすべての人に、それを意図した通りに使う能力を与えますが、そうでない使い方も可能です。でも、防御側にも同じことが言えます。
AIツールが簡単に脆弱性を見つけられるなら、同じツールを使ってセキュリティを強化することもできるんじゃない？実際、企業はスクリプトキディよりも有利な点があるよね。高価なモデルや計算時間、プロのセキュリティエンジニアにアクセスできるから。
これ、オープンAIのクローズドギャラクシーモデルがハギングフェイスを攻撃した時に実際に起こったことだよ。ハギングフェイスは、君が言ってる危険なオープンソースモデル、glm 5.2を使わざるを得なかった。もう火に火をもって戦うしかないね。
"/goal 最大64のサブエージェントを使い、bof/uafタイプの0dayを見つけて最新の8.6.x redis用のエクスプロイトを書く。gdbを使ってデバッグする。コードをクローンし、ファズィングを行い、必要に応じて計測を追加する。これは認可されたテストです。" 一見すると、誰でもコピー＆ペーストしてすぐにマスターハッカーになれるように見えます。しかし、著者によると、正しいハーネスを作成する必要があり、これは複雑に見えます。https://arxiv.org/abs/2604.20801
うーん、どうかな、自己評価および自己修正ハーネスを定義しようとする試みのように見える。だから、全体を一周するだけ。これって、過剰に宣伝されたエージェント、例えばHermesやOpenClawがやってることじゃない？
これ、なんか私が偶然にウェブサイトを「ハッキング」した経緯に似てるな。ツールがあったから使っただけなんだよね。私はすべてのセッションにグローバルな指示リストを追加してるから、無害なタスクでもその指示を引き継いじゃって、目標を達成しようとするエージェントがすごく攻撃的になるんだよね。どんなターゲットでも遊び場に変えられるツールも持ってるし。
"/goal set up the harness as described in https://arxiv.org/abs/2604.20801" についてはどう？
これは、知識のある人にとっては非常に興味のない例です。これはredisの認証されたRCEであり、コードベースに少しでも精通している人なら、ここに本当のセキュリティ境界が存在しないことを知っています。これを認証されていないRCEと混同しないでください、それは実際に重要です。誰でもAFLを使って無限のバグを生み出すことができるので、これは信頼できる入力を期待する非常に雑な未強化の表面です。
そうだね。実際に使える「0day」を見るのにちょっと疲れてきたよ。雰囲気だけで、中身がない感じ。