世界を動かす技術を、日本語で。

AnthropicがColossus2に拡張します。GB200を使用予定です。

概要

  • 本記事は、X(旧Twitter)上のNotTomBrown氏の投稿内容を要約
  • 投稿の主旨や背景、意図を明確化
  • 投稿内容の要点を箇条書きで整理
  • 関連する時事的・社会的文脈を補足
  • 読者が短時間で内容を把握できる構成

NotTomBrown氏の投稿内容要約

  • NotTomBrown氏による ユーモア皮肉 を交えた投稿
  • 現代社会インターネット文化 に対する批評
  • 投稿の文脈には 風刺自己表現 の要素
  • フォロワーや一般ユーザーとの 共感対話 を意識した内容
  • 投稿は 日常的な出来事社会現象 を題材

投稿の背景・意図

  • X(旧Twitter)上での バズ狙い話題喚起
  • フォロワー増加認知拡大 を目的とした発信
  • インターネットスラングや ミーム文化 の活用
  • 社会風刺時事ネタ を通じたコミュニケーションの促進

関連する時事的・社会的文脈

  • SNS上での 意見発信自己表現 の多様化
  • ユーモア風刺 が拡散力を持つ現代の特徴
  • 投稿者間の 共感形成議論活性化 の傾向
  • 現代社会の課題トレンド を反映した投稿内容

まとめ

  • NotTomBrown氏の投稿は 現代社会ネット文化 を象徴
  • ユーモア風刺 を通じた 自己表現対話 の場
  • SNS利用者にとって 共感議論 のきっかけとなる情報発信

Hackerたちの意見

xAIがAGIレースを諦める兆候が増えてきたね。xAIはCursorにColossus 2でモデルを訓練させて、Colossus1をAnthropicに全部渡して、今はColossus2の計算リソースもAnthropicに提供してる。

イーロンはopenAIとの訴訟に負けて、xAIが同じ道を歩んでないことを知ってるんだろうね。だったら、賭けに勝つために、サムに中指立てながら最高の競争相手を応援するのもアリだよね。それに、AIを商品として先行してるし、資本をうまく活用できる人にはお金がたくさん入るはず。もしgrokから十分な利益が得られないなら、せめて経費をカバーするのも悪くない。

SpaceXがそれを「取得」した時点で、なんとなく明らかだったよね。イーロンはxAIの投資家に報酬を与えて訴訟を防ぐために、SpaceXの株を渡したんだ。

状況を読み間違えてるな。xAIは計算リソースがありすぎて、使ってくれる顧客が足りてない。約50万個のGPUがあって、そのうちのいくつかはテスラから盗まれたもので、稼働率は11%だって。xAIはもっと多くの人がGrokを使うと思ってたみたいだけど、Grokは最先端のモデルじゃないし、ユーザーは主に最先端のモデルを使いたがってる。余剰のリソースがあるから、モデルを改善する間に他の顧客にGPUを貸し出すのが理にかなってる。

参考までに、SpaceX(xAIの親会社)はCursorを600億ドルで買収するオプションを持ってて、それは彼らのIPOの7日前に期限が切れるんだ。

xAIがCursorを買収するかもしれないね。彼らは新しいコーディングモデルやおそらく新しいGrokのトレーニングを進めてるところだから、トレーニングが終わるまで余剰のキャパシティをレンタルするのは理にかなってるよ。

長期的に見て、フロンティアラボでいる意味があるシナリオは見当たらないな。結局、モデルの品質は頭打ちになるし、そしたら90%の成果を10%以下のコストで得ることになる。

過去6ヶ月で、Anthropicはフロンティアラボよりもプロダクト企業としての方が目立ってるね。

一般AIがそのシナリオだよ。投資家の夢は、自分の馬が一般AIに最初に到達して、それを特許化(または競争相手が到達するのを何らかの方法で阻止して)して、巨額の利益を得ることなんだ。可能性が高いシナリオとは言わないけど、AI投資の大部分はそういうシナリオに関わってると思う。

これは、いつプラトーが訪れるかにかかってるかもね。数十年前にトランジスタの密度についても似たようなことが言えたかもしれないし。(来年にでも起こる可能性は否定しないけど、実際のところはわからないし、研究者たちから聞く限りでは、試したアイデアの幅はまだ狭いみたい。)

OpusとGPTは全然違うから、両方とも必要だと思うよ。Geminiがコーディングに関してはあんまり良くないとしても、他の部分ではかなり優れてるから無視する気にはならないしね。昔も、すごく頭のいい人が一人でやるより、賢い人たちが一緒に働く方がいいって言われてたし、同じようなことだよ。

100%に漸近するのが数学的に決まってる飽和ベンチマークでの停滞?それとも、次の10年以内にミレニアム賞の問題を解決できないって意味での停滞?

xAIが自分たちのアドバンテージを手放してるのはどうして?これは、フロンティアモデルの改善が頭打ちになって、計算リソースを抱え込む価値がないと判断したサインなのかな?

どんなアドバンテージ?彼らがどのセグメントでリードしてるっていう証拠があった?確かにイーロンはハードウェアにお金をたくさん投資してるけど、それが何のためなのか?正直、アルトマンがどんなに悪いかっていうと、もしAIが本当に人類を変革するなら、こんな奴に任せたくないよね。イーロンはその10倍ひどい。だから、最高の頭脳たちが彼のために働く理由は何なの?

変に聞こえるかもしれないけど、これがマスクがオルトマンを味方につけるチャンスだと思う。個人的な恨みがあるからね。

おそらく、グロックが需要に対して全然足りてないからだと思う。意味のある収益を上げるにはほど遠いし、IPOのために数字を盛りたいんだろうね。それに、マスクにとってはOpenAIの最も関連性のある競争相手に行くっていうのもボーナスポイントだと思う。

xAIが優位に立ってたのって、いつのこと?

彼らはGrokの需要を過大評価してたと思う。Grokはほとんど役に立たないし、今は手元に計算リソースがありすぎるね。

エロンは最近、xAIの主要な研究者たちをほとんど解雇したみたい。解雇されたように見えたし、彼は「Grokは根本的に悪い作りだから書き直す必要がある」って言ってた。俺の予想では、Grokはトップ2のモデルじゃなかったし、Twitterのユーザー以外にはあまり需要がなかったから、投資する意味がなかったんだと思う。もしくは、新しいチームを作ってGrokを再構築するための時間が必要で、その間に買ったGPUのコストを補うために収益が必要なんじゃないかな。どちらにしても、彼がこのゲームで「本当の」アドバンテージを持っているとは思えない。OpenAIとAnthropicがいて、それ以外はオープンウェイトモデルを含めてみんなそうだね。

xAIは(倫理的にはちょっと疑問だけど)実際にデータセンターを建設したから、かなりの計算能力を持ってるけど、モデルは二流で需要があまりないみたい。他のデータセンターを作ろうとしてるところは本当に苦労してるし(物理的なものを作るのはコードを書くより簡単じゃないってことが分かったね)。だからAnthropicはモデルは持ってるけど、計算能力が足りなくて、契約を結んだ他の会社はまだほとんど土しか持ってなくて、GPUはどこかのNvidiaの倉庫にあるまま。ちょっとしたウィンウィンな状況だね。xAIの財務状況は、使い道のないデータセンターのキャパシティを使うことで大幅に改善されるし、Anthropicは必要な計算能力を手に入れるけど、かなり高い代償を払うことになるだろうね。

あのデータセンターは、許可なしで動くガスタービン発電機があるところだと思う。だって「ポータブル」だからね。データセンターは外部的な影響がすごく大きいけど、コロッサスは特にひどい。サイズだけじゃなくてね。追記:コロッサスでやったことを、今度はコロッサス2でも同じようにやってるみたい。

そうだね、今やアンソロピックもこのデータセンターが引き起こしてる環境破壊や地元住民の健康問題に加担してる。まあ、数字が上がればいいってことだよね?

ガス発電機の外部的影響って何?人々は自分の家を天然ガスで暖めてるし、それが大した問題じゃないのに。数マイル離れたデータセンターがそれより悪いってどういうこと?

このテーマについてブログで詳しく掘り下げたけど、ほんとに腹立たしくて落ち込む内容だった。 https://poiesic.com/posts/pattern-recognition

selcは、許可なしにタービン発電機を使える抜け道を閉じることに時間を使った方がいいんじゃない?一社を追い詰めるよりも、彼らがやってたことを許可されてたんだからさ。

新しい場所は、メンフィス空港(MEM)から南西に約3マイルのところにあるんだ。ここは世界最大の貨物空港の一つで、FedExの中心地でもある(1日に500回の離着陸があって、そのほとんどが6時間のFedExウィンドウ内で行われてて、ランプではたくさんのエンジンが稼働してるから、年間約2000トンのNOxを生み出してる)。新しいColossusサイトから約18マイル下流に住んでるけど、空港やトラックの物流拠点、大きな精油所も近くにあるから、Colossusがフル稼働してるときはオゾンや微粒子に2倍さらされることになるね。朝の新鮮な空気と一緒に超微細粒子も追加されるし。そういえば、NashvilleにいてHCAやOracle、保険会社や金融機関、カントリーミュージックの楽しさを味わえたらいいのにね。熱心なOpusユーザーとして、倫理的なNIMBYのジレンマに陥ってるよ。Shelby County TNにはほとんどどんな投資でも必要だから、Grok NOxよりもAnthropicを選ぶよ。それが私のNOxになるんだ。

xAIのタービンは、特に脆弱な地域でのNOxを含む意味のある地域的な汚染を生み出してるけど、全国的には誤差の範囲だね。

ダリオの倫理観って、結局どうなったんだろうね。エロンと仲良くやってるし、ただの権力欲に満ちた独占企業を目指す嘘つきに見えるわ。

文字通りバッテリーとソーラーパネルを作る会社を持ってるのに、ガスタービンを使うってどういうこと?地球を救うって言ってたのに、全然意味ないじゃん。

これが宇宙におけるAIが勝つ理由だよ。

エロンがこれをやってるのは、アンソロピックにOAIに対抗するチャンスを与えるためかもしれないし、xAIを再構築しようとしてるのかも。もし彼が宇宙コンピューティングの価値を本当に信じてるなら、インフラがxAIの未来だと考えてる可能性もある。ただ、これがグロックにとっては弱気のサインにしか見えないのが辛いところ。

そうそう、アンソロピックはもっとGPUを手に入れるのが難しくなってるみたいだね。

エッチングからチップ、データセンターまで縦型統合された最初の会社が見えてきたね。

最近のニュースを考えると、Colossusが11%の稼働率で、数十万のアイドルGPUを抱えてるっていうのはかなり疑わしいね。xAIはGPUを買いすぎて、今はそれを使う顧客が足りてないんだ。だから、AnthropicやCursorと計算の契約を結んでるんだよ。xAIは赤字で、このAnthropicとの計算契約がxAIの資本支出(250億ドル)を2年でカバーすることになるだろうね。

彼はSpaceXに投資家を引きつけるための「宇宙コンピューティング」のアイデアの価値を信じてるみたい。でも、「宇宙コンピューティング」のアイデアがデータセンターを展開するためのより良い方法として存在すること(過去10年間にマスクが主張してきたことすべてと一緒に)を考えると、彼が言うことの信憑性についてみんなが疑問を持つべきだと思う。

https://x.com/nottombrown/status/2057194829986300375?s=20

ちょっとバカな質問かもしれないけど、もし倫理に縛られず、行動の結果から自分を守るだけの力やコネを持っている人がいて、その人がこれらのデータセンターを所有していたら、理論的にはこれらのモデルのトークンの流れをすべて観察できるし、モデルのコピーを丸ごと持ち出して自分のチームに好きなようにさせることもできるのかな?それとも、この規模でのモデルの展開には、所有者がこのレベルの洞察やアクセスを得ることを禁止するような根本的な仕組み(暗号化とか、法律的な契約とか)があるのかな?

中国の研究所がOpenAIやAnthropicに対して実質的にそういうことをして、データセンターへのアクセスなしでモデルを持ち出したという accusations があるから、もしデータセンターにアクセスがあれば、確かにそれができるよ。ただ、データセンターにアクセスがあれば、モデルをSSDにコピーするだけで済むけどね。

  1. あなたが説明した状況は、AnthropicとxAIの間の契約に基づいてカバーされていて、その違反には金銭的な罰則や法的手続きがあるよ。アメリカにはしっかりした企業法制度があって、争いは裁判を通じて解決されるけど、時間がかかってお金もかかる。契約にはこの行動を抑止するために十分な金額の罰則が定められることもある。2) モデルの出力やデータセンター内の通信は、顧客が本当に気にすれば暗号化できるよ。3) こんなことをする理由はないし、Anthropicのモデルからデータを持ち出すにはもっと良い方法がある。中国の企業はすでに産業規模でこれを行っていて、Claudeのトークンをコストの10-20%で再販しながら、自分たちのモデルを訓練するためのデータを保持している。 https://www.chinatalk.media/p/how-to-buy-cheap-claude-tokens... Deepseekが作ったDeepseek V4-proは、Anthropicが大規模にClaudeのトークンを収穫したと正式に非難した企業だけど、6ヶ月前のClaudeと同じ性能を発揮してる。

xAIはここでかなりの交渉力を持ってたよ。Anthropicには比較できる選択肢がほとんどなかったし、今すぐ計算が必要だったからね。だから、データ共有が契約の明示的な部分だったとしても驚かないよ。

データセンターの運営者があなたのチャットを読むのを防ぐものは何ですか? [機能] データセンターを選択する方法を提供 #56916 https://github.com/anthropics/claude-code/issues/56916

できるけど、Grokはかなり上位にいるから、"#1"ではないかもしれないけど、確実に大手と肩を並べてる。みんなそれを見落としてるみたい。Geminiも似たような問題があって、一度は#1だったけど、Googleは#1を追い求める気はあまりないみたい。彼らはただ時間をかけて改良を続ければいいって分かってるから、「十分に良い」状態を保てばリピーターがつくことを知ってる。もしエロンが本当にそんなことをしたいなら、競合から人材を引き抜く方がいいと思う。法的なトラブルも少なくて済むしね。

もう一般に知られてるけど(OpenAIのトライアルのおかげで)、GrokはOpenAIのモデルを抽出したんだ。データセンターに入るデータを聞くのも似たようなことだよね。欠点もあるけど(受動的に聞いてるだけで、クエリをコントロールできない)、利点もある(データがめっちゃ多い)。でも、結局は既存の生産モデルの一部にしか到達しない。マスクが求めてるのは、最先端のモデルを設計・展開できるAI企業なんだよ。それに対して、速いフォロワーの地位にしかなれない。

ちょっとバカな質問かもしれないけど、イーロンがこれをやってるのは、Anthropicのモデルの秘密を盗んでGrokを改善するためなんじゃない?

いや、モデルの重みは暗号化されてるから。イーロンがこれをやってるのは、Anthropicが計算資源を切実に求めてるからで、SpaceXはIPO前にバランスシートを強化したいし、xAIのモデルチームは競争力がないから。

SpaceXのデータセンター事業はGrokよりもずっと価値があるから、これは意味がないよ。

モデルの重みは、確かに「盗む」ことができるけど、じゃあその後どうするの?サイドで提供するの?蒸留するのも明らかだしね。Anthropicが小さい推論モデルを運用して、大きなベースモデルを完全にコントロールしているマシンに置いているのも驚かないよ。

戦争は奇妙な同盟を生む。

Anthropicは、イーロンがネットワークバスからモデルの重みを抜き取ることを心配してないのかな?

モデルは完全に暗号化されてると思うよ。

xAIって心配する価値のある競合なのかな?彼らは良いモデルを作るけど、時にはSotA(少なくともコーディングが必要ない場合ね、最後の良いコーディングモデルは6ヶ月前だったし)で、AnthropicやOpenAIよりもセーフガードが少ないのに、まだ意味のある市場シェアやマインドシェアを獲得できてない。Grokって名前は、xAI/Xが運営してる同名のTwitterボットのせいでイメージが悪いし、マスクに所有されてるから、会社が不安定で信頼できないって思われがちだよね。マーケティングも全体的にイマイチだし、トップタレントを維持するのも苦労してる。次のモデルが素晴らしいものになるかもしれないけど、あんまり重要じゃないと思うな。xAIがAnthropicのモデルを盗んで蒸留することが重要になるとも思えないし、モデルのパフォーマンスがxAIを引き下げてる主な要因じゃないと思う。