モデルが人口の2.5%（知識労働者の価値）だけに使われているという前提を立ててるけど、これらのモデルによって新しい価値が生まれて、人々はそれに対して喜んでお金を払うようになるよ。5年以内にハイパースケーラーがリターンを期待するのはナイーブだし、規模を達成するためには数十年にわたってどのテック企業もそうだったように、投資やIPOで支えられることになる。ハイパースケーラーは現在、年間約6500億ドルを合計で使っていて、キャッシュもあるし、将来のコンピュートをすぐに売ることもできるんだ。

知識労働者の給料の5%がトークンに入る世界の話をしてるんだ。彼らは世界のGDP成長率が約10%になると仮定してるけど、実際は約3%だよね。パイが大きくなれば、同じ割合は必要ないかも。そんな成長が実現するとは思えないけど、そう思わないなら受け入れやすくなるね。

なんだかUberとWeWorkは、達成できなかった同じような大きな予測を生き延びたよね。

AGIを開発することの期待値（EV）もあるよ。たとえこの会社の寿命内にその確率が低いと思っても、その価値はものすごく高いから、5兆ドルくらいの誤算は許されるかも。

ボトルネックが「動くものを作る」から「そのものが正しいものだったかを知る」ことに移った。後者を多く引き受けるほど、知識労働者は少なくて済む。だから、知識労働者の給料の5%がトークンに入るのではなく、知識労働者の総雇用コストの100%がトークンに入って、そのタスクで最低でも20倍の生産性向上が得られるってこと。これがゲームなんだ。この視点から見ると、パイが大きくなってるだけとも言える。コストのダイナミクスによって、もっと多くの「小さなビジネス」が大きなレバレッジを得られるから、全体の経済が成長しても知識労働者は置き換えられない。MBAのクラスがその視点を持ってるとは思えないけど。

AnthropicとOpenAIの合計CapExは、ずっと前からここにあると思ってたよ。 https://isaiprofitable.com/

いくつかの考えを挙げると： - 推論コストとトレーニングコストの比較に関する公開情報は矛盾してる。データセンターに関わるエンジニアは、トレーニング中の電力使用量の急増が設計において大きな要因だと言ってるけど、コスト最適化スケーリングを扱った学術論文では、推論時間の計算が重要な要因として扱われてる。 - トレーニングが償却後に推論よりも計算集約的であることを示すバランスの一方には、中国のプロバイダーが計算へのアクセスに制約されているにもかかわらず、米国のプロバイダーよりも低価格でほぼ無限のトークンを持っていることがある（推論）。でも、モデルの能力は劣っている（トレーニング）。これは、米国のプロバイダーが海外のプロバイダーが負担できない償却されたトレーニングコストによって推論コストを20-30倍に膨らませている場合にのみ意味がある。 - トレーニングが推論よりも遥かに大きいなら、彼らは通常の企業間競争のゼロマージナルモデルを超えた囚人のジレンマに陥っていることになる（その巨大な離散的な段階的性質のため）。逆に、推論がトレーニングよりも遥かに大きいなら、特定の思想的リーダーによって広められた高レベルの分析が、ユーティリティのようなものであるというのは真実だろう。これは推論がトレーニングよりも大きいという票として数えられる傾向があるけど、少なくともそれを言っているCEOたちは、囚人のジレンマという代替案が投資を非常に早く止めることになるから、同意する大きなインセンティブがある。 - 私が今話したストーリーの中で、事実に関係のある唯一の声は施設エンジニアからの噂だった。それが私たちの理解の状態を示してる… - 償却された資本費用と運用コストの比率すら分からないなら、外部の投資家分析は不可能だ。オフィスのシダ植物や室内のシダ植物のために会計のバケットをどれだけ細かく分けても、彼らのビジネスの最大の部分が取引秘密の理由で隠されているなら、意味がない。

それ以上に、彼らはオープンウェイトのローカル推論に対処しなきゃならない。今のオープンウェイトモデルは、現在の最前線モデルには追いついてないけど、最近の最前線モデルと同じくらいの性能はある。もしオープンウェイトモデルがあるポイントに達したら、最前線モデルの提供者はトークンを売るのが難しくなるだろう。なぜなら、最終的には人々が全てにミトスが必要ないことに気づくから。

+20%のスピードで+20%の支出じゃ、年間1兆ドルの支出を動機づけるのは無理だよ。でも、もし自社が他の会社より20%速く動ければ、市場シェアを獲得できる。だけど、その後はみんな同じツールを使うようになるから、企業は同じスピードになるし、ツールは残る。今、市場が飽和状態なら、速さを追求するのは無駄だね。安くするのはアリだけど、速さはダメだ。

「次の5年」はAIファクトリーには当てはまらない。

コーディングでは、常にそのカテゴリーで最高のモデルを選ぶべきだよ。GLM 5.1は1年前なら最高だったかもしれないけど、今はそうじゃない。俺はGLMの大ファンで、翻訳サイトを運営してるから、GLMは価格に見合った性能だと思ってる。今、コーディングにお金が集中してる。OpenAIとAnthropicは、SOTAオープンソースモデルより6ヶ月先を行けば、企業や開発者市場の大部分をキャッチできると思う。

コーディング支援のために、OpenRouterを通じていくつかの大きなオープンモデルを試してみたけど、Claude Opusと比べるとどれもかなり悪かった。これらのオープンモデルをどう使えばもっと価値を引き出せるか、ヒントをもらえないかな？オープンモデルは約1年遅れているという一般的な意見には同意するけど、ちょうど1年前に最先端のモデルが非常に役立つようになった魔法のような出来事があった。そう考えると、オープンモデルがうまく機能するのが近いと思うけど、ただ太陽の周りを回る革命を待っているだけではない気がする。ちなみに、俺のアプリケーションはコーディング支援なんだ。他の目的にはオープンモデルが素晴らしいこともあるよ。

ビジネスモデルが機能するとは思えない。同意。ポーターのファイブフォースの視点から見ると悪夢だね。この分野にはたくさんの企業が競争することになるし、資本集約的なビジネスだからある程度の堀はできるけど、基本的には無限の競争相手がいるよ。消費者にとってはいいことだね。

何に反論してるのかよくわからないな。俺は$200使ったんだ。もしAPIの価格を払ってたら$2,180.16になってた。この記事は、企業顧客がAPI価格で請求されることについてなんだ。つまり、もし俺がその企業の一員だったら、$2,180.16のコストがかかってたってこと。何か見落としてる？

トークンには明確に計算可能な本質的コストがあるよ。生産の限界コスト（つまり推論コスト）や、それを生み出すモデルにかかる償却されたR&Dコストがある。価値を計算するのは難しいけど、市場の価格メカニズムがそのために存在してるから、みんなが支払う意欲のある金額が一番良い数字だよね。だから、彼は企業プランで$2,180.16を使うって言ってる。実際にはその金額を支払ってるわけじゃないけど、企業はそうなんだ。

少し考えれば、その文は「現在のAPI価格で2180ドル分のトークン」と読めるよね。

何かには本質的なコストがあるって信じられるのが面白いよね、他のにはないのに。

笑。明らかに内在的なコストはあるし、最低でも電気代はかかるよね。偏った情報源を評価する時に、批判的思考を捨てちゃってるのが面白い。

そうだね、何でもないし、企業が払ってるコストでもない。記事にもあるように、価格は1席あたり月20ドル、プラストークンごとのAPI使用料だよ。企業は消費ベースの請求を受けてるんで、固定料金の「食べ放題」じゃないんだ。

AutoCADはユーザー1人あたり月175ドルだよ。[1] https://www.autodesk.com/products/autocad/buy

それって何人分なの？すべてのホワイトカラーの労働者がAIのICPに入ってるってことだね。

CATIAのライセンスは、見た中で一番高いのがユーザー1人あたり月600ドルくらいだよ。どこで「1席あたり何千ドル」って見たの？

でも、以前はソフトウェア開発ツールが無料だったのに、今は大幅な値上げだよね。

使用コストは、より良いハードウェアが出てくれば下がるよ。ハードウェアは世代ごとに急速に進化してるからね。

疑念を持ち続けると、> スタッフの利用によるLLMの請求書が高くなって驚いている企業の話が広まってる > エンタープライズ顧客がAPI料金を支払っている状況 企業顧客が請求書に疑問を持ち始めるのはいつだろう？アンスロピックはお金を稼がないところから価格の見直しをして、今は利益を上げてるけど、一番の支出者たちは価格にショックを受けてる。まだまだ不確実な状況みたいだね。

AI企業やユーザーは嘘つきや詐欺師で溢れてるから、彼らが報告する数字や見通しはかなり疑わしいよ。

うん、実際に見ないと信じられないな。収益は増えてるけど、コストも増えてるし。2024年にCEOがトレーニングコストが今後数年で100億〜1000億ドルに上がるって言ってたし。 https://www.tomshardware.com/tech-industry/artificial-intell...

それと、私の理解が正しければ、彼らは利益を出しているEBITDAがあるって噂されてるね。減価償却が大きなコストなのに、面白い指標だよね。「私たちは経費を考えなければ利益が出る」って。

論理的である必要はないんだよ。これはLLMの宣伝ブログで、業界に批判的な分析はほとんどないか、全くない。ほかの投稿を読めば、あまり疑念は見つからないけど、すごく良いっていう宣伝はたくさん見つかるよ。

PMFって、なんか変な定義のもので「もし自分が持ってるかどうかわからないなら、持ってない」って感じだよね。試した人たちには明らかに役立ってたけど、その知識が広がって、ウォレットホルダーたちがこれが一時的な流行じゃないと確信するようになったから、今はPMFを「主張」できるようになったんだと思う。「あの人たちはPMFを持ってる」って言うのは変だよね。普通は自分で定義するものだから。

でも、ちょっと混乱するのは、みんなが軌道を無視してるように見えることかな。それが一番隠したいポイントかもしれない。サイモンが言うように、私たちはもう6ヶ月も「十分良い」コーディングエージェントを持ってるんだ。ほんの一瞬の出来事だよ。そして、私の会社では、私の仕事が完全に変わっちゃった。まるで夢みたいだよね。それはただの一つの転換点に過ぎない。いくつかの転換点があって、これからももっとあるんだ。だから、ROIが今日の時点でさえプラスじゃないかもしれないって納得できるけど、今後数ヶ月、いや数年のために道を開くのは全く理にかなってるよ。