彼は利害関係者だからね。トークンが利益で売られてるって言えば、彼の投資はもっと価値が上がる。なんで誰も彼を信じるのか理解できないよ。

こういう無批判な考え方が、全体的にバブルを膨らませるんだよね。

それだけじゃ足りないよ。時間が経つにつれて、成長と利益の必要性が既存のマージンを圧迫することになる。

トークンは利益で売れるけど、計算コストの70%はR&Dやモデルのトレーニングに使われてるんだ。[0] インファレンスはそれをカバーしつつ、単独でも利益を出さなきゃいけない。[0] https://epoch.ai/data-insights/openai-compute-spend

地球上で最も強力なエンジンを使ってロケットが打ち上がり、軌道を脱出したらエンジンを切って「今は無力で飛んでる！」って言ってるみたい。確かに今はそうだけど、そこにたどり着くまでの過程はそうじゃない。回収するために数兆円投資されてるのに、売上はせいぜい数十億円。トークンがすぐに利益を出すとは思えない。

売上が赤字ってわけじゃないけど、今の損失やコストをカバーするほどの価格では売られてないんだよね。損失が変な循環資金の中で回ってて、いつかは債務危機に陥るのは避けられないと思う。

クロードコードやコーデックストークンもそうなると思う？あれはかなり補助されてると思うけど、実際に価値があるのはそれだけだね。

つまり、AI企業は経費を引く前にプラスの収益があるってことだね。

ブラッド・ガーストナーは資産の減価償却についての基礎知識が必要かもね。

なんか「信じてくれよ、兄弟」って感じだね… 明らかに、ここにいるほとんどの人と同じように、俺もOpenAIやAnthropicの本にはアクセスできないから、公開されてる証拠を基に推測するしかないけど、「トークンが赤字で売られてるわけじゃない」っていうのは、利益があることを意味しないよね。もし利益があるとしても、少なくとも設備投資を回収して次のモデルの開発費用を賄えるくらいの大きさが必要だよ。

これは比喩じゃないよ。実際に重要な部分なんだ。

「荷重支持」という言葉が私の語彙に入ってきたけど、建設作業員と一緒に働いてるから、ちょっと直感的に理解できるのかな？ :/

あるいは何かを「アンロック」と表現すること。

いいニュースかもしれないのは、大きな価格修正があったときに、無料や$20/月のサブスクリプションを使ってSNSのコメントを生成してる人たちが、実際のコストに驚いて自分で書くようになるかもしれないってこと。少なくともそうなることを願いたいね。

あるいは「カノニカル」という言葉。

Xは形容詞の枠組みだね。

指摘してくれてありがとう。いくつかの事例を抽出してみたけど、短いリストじゃないよ。 handful（少し）って感じだね。 “”” 補助金の時代は優雅に終わりつつあるわけじゃない。あちこちにひびが入ってる。…問題は、彼らがいい取引をしたかどうかじゃなくて、その取引がどれくらい持つかだ。…3つか4つのコーディングエージェントを同時に動かしている開発者は、チャットの会話のトークンを3倍や4倍消費しているわけじゃない。それは桁違いに多い…もうこれは実験じゃない。負荷を支えるワークフローだ。…それは単なる誤差じゃない。自分専用の予算コードが必要な項目だ。 “””

LLMのライティングマーカーについてヒントを出すのはやめてくれ。彼らの敵対的トレーニングを無料で手伝う必要はないよ。

それだけじゃなくて、記事で取り上げられてるAPIの料金も、実際には大したことないよ。月に1万ドルは無視できないけど、10人から20人のエンジニアを支えるために1万ドルで済むなら、かなりいいレバレッジだと思う。

こういう段落を見ると、AIのゴミみたいに見えるね； >「全体的にパターンは同じだ。経済的な理由ではなく、採用のための価格だ。組織を縛りつける。AIを各チームの日常業務の重要な部分にする。請求書のことは後で考えればいい。」

うん、企業向けのサブスクリプションについて話してるのが混乱した。私が働いてる会社はAPIの使用量で請求されてるから。

利用可能だよ。チームや企業プランの席は小売価格より高いけど、固定価格で使用制限がリセットされるんだ。メンバーに$20/$100/$200/月プランに相当する席を割り当てられるし、メーター制でも全部できるよ。購入方法はいくつかあるよ。

サブスクリプションはビジネス向けに絶対にあるよ。消費者向けプランの同等のメーター制プランもあるしね。

別の言い方をすれば、フロンティアモデルは市場の競争のせいで非常に早く価値が下がる資産なんだ。お互いに先を越すためにどんどん良くならなきゃいけないし、オープンウェイトにもなる。だから、時限爆弾とは逆で、この記事は完全に逆に考えてるね。現在のレベルの論理ではトークンはどんどん安くなるはず。'ローカル'が最終状態になるかは分からないけど、ハードウェアの需要は高いからね。でも、競争の力が利益率をゼロに近づけるのは確かだよ。このトピックについての詳しい議論はこちら: https://corecursive.com/the-pre-training-wall-and-the-treadm...

数年以内に、今の最前線モデルと同じくらいのローカルモデルがほぼコスト負担なしで動かせるようになるよ。 それは何を根拠に言ってるの？RAMの要求量だけでもすごいことになってるし、専用のホスティングハードウェアで大規模モデルをフル稼働させる方が、今後しばらくはずっとコスト効率がいいと思うよ。

数年以内に、今の最前線モデルと同じくらいのローカルモデルが動かせるようになるよ。 重要なハードウェアの生産やモデルのアーキテクチャにブレイクスルーがない限り、逆だと思う。今は1、2年前に比べて、もっと大きくて高価でエネルギー集約型のハードウェアが必要なんだよ。

数年以内に、今の最前線モデルと同じくらいのローカルモデルが動かせるようになるよ。 それは本当に疑わしいね。スケーリングはすでに厳しいし（「指数関数的」なハイプには乗らない方がいいよ）。それに、どちらにしても、競争は2年後に存在する最前線モデルに対して行われることになる。

ローカルAIの経済は全然成り立ってないよ。Opusみたいなモデルは、たぶん5Tパラメータくらいあって、GPUメモリはおそらく3TBくらい必要だろうね。ローカルモデルはクラウドプロバイダーが持ってる（80％以上の）利用率には決して達しないし、この理由からクラウドモデルの方がずっと優れているんだよ。

それが本当なら、サブスクリプションで提供する方がさらに安くなるね。君の論理に従うと、どの会社もクラウドプロバイダーを使うんじゃなくて、自前のデータセンターを運営することになるはずだよ。

この1ヶ月、未来がどうなるかの小さなデモを作ってたんだ。Qwen、Gemma、DeepseekをLiteLLMの裏で動かして、トークンの使用状況を監視してる。バカみたいな「トークンマキシング」じゃなくて、推論コストを下げる努力をしてるんだ。上司もすごく喜んでるよ。今、もっと広く展開してるところ。これが未来だね。

これ、あまり語られない重要なポイントだと思う。メインフレームでしか動かなかったものが、どんどん個人デバイスに移行してるよね。でも、PCを排除しようとするキャンペーン（全RAMを事前購入することで）って、逆にそれに対抗してる感じがする。

これは間違ってる。ローカルモデルはすごく高いし、フロンティアと同じくらいの値段だよ。普通のDeepSeek v4の価格（割引なし）だと、1日あたり300ドルかかるけど、サブスクリプションで500ドル分で全部手に入る。

完全に同意。ローカルやセルフホスティングモデルの利点は、単にハードウェアやコストだけじゃない（今はもっと高いかもしれないけど）、その代わりに得られるのは、制限のないモデル、コストや使用状況の透明性、最適化されたモデル、プライバシーやセキュリティなどだよ。

なんで人々が最も平凡で一般的なタスクにAIツールを使おうとするのか、いつも不思議だよね。まるで、たまに使わないと死んじゃうペットみたい。

新しい技術が普及し始めた初期段階って、いつもそんな感じじゃない？ 新技術がどんどん浸透していくにつれて、その真実味は薄れていくよね。電動モーターが登場した最初の数年も同じことが言えたはず。結局、蒸気機関に戻ってたかもしれない。今、もし「それなしでやってみよう」なんて言ったら、社会が崩壊しちゃうよ。だから、今それなしでやれるかどうかじゃなくて、5年から10年後にそれなしでやれるかが問題なんだ。

私の意見では、これが強く推進されている大きな理由の一つだと思う。正当な収益を上げるためじゃなくて、AI製品を深く根付かせるために、「AIを取り除く」なんて選択肢が見えなくなるようにしてるんだ。たとえそれを維持するコストがどんどん高くなっても、政府からの航空会社スタイルの救済措置が必要になるまで。全く新しい富を搾取する中間業者が、偽りの約束のもとに売られている。

彼らはFigmaを置き換えようとしてるみたいだね。それは価値があるかもしれない。

うん、でもそうでもない。