私も同じ考えだけど、オープンソースモデルじゃなくてもローカルAIは実際に避けられないと思う。OpenAIや他の企業がオンプレミス製品を出すのを見ても驚かないよ。アプライアンスラックみたいな形でも、他の形でも、大企業はデータの主権やコスト管理のためにローカルで推論を動かしたがるだろうしね。特に、企業が製造や他のエアギャップネットワークにAIを統合したいと思うようになったら。

それなら素晴らしいニュースだね。商業製品が常にオープンソースよりも優れていて、オープンソース製品がどんどん良くなっていくなら。

近い将来、私たちが求めるべきことは、ASI研究への資本の流れを止めることだよね。AnthropicやGoogle、OpenAIの設立憲章と一緒に、みんなで言おうよ、「AIを一旦停止しよう！」って。今の時点で、私たちが持っているモデルを使ってやるべきことが山ほどあるってことは明らかだよ。研究からセキュリティ、活用まで、慎重に適用すれば経済的な利益もたくさん得られるし。数兆の命を賭けるより、そっちの方がずっと良さそうじゃない？

ハードウェアにこそ障壁がある。資本集約的な取得なしに、どうやってそのお金を得るつもりなんだ？？？ Prusaの3Dプリンターのオープンモデルから学んだことがあるよ。

ユーザーが計算能力をトレーニングに寄付できる方法があれば別だけど、folding@homeみたいにね。でも、それが実用的になるとは思えないな。

自分たちのマシンでオープンウェイトモデルを動かせるよ。

Qwenモデルは実際にフロンティアモデルと競争力があって、ローカルのコンピュータで動かせるよ。ちゃんとしたグラフィックカードが必要だけど、その頃には現在のリグのコストがクラウドモデルに月100ドル払うのと比べて正当化できないかもしれないけど、すべては手に入るよ。

pluralis agoraのようなプロジェクトがこの問題を解決するんだ。実際には、モデルは集団で所有され、管理されるべきなんだよね。

Kubernetesがリリースされたとき、それを運用できる人はほとんどいなかったし、有効に運用できる人はさらに少なかった。今は、家で1Tモデルを運用できる人が数人いて、5Tモデルを運用できる人はもっと少ないし、10Tモデルを運用できる人はおそらく一桁しかいない。でも、もしオープンソースの10Tモデルが利用可能になったら、確実に人々はそれを量子化する新しい方法や、ハードウェアを構成する新しい方法、問題を考える新しい方法を見つけると思う。1T以上のモデル（Deepseek v4、Kimi K2.6など）は今、オープンウェイトとして利用可能で、約5000ドルから10000ドルで家で有効に運用できる。2年前には誰もそんなことを考えていなかった。10Tモデルを運用するのに25万ドルが今は可能かもしれない。そういう費用を払う企業はたくさんあるし、それが私たちのためにツールや技術を下に押し下げることになるだろう。

すでに手に入る範囲のハードウェアでローカルに実行できるLLMは、しばらく前から存在しているよ。