テキストでも画像でも、コンピュータにとってはただのビットなんだよね。トークンは何でも表現できる。

人工的な理解を可能にする新しい科学が開発されるまで、「AGIの解放」はないだろう。理解は、私たちが何であるかを生み出す豊穣な源で、原始的な刺激から、無限に複雑なダイナミクスの中で、非常に高度な捕食者/被捕食者のキャラクターがいる全体的なコミュニケーション宇宙が生成される。人間の科学と技術は、それを同時に統一された全体として人工的に理解する方法を全く持っていない。それが理解なんだ。

少なくともThinking Machinesよりはずっと正当だね。でも「見てみよう」。世界モデルとビジョンはロボティクスにとって素晴らしいユースケースだと思うし、それがAMIの主要な推進力になるのを想像できる。

この見解は理解できないな。私が見る限り、AGIの根本的なボトルネックは継続的な学習とバックプロパゲーションだと思う。今のモデルは静的で、人間の脳はバックプロパゲーションに近い方法で学習したり適応したりしない。世界モデルはこれらの問題を解決するわけじゃないし、私たちが普段使っている深層学習アーキテクチャと基本的に同じなんだ。もし、世界そのものから学ぶことがボトルネックだと思うなら、ロボティクスやシミュレーションされた体にビジョンアクションのLLMを乗せて強化学習のループを回せばいいんだよ。

なぜLLM（マルチモーダルなトークンシーケンスで訓練されたトランスフォーマー）が世界モデルになれないの？

「本当に新しい発見や発明」っていう概念にちょっとイライラしてるんだけど、君はこれをどう思う？「本当に新しい」発見や発明を指摘できる？新しい元素みたいな物理的なものを発見することを言ってるならまだ分かるけど。人間はアイデアのリミキサーなんだよね。私たちがやってることはそれだけ。私たちの考えや行動は環境や記憶に影響されてるし、すべては既存のパーツから作られている必要があるんだ。

LLMって言葉が君のポイントを混乱させてるよ、YannによるとVLMは同じカテゴリーに属してるから。代わりに自己回帰モデルって言葉を使った方がいいかも。

人間の知識の総和は、革新的なアイデアを生み出すには十分すぎるくらいだし、すべての分野が物理的な世界と直接関わっているわけじゃないよね。それでも、書かれた歴史には、物理法則が適用される3D世界の仮想シミュレーションを作るのに十分な情報があると思う（計算には限界があるから、ある程度だけど）。今のLLMに足りないのは、自分から何かを作り出そうとする内なるモチベーションだと思う。自由な時間に考えたり（バッチ処理やオンデマンド処理がどういう意味かは別として）、反省したり学んだり、最終的には自己修正したりすることだね。俺は単純な脳みそで、知識も限られてるし、集中力も短いし、文脈を覚えておくのも難しい。でも、オンラインで見たり読んだりしたことを基に何かを作り出してる。特別なことじゃないけど、他の誰かのプロジェクトに基づくこともあれば、自分のアイデアに基づくこともある。8億人の中でそんなにユニークじゃないって自信あるけど、AIと相談することで、今の自分の目指しているビジョンに役立つアイデアが増えるんだ。もちろん、ほとんどは一般的に知られている（俺にとっては必ずしも知られてない）良い実践に基づいてるけど、俺の考えも同じように、今までの人生でゆっくり学んできたことに限られてる。

シンガポールに拠点を設立しているという他のニュース記事もあるみたいだね。 https://www.straitstimes.com/business/ai-godfather-raises-1-...

彼が誰かよく知らなかったから、ウィキペディアを見つけてみたんだけど、彼が自分のために書いたか、彼を好きな誰かが自分を持ち上げるために書いたみたいな内容だった。 > 彼はニューヨーク大学のコーラント数学科学研究所のコンピュータサイエンスのジェイコブ・T・シュワルツ教授です。MetaプラットフォームのチーフAIサイエンティストを務めた後、自分のスタートアップに移ったんだ。このMetaでの彼の業績についての部分を除けば、その文は全部削除されてもよかったと思う。著名な誰かと自分を比較するのは変だよね。これって、最もカニエ・ウェスト的な行動だよ。彼について読むほど、実際に自己中心的だってことが分かってきた。自己中心的な人と真剣なエンジニアリングチームを持つのは難しいだろうね。

ルカンのAMIに対する技術的アプローチはJEPAに基づくと思うけど、これはアメリカや中国のAIラボとは全然違うアプローチだよね。JEPAについて学びたいなら、ルカンのビジョンドキュメント「自律的機械知能への道」は長いけど、AI研究の包括的なビジョンを描いてるよ。 https://openreview.net/pdf?id=BZ5a1r-kVsf スタートアップでもJEPAモデルのトレーニングが可能だし、例えば、うちは3人のスタートアップで健康の時系列JEPAをトレーニングしたんだ。コンピュータビジョンや（さらには）LLM用のJEPAモデルもあるよ。ここで面白いことをするのに10億ドルのシードラウンドは必要ない。もっと面白くて独自なアイデアがAIには必要だと思うから、アメリカや中国と並んでヨーロッパにも重厚なラボができるのはいいことだと思う。

「関係ない」ってことはないと思うよ。ルカンが正しいかどうかの意見は、これがヨーロッパにとって良いことかどうかに強く関連してるはず。もしLLMが十分で、RSIがすぐそこにある（1年未満）と思ってるなら、これはヨーロッパにとってひどいことだよ。まさに間違ったタイミングでの気を散らす無駄遣いだね。

ヨーロッパのフロンティアモデルがあったらいいなと思うけど、ミストラルもすごく楽しんでるよ。価格とスピードで、私の使い方（言語学習関連のフォーマット、非コード・非研究）には他のモデルを上回ってる。

ちょっと小額投資したファンドのパートナーなんだけど、取引の詳細は知らないんだ。ただ、自動回帰モデルについての意見はあまり重要じゃないと思うけど、自動回帰モデルが機能するかどうかはすごく大事だと思うし、特にLeCunのケースではね。これに投資するのと、若い研究者のスタートアップやIlyaの超知能に投資するのと何が違うの？どちらの場合も、モデルアーキテクチャがうまくいかなければ、彼らは方向転換すると思う。でもYLの場合は、それが本当かどうかわからない。その観点から見ると、この賭けはYLの現在の世界観に賭けていることになる。彼の見解が正しければ、これはヨーロッパにとってすごく良いことだし、間違っていれば、ただの無駄な投資になるかも。会社はおそらく投資額と同じくらいで売却されるだろうし、そのお金はどうせ小さなヨーロッパのスタートアップには行かなかっただろうから、トントンだね。ちなみに、自動回帰に関する「エラーは存在し、エラーは逐次トークン選択の下で常に増幅される、だからエラーは根深く、このアーキテクチャはダメだ」という最初の不満は、知的にはあまり説得力がないと思う。ここでも同じことが言えるよ。「世界モデルのエラーは存在し、世界モデルのエラーは逐次トークン選択の下で常に増幅される、だから世界モデルのエラーは根深く、このアーキテクチャはダメだ。」何が言いたいかわかる？一方で、動画には使われていないトレーニングトークンがたくさんあるし、優れた「世界」知識と最前線のテキスト能力を持つモデルと話したいと思ってる。うまくいくといいな。どちらにせよ、君が言うように、ヨーロッパには最前線のモデル企業が必要で、これがそれになるかもしれない。

彼はMetaの企業的な側面に圧迫されてたんじゃないかな。

この二項対立がどうしても納得できない。ほとんどの画期的なディープラーニングの論文は、今の基準で言えば、ほとんど馬鹿げたほど小さなトレーニング予算で開発されてきたんだよね。トランスフォーマーからドロップアウトまで。だから、彼のアイデアが本当に素晴らしいなら、どうしてまだ何も画期的なことに繋がってないのかずっと考えてる。データがもっと必要とか、研究者がもっと必要ってだけじゃないと思うんだ。君はどう思う？ :-D

llamaモデルはしばらくの間、限界を押し広げてたし、「オープンウェイト」にすることでたくさんの改良ができた。ほとんどのファインチューニングは、llamaモデルの上に構築された作業から進化したと言えるね。

ヤンのAI/MLへの影響は間違いなく大きいけど、Metaではもっと多くのリソースにアクセスできたのに、何も見えなかった。それは99%の科学者に当てはまるけど、彼らが世界を揺るがすような研究をしていないからといって、その意見を無視するのは多分良くない。 > もっと競争が見られることを心から願ってる 本当に見たくない、科学は市場じゃないから。 > 動画を通じて世界を理解する 「理解する」って言葉がここではかなり重い役割を果たしてるよね。画像や要約の修正を何度も促しても、「それ」はまだ「理解」してなくて、同じことを繰り返してる。

大体の人は、家でいじくるよりも企業の仕事でずっと高い給料をもらってるよね。「お金を追え」って論理で考えると、彼らが9時から5時までのフルスタックエンジニアとして最もインスパイアされた作品を生み出すのは納得できる。でも、しばしば情熱や探求の自由がリソースよりも重要なんだよね。

何も見えなかった。これはトロールなの？ ラマを無視しても、メタは基礎研究やオープンソースコードをたくさん発表したからね。もしメタがDETRやMAEみたいなコア研究を公開してなかったら、コンピュータビジョンの分野は何年も遅れてたと思うよ。

なんで「ルラボ」って呼ばなかったんだろう？

ボルソンみたいな採用方針だね。

それは評価額のことみたいで、実際に調達した金額ではないと思う。