それは「理解」と「把握」を混同しているからだよ。チェーンの中のすべてのコンポーネントやその機能、どう動くか、どこに脆弱性があるか、または能力が欠けているかを理解することはできるけど、インストールするすべてのソースコードをレビューする必要はない。把握するためには、基盤となるソースコードに非常に詳しくなければならないし、どうコンパイルされるか、ハードウェアとどうやり取りするかなども理解しておく必要がある。これが著者が言いたいことの核心だと思う：LLMはその性質上、理解できないブラックボックスなんだ。LLMが出力に至った過程を理解することは決してできない。なぜなら、その設計上、その可能性が現れることを禁止しているから。これはトークン予測マシンで、その基盤となる論理は数学者が単一のクエリを逆エンジニアリングするのに数十年かかるように設計されている。著者が言いたいのはそれだと思う。LLMが出力に至った過程を理解できない以上、計算や知識の信頼できるエージェントとして頼ることはできない。正しい答えを出すことが多いけど、どうしてその答えを知っているのか、どうやってその結論に至ったのかを説明できない人間を信頼しないのと同じように、LLMも同じようには信頼すべきではない。

理論的には理解可能だけど、実際には大きすぎるシステム（Linux）と、内部の推論が設計上本質的に不透明なシステム（現代のニューラルネットワーク）との間には根本的な違いがある。

そうだね、大規模なコードベースが期待を裏切ると、絡み合ったコードの網が問題になる。アラン・ケイのViewpoints Researchがこれを研究していて、彼は「Tシャツサイズのアルゴリズム」を提案したんだ。短いルールを使って、 fancyなデスクトップのワードプロセッサやプレゼンテーションソフトを作れるって。From NAND to Tetrisみたいなプロジェクトもあって、フルスタックを理解することが可能だって示してる。これがもっと広がったり、深まったりすることはあるのかな？もちろん、ブレット・ビクターが言ってるのはそこだよ。コードが間違ったときだけじゃなくて、最初からもっと修正しやすくてクリエイティブにできるようにするためにね。（マギー・アップルトンのエッセイ/トーク「Home-Cooked Software and Barefoot Developers」を見てみて。）セレニティOSみたいなプロジェクトは、「小さな」ソフトウェアがどれだけ強力になり得るかを示してる。例えば、そのスピンオフプロジェクトのレディバグブラウザは、Chromiumに比べてコードの行数がずっと少ないのに、レディバグチームは次々と仕様を実装できてるみたい。最後に見たとき、彼らはiOSでブラウザとして出荷するためにAppleが要求する最低限の機能セットを満たすところまで来てたよ。

これは「アイテムを一つのゲームから別のゲームに持っていく」っていうNFTブームの問題に似てるね。全てが全てに対応する必要があるから。Dynamiclandの場合、その全体をLLMに通して、鋭い効果を別のカードで同じようにトリガーさせると、インタラクションが完全に隠れてしまうと思う。デザイナーとユーザーの両方にとって理由が全く不明なまま、うまくいくかもしれないし、いかないかもしれないね。

ダイナミックな世界でこれを解決する方法は、風船を見て、そこにコードがどこかにテープで貼ってあるのを確認することだよ。コードを読んで、何を探しているのかを理解して、そのトリガーを書くんだ。

「スケール」ってどういう意味？それは分散型で、小さな共存するグループのエージェンシーを促進するように設計されてるんだ。典型的な「スケール」マインドセットはその逆で、スケーリングをする人たちがエージェンシーを持っていて、残りの人たちは自分が選ばなかったものを与えられるだけなんだ！もしシステムが信頼性のないデモなら、それはエージェンシーを促進するかもしれない。40年前に車を修理できたのと同じように、今はできないのは、スケールされた企業プロセスのせいだよ。

確かにそうだけど、現代のレーザープロジェクターはすごく明るいよ。ブラインドを開けて、太陽が差し込んでる状態でも、メインのコンピュータディスプレイとして使っても問題ない。遮蔽は確かに問題だけどね。

プロジェクターは、明るい部屋でも見えるくらい強力だったよ。ほとんどのプロジェクターセットアップで部屋を真っ暗にしたい理由はコントラストのためで、投影された画像で一番暗い部分は周囲の表面の明るさだからね（最も明るいのはプロジェクターからのフルパワーの表面）。その妥協を受け入れれば、超暗い部屋は必要ないよ。厳密な光のコントロールが推奨されるのは、合理的な黒レベルを求めるメディア視聴のためだし。手を光から外しておく必要はあるけど、それもインタラクションの一部になるかもね。もし普及したARグラスやホログラムが出てきたら、ブレットはそれをDLに統合するだろうね。[0] これが少しジレンマになるんだけど、暗く見える表面が必要だけど、プロジェクターの色を完璧に反射する必要があるから、白いスクリーンが理想で、プロジェクター以外の光はゼロにしたいんだ。

「頭や手、体をそれから離しておく必要がある。」こういうシステムを見たことがあるけど、異なる角度から複数のプロジェクターを使って、スペースと角度に合わせてキャリブレーションしてるんだ。遮蔽を防ぐのに非常に効果的で、思ったより少ない数で済むよ（ValveのLighthouse技術も見てみて）。残念ながら、そうするのは高価で大きくて、動かすたびに再キャリブレーションが必要なんだ。

実際には光のレベルは問題じゃなかったよ。昼間に実際のインスタレーションを見に行ったとき、建物は自然光で明るく照らされてて、プロジェクションもすごく見やすかったから、そのことを全然考えなかった。

Dynamiclandはある意味でブートストラップされてるね。[0] 他の言語でコードを書くための最初のコンパイラ/インタープリタを書くのと同じように、その後自分の言語で書く感じ。カメラとプロジェクターのシステムを動かしているコードは、物理的に印刷されたプログラムからも動いてるんだ。動画の中にはDynamiclandのコア「OS」とでも言うべき壁が見えるよ。ビジョンは素晴らしいと思うけど、プロジェクター技術と自分のバージョンを設定するコストに妨げられてる。物理的に結びついてるから、ブレットは（個人的には頑固に）このコンセプトに専念していて、DLに直接行けるコミュニティが育ってないんだ。例えばVR用のバージョンがあったら面白いし、いつかARが普及してどこでも使えるようになるかもね。[0] ちょっと面倒なのはオープンソースじゃないから、自分のバージョンを簡単に作ったり、調べたりできないことだ。似たようなシステムを作ろうとした試みはいくつかあったけど、ブレットのDynamiclandほど長続きしたり成功したものはなかったね。

カスタムコードを使って素敵なサイトを作ったりしたんだけど（ほとんど理解しながらね） 文脈からすると、JavaじゃなくてJavascriptのことだね。

面白いね、CDNは効果的にするためにたくさんのインフラが必要だけど、どうやってそれを設定したの？（あなたかLLMが）

いいね！みんなが望んでることだけど、コンテンツの再利用や監視、公共の議論への干渉なしでね。もっと楽しくて、子供たちに間違ったことを教えず、高価なチップでいっぱいのデータセンターも必要なくて、センセーショナルな見出しでニュースに載ることもないバージョンを考えてみて。

彼らが作る親しみやすさは好きだな。個人的にはコーダーとして、AIの体験は全然楽しくないけど、他の人が楽しんでるのは理解できる。これらのプロジェクトにAIを使ってさらなる変更を加えることを試したことはある？

楽しい態度が好きだな。家族の誰かも似たようなことを言ってたけど、いつも警告するのは、強力なAIには深刻な結果が伴うってこと。私たちはその結果に備えているの？AIが私たちの生活や生計にどこまで関わることを望んでいるのかな？

HNの多くの人たちは、事実に向き合うのが苦手な盲点があると思う。確かに、AIには今のところ限界があって、認知タスクの万能薬ではない。でも、特定の使い方ではものすごく役立つし、ChatGPTやAIスタートアップの急成長がその証拠だよね。多くの人は「これは全部偽物だ」とか「VCの評価を支えるための人工的な盛り上がりだ」と主張するけど、実際に数十億の収益を見ても「それは本物じゃない」と思ってる。LLMを通じてスキルを上げたリアルな人たちも同様に、AIのユーティリティに特有の方法で成長してるのに。もし彼らがまず現実に向き合えたら、AIの影響についての評価を信じられるんだけどね。

「私はアーティストです」 これが一番ワクワクしてるポイントなんだけど、近い将来、プロダクティビティは誰が一番クリエイティブか、誰が一番面白い問題を持っているかに関係してくると思う。特定のツールチェーンやコンパイラ、言語の後ろで何時間も過ごしたかじゃなくてね。実用的な問題の解決策は、ソフトウェアエンジニアを通さなくても良くなる。すごく面白くなるだろうし、私の仕事がなくなっちゃうかも。