これは、1960年のリックライダーの「インテリジェンス・アンプリフィケーション：人間とコンピュータの共生」にすごく似てるね。

「人間は目標を設定し、動機を提供するだろう。もちろん、少なくとも初期の段階では。彼らは仮説を立て、質問をし、メカニズムや手順、モデルを考え出す。1947年に誰それが興味のあるトピックで関連する仕事をしたことを思い出すだろうし、少なくとも第二次世界大戦の直後には、どのジャーナルに掲載されたかのアイデアも持っている。一般的に、彼らは大まかで間違いもあるが、重要な貢献をし、基準を定義し、評価者として機能し、機器の貢献を判断し、思考の一般的な方向性を導く。」 「さらに、人間は非常に低確率の状況が実際に発生したときにそれを扱うだろう。（現在の人間と機械のシステムでは、これは人間のオペレーターの最も重要な機能の一つだ。非常に低確率の選択肢の確率の合計は、無視するには大きすぎることが多い。）人間は、コンピュータが特定の状況に適用できるモードやルーチンを持っていないときに、問題解決やコンピュータプログラムのギャップを埋めるだろう。」 「情報処理機器は、仮説をテスト可能なモデルに変換し、そのモデルをデータに対してテストする（人間のオペレーターが大まかに指定し、コンピュータが承認のために提示したときに関連性を特定することができる）。機器は質問に答え、メカニズムやモデルをシミュレートし、手順を実行し、結果をオペレーターに表示する。データを変換し、グラフを描き（人間のオペレーターが指定した方法で「ケーキを切る」か、オペレーターが何を望んでいるか確信がない場合は複数の代替方法で）、補間、外挿、変換を行う。静的な方程式や論理的な文を動的なモデルに変換し、人間のオペレーターがその挙動を調べられるようにする。一般的に、意思決定の間のルーチン化可能な事務作業を実行する。」 https://www.organism.earth/library/document/man-computer-sym...

これはただのRAGだね。確かにベクターデータベースは使ってないけど、意味的なつながりのインデックスファイルを作ってるし、検索を助けるためにファイルシステム内に階層的な意味構造を構築してる。これがRAGだよ。ちなみに、AIを使ったナレッジベースを作ってるんだけど（そう、RAGを使ってる）、ウィキ合成や似たようなアイデアがあるから、見てみて。 https://github.com/kenforthewin/atomic

これがモデルの崩壊につながらない理由がわからない。 https://www.nature.com/articles/s41586-024-07566-y LLMを使ってドキュメントを書くのに時間を費やしたことがあるなら、自分で確認できるよ。累積は有効な情報をより冗長な情報に書き換えるだけだと思う。カーパシーがこれを理解していないのは心配だ。でも驚きはしないな。AIマキシマリストは「普通」でいるのが本当に難しいみたいだから。 ルールオブサム：特別なLLMのソースを広める必要があると感じたら、なぜそう思うのか自問自答してみて。

注目されてるのを見ると嬉しいね。ドキュメントと作業項目やADRのような構造化されたものを混ぜると摩擦が出てくる。フラットなマークダウンはクエリに向いてないし、一貫性がなくなる。TASKS.mdは問題なく読めるけど、エージェントは「このエピックをブロックしているオープンタスクを見せて」って聞けない。プローズをスキャンしたり、並行インデックスを維持したりしないといけないからね。AGENTS.mdのアプローチは、LLMにフォルダの規則を教えることでこれをカバーしてる。データが複雑になるまではうまくいくけど、何度も繰り返すうちに悪化する。どちらも必要だよ：どんなエディタでも開けるファイルと、エージェントが実際にクエリできる構造化されたインターフェース。Binder（github.com/mpazik/binder）というローカル知識プラットフォームでそれに向けて構築してる。データは構造化されたDBにあり、プレーンなマークダウンにレンダリングされて双方向同期される。LSPはエディタにオートコンプリートとバリデーションを提供する。エージェントやスクリプトはCLIやMCPを通じて同じデータを取得する。

これってただ先延ばしにしてるだけじゃない？ > でもLLMは毎回の質問でゼロから知識を再発見してる。 ウィキが完全にコンテキストに留まらない限り、LLMはソースファイルを再読する代わりにウィキを再読しなきゃいけなくなる。これも、2次情報を吐き出し始めると微妙なエラーを引き起こして蓄積されるだろう。アイデアはわかるけど、次世代モデルが10Mのコンテキストや1000tpsを持つようになれば、これも時代遅れになると思う。

自分のアシスタントプロジェクトに非常に似たシステムを組み込んだよ。でも正直言うと、実際にどれだけうまく機能するかはあまり使ってないからわからない。

LLMがmdファイルのナレッジベースをナビゲートして検索するのを助けるツールを作ったよ。grepみたいな基本的なコンテンツ検索を提供することで、こういうウィキを作るのにすごく役立つし、フロントマターのプロパティに対する構造化検索もできる。ファイルを移動させてもリンクが壊れないようにしたり、リンクを自動で修正したりもできる。CLIツールで、主にAIツールに使ってもらうことを想定してる。チェックしてみてね: https://github.com/ractive/hyalo

最近、会社のプロジェクトで似たような穴にハマって、かなりサボってる。去年は燃え尽き症候群になったり、家族の介護の問題に悩まされたりして、集中して考えるエネルギーがどんどん減ってきた。だから、アーキテクチャや発見の大部分を、いつもMarkdownファイルのウィキみたいな城に戻るマルチエージェントのワークフローに委任するようになったんだ。オブシディアンを使って、効率よく覗けるようにしてる。今、確実に何か間違ってるけど、ギャップが多すぎて数えきれない。これって、変な新しいタイプの技術的負債を生んでる気がする。まるで持続的な脳のギャップみたい。もっと考えることが恋しいし、それがこの状況から抜け出す助けになると思う。でも、ウィキのワークフローはやめられないくらい中毒性があるんだよね。

これに関連して — AIの出力は、もっとAIを呼ぶのではなく、決定論的なプログラムであるべきだと実験してる。私にとっての「アイデアファイル」は、AI（クリエイティブで高価）とランタイム（決定論的で無料）との間の最小限のインターフェースは何かってこと。どうやら、8つのコア操作があれば、どんなブラウザインターフェースもカバーできるみたい。AIは一度観察してプログラムを結晶化させ、その後そのプログラムはコストゼロで永遠に動き続ける。難しいのはランタイムじゃなくて、AIが自分のプログラムが実際に機能しているかどうかを判断できるような十分なフィードバックループを構築することなんだ。

私はこの使い方を考慮して、VS Code用のAS Notesを作ったんだ（https://www.asnotes.io）。VS Codeを拡張して、個人の知識管理システムで使うツールを持たせることで、マークダウンやウィキリンクのノートを手動で簡単に書いたり、リンクしたり、更新したりできるようにしてるよ（mermaidやLaTeXのレンダリング機能もあるし）。VS Codeを使うことで、エージェントハーネスに簡単にアクセスできて、作業を指示したり、自分のノートをコンテキストとして使ったりできるんだ。他の人も言ってるけど、コンテキストの膨張は問題だけど、大きなコードベースの中でコパイロットハーネス（他のものでも）を使うときと比べたら、そんなに変わらないと思う。こうやってマークダウンに出力を保存すると、AIとの会話からもっと価値を得られる気がする。