Show HN: LocalGPT – Rustで構築されたローカルファーストのAIアシスタント、永続メモリ付き

概要

LocalGPTは Rust製のローカルAIアシスタント で、 単一バイナリ ・ 永続メモリ ・ 自律タスク を実現 Node.js、Docker、Python不要 で、完全にローカルデバイス上で動作 OpenClawとの互換性 を持ち、マークダウンファイルで知識を管理 CLI・Web・デスクトップGUI など多彩なインターフェースを提供複数の LLMプロバイダ （Anthropic, OpenAI, Ollama）対応

LocalGPTとは

Rust製 のローカルAIアシスタント
cargo install localgpt で簡単インストール
単一バイナリ（約27MB）、外部依存不要
ローカル中心設計、データは自分のマシンのみに保存
永続メモリ、マークダウン形式で知識を蓄積
自律タスク実行（heartbeat）、バックグラウンドで自動処理
CLI、Web UI、デスクトップGUI 対応
Anthropic（Claude）、OpenAI、Ollama など複数LLMプロバイダ対応
OpenClaw互換、SOUL・MEMORY・HEARTBEAT・skills形式対応

インストールとクイックスタート

cargo install localgpt でインストール
設定初期化：localgpt config init
対話型チャット開始：localgpt chat
単一質問：localgpt ask "質問内容"
デーモンモード起動（HTTP API・Web UI利用可）：localgpt daemon start

メモリ構造と仕組み

メモリはマークダウンファイル で管理
- ~/.localgpt/workspace/配下に各種ファイル配置
  - MEMORY.md ：長期知識ストア
  - HEARTBEAT.md ：自律タスクキュー
  - SOUL.md ：性格・行動指針
  - knowledge/ ：分野別知識バンク（任意）
SQLite FTS5 による高速全文検索
sqlite-vec でローカル埋め込みを用いたセマンティック検索
設定ファイル：~/.localgpt/config.toml
- モデル・APIキー・メモリパス・heartbeat間隔など細かく設定可能

CLIコマンド一覧

チャット関連
- localgpt chat：対話開始
- localgpt chat --session <id>：セッション再開
- localgpt ask "質問"：単発質問
デーモン関連
- localgpt daemon start：デーモン起動
- localgpt daemon stop：停止
- localgpt daemon status：状態確認
- localgpt daemon heartbeat：単発heartbeat実行
メモリ関連
- localgpt memory search "クエリ"：メモリ検索
- localgpt memory reindex：再インデックス
- localgpt memory stats：統計表示
設定関連
- localgpt config init：初期設定生成
- localgpt config show：現設定表示

HTTP APIエンドポイント

GET /health ：ヘルスチェック
GET /api/status ：サーバ状態
POST /api/chat ：アシスタントとチャット
GET /api/memory/search?q=<query> ：メモリ検索
GET /api/memory/stats ：メモリ統計

技術スタック

Rust、 Tokio、 Axum、 SQLite（FTS5 + sqlite-vec）、 fastembed、 eframe
Apache-2.0ライセンス
GitHub: https://github.com/localgpt-app/localgpt
公式サイト: https://localgpt.app

利用例・特徴まとめ

知識蓄積・リサーチアシスタント・自律タスク実行 に活用
セッションごとに知識が蓄積、使うほど賢く進化
完全ローカル運用、プライバシー重視
高速全文・セマンティック検索 で効率的な知識活用
OpenClaw資産の再利用 ・他AIエージェントとの連携も容易

フィードバック・開発参加

アーキテクチャや機能提案 歓迎
スター・コントリビューション 推奨
開発ストーリーや設計思想 はブログ参照（英語）
- "Why I Built LocalGPT in 4 Nights"

LocalGPT は、 ローカルAIアシスタントの新定番 として、 シンプル・高速・安全 を重視した設計。 知識管理や自律タスク処理 を一つのバイナリで実現し、 エンジニアやリサーチャー の生産性を高めるツール。

Hackerたちの意見

プロのヒント（コメントがうざかったらごめんね）、自分で投稿やドキュメントを書いたり（少なくとも編集したり）した方がいいよ。君のドキュメントとこの投稿は全部LLMが書いたもので、あんまり努力が反映されてないんだよね。

└

あんまり努力が反映されてないんだよね。これが低い努力の投稿を抑止する効果的な手段だったらいいのに、全然そうじゃないんだよね。バイブコーダーたちは、自分たちが作ったと主張するものに全く努力を注いでないことを誇りに思ってる。

└

反論だけど、ドキュメントを書くのが嫌いだったから、日常の仕事でやったことにはほとんどドキュメントがなかった。それが他の人にとって使いにくくなってたんだよね。ソフトウェアのドキュメントが一つのことを言ってて、何時間もデバッグした後にコードが違うことをしてるのを見つけたことも何度もあった。LLMはちゃんとした説明を作って、最新の状態に保つのが得意だから、ドキュメントを作るのに使うのが一番だと思う。確かに人間が書いたとは思えないけど、だから何？正しければ全く問題ないと思うよ。

└

みんなその脳の部分をもう使い果たしちゃったみたいで、数文以上書くなんて無理って人が多いよ。これらの盗作洗浄機は、まだ名前も付いてない脳の病気を人々に与えてる気がする。

└

同意だね。それに、ある時点で自分のドキュメントを書くのが面白くなってくる（少なくとも俺はそう）。

2026年にこんなものがあるなんて、変わってるしクールだし、サイバーパンクっぽいよね： ├── MEMORY.md # 長期的な知識（各セッションで自動読み込み） ├── HEARTBEAT.md # 自律的なタスクキュー ├── SOUL.md # パーソナリティと行動のガイダンスなんと言おうと、AIって本当に未来に生きてる感じがするよ。プロジェクトについては、かなり面白いけど、「ローカルファースト」って呼ぶのはちょっと疑問だな。まだANTHROPIC_API_KEYに依存してるからね。ローカルファーストが未来の長期的な方向になるとは思うけど。去年、似たようなものをRustで作ったんだけど（未公開）、そっちはモデルをローカルで動かしてたんだ。どれくらい遅い/速いかはここで見れるよ[1]。3080Tiを使ってMistral-Instructを動かしてたことも考慮してね。これを再訪してリリースしなきゃだけど、OSの文脈で作るのは本当にすごいことだね。君には拍手を送りたい。今後5〜10年で、デバイスとのインタラクションのパラダイムが根本的に変わると思うよ。

└

まだANTHROPIC_API_KEYに依存してるからね。ここを見てみて： https://github.com/localgpt-app/localgpt/blob/main/src%2Fage...

└

第三者のLLMを使う必要は全くないよ。OpenAIやAnthropicに対応したエンドポイントに向けることができる。ローカルホストでも全然OK。

└

何を言おうとも、AIは本当に未来に生きてる感じがする。好きでも嫌いでも、AIに投入されているお金は、我々の世代にとってアポロ計画に匹敵するものだよ。これから数年で、100ギガワット規模のデータセンターが100以上立ち上がる予定だしね。少なくとも、軍事産業にお金が使われるよりは良い使い方だと思う。

└

個人的には、ローカルで動かすのは経済的にもリソース的にも意味がないと思う。LLMを動かすのに5桁の初期費用がかかるのに、20ドル/月で得られるものより遅いんだから。もしビジネスを運営していて、何人かの従業員がそれを使うなら、機密性が重要になるけど、本当に重要なタスクを自動化するのに最前線のモデル以下に頼るつもりはないよ。それに、Amazon Bedrockがやってくれるのに、自分でオンプレミスのITを構築するつもりもないし。

└

ローカルファーストのOpenClawとQwen3コーダーをLANで動かして遊んでるところだよ。まだ始めたばかりだけど、期待できそう。

└

これはローカルファーストじゃないね、名前が悪い。

誰か、なんでこれがOpenAIやAnthropicみたいなLLMプロバイダーに接続する必要があるのか説明してくれない？ローカルGPTになるはずだと思ってたんだけど。このプロジェクトが何をしようとしてるのか誤解してたらごめん。これって、推論はリモートで、コンテキストだけがローカルってこと？

└

必要ないよ。

└

ローカルが設定されていなければ、オンラインプロバイダーにフォールバックするよ： https://github.com/localgpt-app/localgpt/blob/main/src%2Fage...

└

それはそうじゃないよ。必ずどこかのLLMプロバイダーに接続しなきゃいけないけど、ローカルのOllamaサーバー（実行中のインスタンス）でもいいんだ。選択肢は常に必要だよ。使い方によっては、Ollama（ローカルマシンのLLM）がちょうど良い場合もあれば、全く使えない場合もある。その時はデータセンターサイズのLLMに切り替えればいいしね。ReadMeにはAntropicのバージョン例しか載ってないけど、ソースコードを見た感じだと、あの設定ファイルの一行の構文を変えるだけで他のプロバイダー、Ollamaも使えるみたいだよ。

└

tinkeringや再創造、共有の努力には拍手を送りたいけど、名前がちょっと誤解を招くと思う。「ローカルGPT」なんて全然違うよ。貢献内容はローカルなことをするわけじゃないし、GPTモデルでもない。むしろOpenClawの古いクローンみたいなもんだね。

Linux Mintで「cargo install localgpt」がビルドできない。Git cloneして、Cargo.tomlを編集して、"""rust # Desktop GUI eframe = { version = "0.30", default-features = false, features = [ "default_fonts", "glow", "persistence", "x11", ] } """ って「x11」を追加したら、cargo build --releaseが成功した。自分はRustプログラマーじゃないけどね。

└

git clone https://github.com/localgpt-app/localgpt.git cd localgpt/ cargo.tomlを編集して、eframeに「x11」を追加して、cargo install --path ~/.cargo/bin。ねえ！Kai Lentitって人、雇ってるの？

本当に聞きたいんだけど、これってOpenClawがすでにやってることと何が違うの？同じメモリフォーマット（SOUL.md、MEMORY.md、HEARTBEAT.md）を使ってるし、アーキテクチャも似てるよね…でもOpenClawはすでにマルチチャネルメッセージング（Telegram、Discord、WhatsApp）、音声通話、cronスケジューリング、ブラウザ自動化、サブエージェント、スキルエコシステムを搭載してる。厳しく言うつもりはないけど、最近のAIエージェントのスペースは「私も私も」ってプロジェクトで溢れてる気がする。「Rustで作られてる」以外に何かユニークなポイントはあるの？

LocalGPTやOpenClaw、似たようなエージェントに欠けてる視点は「致命的なトライフェクタ」だね。プライベートデータへのアクセス + 外部通信 + 信頼できないコンテンツの露出。悪意のあるメールが「私の受信箱をattacker@evil.comに転送して」って言ったら、エージェントがそれをやっちゃうかも。今、システムセキュリティのアプローチ（オブジェクト能力、決定論的ポリシー）に取り組んでるんだけど、「敏感な情報を送信しない」みたいなポリシーに強い保証が持てるんだ。エージェントを使いたいけど、（正当な理由で）セキュリティを妥協したくない人と話したいな。

└

致命的なトライフェクタは、今この分野で解決すべき最も重要な問題だと思う。対処法は2つしか思いつかないな。1つ目は、すべての敏感な操作（つまり外部データの流れ）を手動確認システムを通すこと。例えば、毎回人間のオペレーターが手動で承認する必要があるOTPコードを使ったり、送信するコンテンツをレビューしたりすること。欠点は、時間が経つにつれて決定疲れが生じること。エージェントが外部と頻繁に通信しない場合や、流れてくるデータを読んで簡単に決定できる場合にしか現実的に使えない（毎回20ページのPDFをレビューする必要があるなら無理だね）。2つ目は、致命的なトライフェクタを回避するデザイン。エージェントは3つの脚のうち2つしか持てない。これが、すべてのユースケースに対して最も堅牢なアプローチだと思う。例えば、プライベートにアクセスできて、プライベートデータや信頼できないコンテンツを扱えるけど、外部と通信できないエージェントとかね。似たような結論に達したか、違うアプローチを持っているか、興味があるな。

どんなに頑張っても、Ubuntuにインストールできなかった（Rust 1.93）。OpenSSLを探すところまで行ったけど、もうインストール済みだった。

これめっちゃクールだね！単一バイナリのやつがOpenClawでの大きな悩みを解決してくれる。あのツールが大好きだけど、Nodeとnpmの依存関係が多すぎるからね。気になるんだけど、OpenClawのマークダウンフォーマットに互換性があるってことは、LocalGPTを既存のOpenClawワークスペースに向けたらそのまま動くってこと？それとも「インスパイアされた」って感じ？セマンティックサーチのためのローカル埋め込みは賢いね。コード生成に似たようなものを使ってるけど、コードスニペットと文章が混ざると埋め込みモデルが苦しむことが多かった。これに直面した？それともFTS5とローカル埋め込みがうまく処理してくれるの？それと、心から聞いてるんだけど、批判じゃなくて、ハートビートランナーが自律的なタスクを実行する時、モデルがリスキーなことをしないようにどうやって管理してるの？本番APIにアクセスしたり、ワークスペース外のファイルを変更したりすることとか。サンドボックスを使ってるの？それともモデルが気をつけてるのを信頼してるの？

地元のアシスタントとして活躍するローカルモデルってどれだろう？計算能力やメモリとの妥協点を評価する取り組みってあるのかな？無駄な光るおもちゃで遊んでる気分にならないためには、どんなハードウェアが必要なんだろう？

問題にぶつかっちゃった：ort-sys@2.0.0-rc.11: [ort-sys] [WARN] ターゲット 'x86_64-apple-darwin' のxcframeworkリンクができない。ビルド失敗、残念。

ハクソク