概要

Experiential は、OpenAI互換APIで複数のLLMモデルやプロバイダーを一元管理できる オープンソースゲートウェイ。 BYOK（Bring Your Own Key） やローカル・ホスト型モデルを柔軟に切り替え可能。 利用者やエージェントごとに アクセス権限・予算管理 を細かく制御。 トラフィックデータ を活用し、コスト・品質・速度を最適化するカスタムルーター構築が可能。 オープンソース で、自己ホスト・ホステッド両対応、追加手数料なし。

Experiential概要

• OpenAI互換API を提供する エージェントワークフロー用ゲートウェイ・ルーター
• ホスト型・BYOK（ユーザー所有APIキー）・ローカルモデル を一つのAPIで統合利用
• ユーザー・エージェントごと に利用可能モデル・用途・予算を細かく制御
• 生産環境トラフィック からカスタムルーターや最適化モデルを自動生成
• 主要な推論プロバイダー （OpenAI, Anthropic, Gemini, Azure, Bedrock, Fireworks, OpenRouter等）に対応
• 1000以上のモデル を自動で毎日更新
• Rust製・高並列設計 による高速レスポンス（BYOK時1ms未満、Experientialキー時2ms未満）

ローカルゲートウェイのセットアップ

• pip install experiential expでインストール
• 初回起動時にセットアップウィザードが プロバイダー・モデル・推論負荷 を選択
• パブリックエイリアス・ID・$50.00コマンド予算 がデフォルト設定
• 発行された ワンタイムキー を保存し、APIリクエストに利用
  • 例: curlでOpenAI互換エンドポイントにリクエスト送信

ホステッドゲートウェイの利用方法

• platform.experientiallabs.ai でアカウント作成、即時利用開始
• APIエンドポイント: https://api.experientiallabs.ai/v1
• LLMトレースのアップロード によるテレメトリ活用
• OpenAIやAnthropic等のAPIキー を接続（BYOK方式）
• xpl_キー でSDKや既存のコーディングエージェントから利用可能
• 各種エージェント（Claude Code, Cursor, Codex, Aider等） をゲートウェイにリポイント

API利用とプロジェクトルーター

• expコマンドでローカルゲートウェイ起動
• Pythonから OpenAI公式クライアントとしてプロジェクトルーター を利用
  • 例: exp.load_router("my-project")で独自ゲートウェイ経由のチャットAPI呼び出し

トラフィック最適化・シミュレーション

• OpenTelemetryトレース を収集し、エージェントの実際の利用データを取得
• 公開トレースデータセット も利用可能
• exp buildでプロバイダー・モデル・予算を選び、 シミュレーションルーター を構築
• Tinker でオープンソースモデルのファインチューニングが可能

テレメトリとプライバシー

• PostHog による匿名・集約型の製品テレメトリをデフォルト有効化
• プロンプト・トレース・モデル名・認証情報等は一切送信しない
• ローカル設定ファイル（.exp/settings.toml）で 有効/無効 を切り替え可能

開発・運用

• uv, ruff, pytest などのコマンドによる開発・テストフロー
• AGENTS.md にリポジトリ・ドキュメント規約を記載

Experientialの特徴と他OSSゲートウェイとの違い

• OSS・手数料ゼロ ：全機能がオープンソース、追加マークアップなし
• ローカル・マーケットプレイスの混在運用 が可能
• 標準化OTelトレース から実タスクを抽出、複数モデルでシミュレーション展開
• LLMジャッジ・埋め込み最近傍分類器 で最適モデルを自動選択
• 単一モデル運用よりコスト/品質Pareto最適化 が可能
• キャッシュ最適化・新モデル提案・モデル訓練 等の推奨機能
• 自己インフラ展開・ホステッド利用・高可用性設計 を選択可能

まとめ

• Experiential は、 多様なLLMモデル・プロバイダー管理、 柔軟なルーティング・最適化、 OSSならではの透明性と拡張性 を兼ね備えた最新ゲートウェイ
• エンタープライズ用途から個人開発者まで、幅広いユースケースに最適