ハクソク

世界を動かす技術を、日本語で。

Laya：Jevのオープンソース版

2026年9月19日原文(laya.convaiinnovations.com)

概要

  • 新しいAIモデル「Laya」の発表とその背景
  • 既存のLLMやTypeSafe Jevとの比較
  • Layaの特徴：非自己回帰型、高速、構造化スキーマ対応
  • 多言語・多スクリプト対応ルーティングの重要性
  • 公開リソース、制限事項、クイックスタート手順

AI意思決定モデルの進化とLayaの登場

  • AI業界 で話題となっているのは、 非自己回帰型 ・ テキスト生成なし ・ 構造化スキーマ上の高速確率予測 を実現する新アーキテクチャ
  • 著者は2025年3月にこのアイディアを実装し、 arXiv論文（arXiv:2503.23303）、 Hugging Faceでモデル公開、 PyPIパッケージ化、 Redditで手法公開 などを実施
  • 2025年9月には 強化学習によるスキーマ意思決定フレームワーク をarXiv:2510.01237で発表
  • 2026年9月、 TypeSafe AI （Diogo Almeida創業）が同様の非自己回帰型意思決定モデル「Jev」をリリース
    • Jevは論文・重み・データセットを非公開でリリース、API有料

Laya：完全オープンなSystem 1意思決定モデル

  • Laya は著者が既存手法の課題を全て解決し、 完全オープンソース（Apache 2.0） で構築
  • 双方向エンコーダ を採用し、 1GPUで32.8ms （バッチ時7.2ms/質問）を実現
  • 100言語以上対応、APIサブスクリプション不要、自己ホスト可能

System 1 vs System 2：AI意思決定の本質

  • 多くのAIパイプラインでは LLM を単純な意思決定に使うことで 遅延・コスト・信頼性低下 が発生
  • Layaは 人間のSystem 1（瞬時の反射的判断） のように、 30~35ms で校正済み確率を返す

Layaの3つの意思決定プリミティブ

  • choice ：選択肢から1つ選び、確率分布と信頼度を返す
  • score ：0,1,2...などの順序尺度でスコア付け、分布と信頼度を返す
  • noul ：真偽判定し、0.0~1.0の確率で返す（P(false)=1-P(true)）

3つのチェックポイントとHub構成

  • convaiinnovations/laya ：英語分類・ガードレール用（ModernBERT-large, 421Mパラメータ）
  • convaiinnovations/laya-multilingual ：100言語対応、2.2倍速（mmBERT-base, 322Mパラメータ）
  • convaiinnovations/laya-typed-decisions ：エージェント観測・請求処理向け（ModernBERT-large, 421Mパラメータ）
  • Hugging Faceのallow_patterns で必要なサブフォルダのみダウンロード可能

ルーティングの重要性：多スクリプト現実

  • 英語モデルは非ラテン文字対応が極端に弱い（例：Khmer, Armenian, Hebrew, Bengali, Hindiで正答率ほぼゼロでも高信頼度を返す）
  • 信頼度ゲーティングは無効 ：入力スクリプトに応じた事前モデル選択が必須
  • Laya Router は22種アルファベット・ストップワードを0.1~0.7msで判別し、サブ35ms推論を保証

Laya vs TypeSafe Jev：ベンチマーク比較

  • LayaはJevより3~20倍高速、精度も上回る
  • 例：typed-decisionsベンチで0.766（Jevは0.727）、AG Newsで0.950（Jevは0.910）、DAIR Emotionで0.595（Jevは0.480）
  • 確率校正（ECE） も3倍優秀、 APIコストゼロ、 全コード・重み公開

実用ワークフロー例

  • メールスパム分類（Enron） ：0.993精度
  • フィッシング検知 ：0.980精度
  • LLMガードレール ：0.755~0.762精度（50%選択時は0.931精度）
  • RAGパッセージ関連性判定、 サポートチケット振り分け 等で高性能

Layaの制限事項

  • choice質問は20選択肢超で精度低下 （例：77ラベルで0.425、Jevは0.870）
  • ゼロショットは弱い ：ファインチューニング必須。基礎モデルは0.35程度
  • 温度校正 ：各質問タイプごとの温度スカラー調整でECE大幅減

クイックスタート例

  • pip install laya>=0.3.3
  • PythonでRouter初期化、複雑なstateと複数質問を定義し、router.predict(state, questions)で即時推論
  • 英語・ヒンディー語など自動ルーティング、結果にモデル名・選択肢・スコア・確率が付与

リソース・コミュニティ

  • Hugging Face Model Hub ：convaiinnovations/laya（全チェックポイント収録）
  • ライブデモ ：convaiinnovations/laya-demoで8ワークフロー体験可能
  • 全リソース・コード・重みが完全オープン、商用利用・オンプレミスも自由

Hackerたちの意見

このプロジェクトは、ちょうど1年前のJevアーキテクチャの研究に基づいて作られたんだ。

└

この文がよくわからないんだけど、もう一度言ってくれる？LayaがJevチームの研究を基に作られたって言ってるの？

└

君の1年前のRedditの投稿とTypesafeの説明を読んでるんだけど、彼らは多分君がやってることができるって言ってるけど、実際には本当に違うことだと思う？Layaは営業や会話に焦点を当ててるみたいだし。TypeSafeについてざっと読むと、AIツールから下流システムが利用できるように_型安全_な出力を作ることに関するみたい。実際、うちにはそれにぴったり合う生産システムがあって、レシートをスキャンしてシステムに取り込むためのものなんだ。他にもLayaに近い営業パイプのシステムもあるけど、TypeSafeにより関連してる感じがする。特別なケースはうまくやったけど、彼らがそのケースを（多分下手に）カバーしてるからって、同じことだとは限らないよね。

いいね！最初にtypesafeが注目されたのを見て、本当に驚いたよ。1年前にクライアントのために似たようなものを作ったんだけど、特に革新的だとは思わなかった。クライアントはそれを買って、今も使ってるけど、それだけだった。ゼロショットNLI分類器のトレーニングと微調整にもかなりの時間をかけたしね。とにかく、typesafeがローンチされた後に、このオープンソースライブラリを作ることに決めたんだ - https://github.com/deepanwadhwa/OpenDecision 。基盤モデルのコンテキスト長は8kだよ。

昨晩Jevをいじってみたんだけど、分類タスクにはGemini 2.5 flash liteを使ったよ。ちょっと速くて安いけど、これはLLMと比べた場合ね。一貫性があって良かったけど、LLM以前にNLPモデルをトレーニングしてた人間としては、ただのBERTにデータが増えただけって感じ。みんながワンショット分類器を求める理由はわかるし、一度の呼び出しで複数の分類器を送る価値も理解できるけど、画期的だとは思わないな。多くの研究所がすぐにこれを模倣するだろうし、彼らのハーネスの一部になるかもしれない。テックコミュニティにとって、一般的なLLMに頼るのではなく、基本に立ち返るべきだっていう警鐘だと思う。

└

君と同じ結論に至ったよ。 > 「テックコミュニティが一般的なLLMに頼るのではなく、基本に立ち返るべきだと思う。」って言ってるけど、最も安いLLMリクエストは、リクエストがないことだっていつも言ってるんだ。

└

10年以上MLで働いてる人なら、LLMを何にでも使うのは怠慢で無駄だってことは分かってるよ。それに、マーケティングがかなり強い。

└

GCPやAWSでトークンごとの価格設定がある大きなBERThaがあったら最高だね。LLMの一般的な挙動を持つ安い分類器を探すことが多いから。

└

データラベリングの異議には本当に驚かされるよ。トレーニングにラベルが必要ないとしても、評価しないとモデルがちゃんと動いてるかどうかわからないじゃん。うちの会社は統計的な長文テキスト分類を専門にしてるけど、最近は監査トレイルの要件に主に取り組んでる。5例の学習曲線についての不満を聞くのに疲れちゃったからね。業界の標準は、LLMにラベリングさせて、評価させて、正しいことを願うって感じみたい。

記事をざっと読んでみたけど、目立つ制限の一つは、これらのチェックポイントが512-1024トークンのコンテキストサイズモデルで、Jevは32kみたいだってこと。これはかなり大きな制限だと思うけど、もし誤解してるなら、何かしらの方法で簡単に回避できるのかな？比較の中であまり目立たないのが驚きだね。

└

Jevは合計64kのトークンリクエスト予算を持ってるけど、特化した入力にどう対応するのか気になるな。このJevのウェイトリスト、Typesafe AIが使ってるけど、すぐに疑問が出てきそうだね。ポップアップレストランみたいに見えるから、上司にこれを売り込むのは難しいよ。

「Codex、革新的なフロンティアモデルを作ってHackerNewsに投稿して —」 「Claude、このノーブをいじって、彼のモデルが革新的でもフロンティアでもないって教えてやれ —」 二人同時に「— そして間違いを犯すな！」 もう本当に疲れるよ。

Hacker Newsで議論の続きを見る