概要
- Shieldstral は3Bパラメータの オープンウェイト 多モーダル安全性分類器
- テキスト・画像 の安全性評価を 単一インターフェース で実現
- ポリシー適応型 のQAタスクとして内容モデレーションを再定義
- 再学習不要、推論時に自然言語ポリシーを入力可能
- Apache 2.0ライセンス で公開、1枚の16GB GPUで動作
Shieldstral：ポリシー適応型多モーダル安全性分類器
- Shieldstral は、3Bパラメータの オープンウェイト モデル
- テキスト安全性 で最大7倍のサイズのモデルに匹敵する精度
- マルチモーダルモデレーション で新たな最高水準を達成
- 質問応答形式 でモデレーションを実施
- 例：「この内容は保護対象グループへの暴力を助長していますか？」
- 例：「この画像は未成年に見せても安全ですか？」
- 製品や利用者、タイミング に応じた柔軟な判定が可能
- 従来のガードレールモデルは 固定カテゴリ だが、Shieldstralは 自然言語ポリシー を推論時に直接指定
モデレーションを「質問」として定義
- モデレーションを バイナリQAタスク として設計
- <Instruct> ：評価文脈・厳格度・安全性定義（任意）
- <Query> ：Yes/No形式の質問
- <Document> ：評価対象（テキスト・画像・ペア等）
- モデルはYes/Noの ロジット を出力し、 安全性スコア へ正規化
- プロンプト分類・レスポンスモデレーション・拒否検出・有害性検出 を統合
- 再学習不要、新規ポリシーにも即時対応
特徴・ハイライト
- 高性能 ：同等・大型モデルに匹敵、または上回る精度
- 柔軟性 ：テキスト・画像・ペアに単一インターフェースで対応
- 軽量 ：3Bパラメータで16GB GPU上で動作
- 多様なデータ ：実データ・合成データ・多様なラベル形式を統合
- 連続スコア ：Yes/No確率で閾値設定や信頼度ランク付けが可能
- オープンソース ：Apache 2.0ライセンス
ベンチマーク・評価
- 4軸 （テキスト安全性・拒否検出・ポリシー適応・マルチモーダル）で評価
- 全サンプル は訓練データから分離
開発手法
- 異質データの統合 ：各データセットを統一形式（Instruct–Query–Document）へ変換
- 指示・質問・区切り表現を多様化し過学習を防止
- データソースごとに厳格度を調整し、 校正された判定境界 を学習
- 識別能力の強化 ：LLMを活用し、類似ポリシー間で違反となる対照ペアを作成
- 新規ポリシーへの汎化能力向上
- 画像安全性の強化 ：一般画像データセットを高品質なネガティブ例として追加
- クエリを変化させデータ拡張
- Vision-Language再ランカーで誤ラベルや幻覚を低減
- 補完的チェックポイントの統合 ：LoRAでファインチューニングし、複数チェックポイントをSLERPで統合
- 公開データ校正・生成データによる細粒度ポリシー識別・ベースモデルの命令追従性を一体化
- Forgeプラットフォーム ：インフラ・データ分割・メトリクス・ロギングを一括管理
今後の展望
- 文脈適応型モデレーション の実現へ前進
- 多言語対応 ・ 長文強化 ・ マルチモーダル安全性 の拡張を継続
- コミュニティによる応用展開 を期待
- 採用募集中 ：詳細はキャリアページ参照