概要

• 現代AIは ベクトル表現 を用いながらも、 記号的構造 が必要な分野で高い性能を発揮
• ニューラルネットワークの 内部表現が記号構造を暗黙的に実現 している可能性を提案
• 小規模ネットワークから 大規模言語モデル（LLM） まで幅広く検証
• 記号的近似により、LLMの 内部表現を介した行動の制御 が可能
• 記号主義とベクトル主義の 橋渡しとなる知見 の提示

現代AIにおける記号的構造の暗黙的実現

• 従来の知能モデルは 論理式などの記号的組み合わせ を重視
• 現代の強力なAIは 連続ベクトル による情報表現を採用
• ベクトルは言語や論理、認知領域の 構造を捉えるには不十分 と思われていた
• しかし、ニューラルネットワークは これらの分野で高い性能 を示す現象
• 本研究では、 内部ベクトル表現が記号的構造を暗黙的に表現 している仮説を提案

記号構造によるベクトル表現の近似と検証

• 様々なニューラルネットワークの ベクトル表現を記号構造で近似 する手法を開発
• ネットワーク全体の 表現生成プロセスを記号構造の閉形式方程式 で置き換え
• 置き換え後も ネットワークの挙動はほぼ変化せず、有効性を確認
• 小規模なリスト操作ネットワークから LLMまで幅広いスケールで検証
• 検証領域は 算術、論理、プログラムコード、言語 など記号主義の中心分野

LLMの内部表現操作による行動制御

• 記号的近似を活用し、 LLMの内部表現に直接介入 することで
• 特定の行動修正や誘導 が可能であることを実証
• LLMの行動が 特定の記号構造に依存している ことを示唆
• 内部表現の構造的理解による 精密なAI制御技術への展望

記号主義とベクトル主義の統合的理解

• 本研究は、 知能の記号的概念と現代AIのベクトル的本質 の統合を目指す
• 記号主義の理論とニューラルネットワークの 実践的性能の架け橋
• 今後のAI研究における 理論的・実用的な示唆 の提供