深層学習モデルは時として想定外の挙動を起こし、人間や記号的AIが決して起こさないようなミスをすることがあります。生成AIについても信頼性の問題は非常に大きく、誤情報・バイアス・データ汚染等に左右されるほか、プライバシー・コンプライアンスの問題もあります。AIをより信頼可能なものにするためには、解釈可能性(interpretability)、説明可能性(explainability)、ロバスト性(robustness)を向上させる必要があり、人間が行っているように、目標・事実（知識）・推論・記憶・説明などを扱える記号系が必要となります。
そこで本研究室では、AI研究で別々に研究されてきた機械学習と知識表現・推論を統合することにより説明可能なロバストAIを構築することを目的として研究を続けています。今後は大規模言語モデル(LLM)による常識も活用し、高度な知的作業に応用して行きます。
記号推論(symbolic reasoning)では、論理式で表現された前提知識（知識ベース）や仮定から論理的帰結を導き正しい決定を行うことや、論理式や数式により表現される制約式を満たす解を計算することが主なタスクになります。これによって、無矛盾性・健全性・完全性といった計算の正当性を保証し、推論結果は説明可能かつ解釈可能であり、得られた知識を蓄積することで利用可能となるメリットがあります。その一方で、知識ベースに格納すべき正しい知識を獲得することの困難性、スケーラビリティ・ノイズ耐性（ロバスト性）の欠如、不完全情報からの推論に対する問題があります。これらも問題点は機械学習研究との融合によりカバーできると考えており、そのための技術として、ニューラルネットワークによる数値計算と記号推論を融合したニューロシンボリック(neurosymbolic) AIのための基盤技術の研究や生成AIにおける推論機能の開発に取り組みます。
私の本務先である国立情報学研究所（NII）は情報学分野における国内において唯一となる国立の学術総合研究機関です。当研究室に所属する学生さんには、連携大学院生としてNII内にも座席を用意し、NIIにおける計算機環境やコンテンツ、さらにNIIが開発する生成AIモデルを活用してもらうことができます。国際色豊かなNII内の研究室メンバーとディスカッションしながら、人工知能に関する最先端の研究開発に携わってもらい、大須賀・田原・清研究室とも連携して一緒に研究できることを楽しみにしています。
