[論文レビュー] Neurosymbolic Programming for Science

Jennifer J. Sun, Megan Tjandrasuwita+5 more|arXiv (Cornell University)|Oct 10, 2022

Reinforcement Learning in Robotics被引用数 5

ひとこと要約

本論文は、科学的データから解釈可能でプログラム的なモデルを学習するために、ニューラルネットワークと記号的推論を組み合わせるフレームワークとしてNeurosymbolic Programming (NP)を提案する。行動解析分野への応用を通じて、分野特有の言語、事前知識の統合、記号的出力の活用により、AIと分野専門家が共同で作業できる仕組みを実証している。

ABSTRACT

Neurosymbolic Programming (NP) techniques have the potential to accelerate scientific discovery. These models combine neural and symbolic components to learn complex patterns and representations from data, using high-level concepts or known constraints. NP techniques can interface with symbolic domain knowledge from scientists, such as prior knowledge and experimental context, to produce interpretable outputs. We identify opportunities and challenges between current NP models and scientific workflows, with real-world examples from behavior analysis in science: to enable the use of NP broadly for workflows across the natural and social sciences.

研究の動機と目的

• 科学的推論の原則に整合する、解釈可能で知識を組み込んだAIモデルを科学的発見に適用する課題に対処すること。
• 神経記号的AIと現実世界の科学的ワークフローの間のギャップを埋め、特にデータが多くノイズの多い分野（例：行動解析）において有効にすること。
• 分野専門知識（例：実験的文脈、行動マップ、時空間的制約）をプログラム合成に組み込むことで、科学者とAIの協働を可能にすること。
• 透明な仮説生成と検証を支援するスケーラブルで再現可能かつインタラクティブなNPパイプラインの開発。
• NPにおける評価、ベンチマーク、ツールキットの主な課題を特定し、標準化されたコミュニティ主導のベンチマークと使いやすいツールの導入を提言すること。

提案手法

• 行動解析などの科学的分野に特化したドメイン特有の言語（DSL）を設計し、科学的仮説を実行可能プログラムとして表現すること。
• 既知の行動的特徴、制約、ダイナミクスなどの事前科学的知識をDSLおよび学習パイプラインに統合し、データ効率性と解釈可能性を向上させること。
• 神経記号的プログラム合成を用いて、データから記号的プログラムを自動的に発見すること。ここでは、ポーズトラッキングなどのニューラル表現と、行動ルールなどの記号的論理を統合する。
• 微分可能プログラミングと記号的探索を活用し、プログラム構造を最適化するとともに、出力が人間が読みやすく解析可能であることを保証すること。
• 視覚的かつインタラクティブなツール（例：NEARの統合）を設計し、専門家の検証とプログラムの精練を支援することで、人間が関与する協働プロセスを可能にすること。
• NPモデルを複数の次元（再現性、入力の摂動に対するロバストネス、分野専門知識との整合性など）で評価するフレームワークを提言すること。

実験結果

リサーチクエスチョン

• RQ1 神経記号的プログラミングは、行動解析のような現実世界のデータ豊富な分野における科学的発見を支援するために、どのように適合可能か？
• RQ2 実験的文脈や既知の行動的制約といった分野特有の知識は、NPモデルのデータ効率性と解釈可能性を向上させる上で果たす役割は何か？
• RQ3 従来の指標が不十分な場合、特にロバストネスや再現性といった性質について、NPモデルを意味的に評価するにはどうすればよいか？
• RQ4 NPパイプラインを既存の科学的ワークフローに統合し、科学者とAIの協働を可能にするために必要なツールとインターフェースは何か？
• RQ5 NPを科学分野に導入する際の主なボトルネックは何か。標準化されたベンチマークとコミュニティ主導の評価プロトコルは、それらの課題をどのように克服できるか？

主な発見

• Neurosymbolic Programmingにより、複雑な時空間的データから、動物行動などの科学的現象をモデル化する記号的で解釈可能なプログラムを自動的に発見できる。
• 既知の行動的属性や実験的制約といった分野専門知識を統合することで、行動解析分野におけるモデルのデータ効率性と解釈可能性が顕著に向上する。
• NPモデルは記号的出力を生成するため、科学者が仮説について推論し、反事後的分析を実施し、モデルの挙動を現実世界の観察と結びつけることができる。
• NPを科学的ワークフローに統合するには、生のデータ（例：動画）と記号的モデル出力（例：行動分類）の両方を可視化する専用ツールが必要であり、透明性と使いやすさが向上する。
• 主な課題は、再現性やロバストネスといった性質に対する標準化されたベンチマークや客観的指標の欠如に起因するNPモデルの評価である。特に確率的探索に基づくアプローチでは顕著である。
• NPの計算コストは非常に高い。GPUに依存するニューラル訓練とCPUに依存するプログラム合成という、相補的な要件が重なっているため、スケーラブルなインfraにアクセスできない研究者にとっては障壁となる。