[論文レビュー] SymbolicAI: A framework for logic-based approaches combining generative models and solvers

Marius-Constantin Dinu, Claudiu Leoveanu-Condrei+3 more|arXiv (Cornell University)|Feb 1, 2024

Semantic Web and Ontologies被引用数 6

ひとこと要約

SymbolicAI は、LLMs を意味パーサとして用い、ソルバーを指揮し、組み合わせ可能な計算グラフを構築するモジュラーなニューローシンボリック枠組みを提示し、VERTEX品質スコアとベンチマークを背後に持つ。

ABSTRACT

We introduce SymbolicAI, a versatile and modular framework employing a logic-based approach to concept learning and flow management in generative processes. SymbolicAI enables the seamless integration of generative models with a diverse range of solvers by treating large language models (LLMs) as semantic parsers that execute tasks based on both natural and formal language instructions, thus bridging the gap between symbolic reasoning and generative AI. We leverage probabilistic programming principles to tackle complex tasks, and utilize differentiable and classical programming paradigms with their respective strengths. The framework introduces a set of polymorphic, compositional, and self-referential operations for multi-modal data that connects multi-step generative processes and aligns their outputs with user objectives in complex workflows. As a result, we can transition between the capabilities of various foundation models with in-context learning capabilities and specialized, fine-tuned models or solvers proficient in addressing specific problems. Through these operations based on in-context learning our framework enables the creation and evaluation of explainable computational graphs. Finally, we introduce a quality measure and its empirical score for evaluating these computational graphs, and propose a benchmark that compares various state-of-the-art LLMs across a set of complex workflows. We refer to the empirical score as the "Vector Embedding for Relational Trajectory Evaluation through Cross-similarity", or VERTEX score for short. The framework codebase and benchmark are linked below.

研究の動機と目的

• 概念学習と生成プロセスのフロー管理のための、論理ベースのフレームワークとして SymbolicAI を紹介する。
• モジュラー確率プログラミング手法を通じて、巨大言語モデルと多様なソルバーのシームレスな統合を可能にする。
• 記号的およびサブ記号的成分から構築された計算グラフを作成・評価・説明するツールを提供する。
• 複雑なワークフロー全体で最先端のLLMsを比較するための品質指標（VERTEXスコア）とベンチマークを提案する。

提案手法

• LLMs を自然言語および形式言語の指示からタスクを実行する意味パーサとして扱う。
• 記号表現とソルバー、および微分可能な成分を結ぶために、確率的プログラミングの原理を活用する。
• データストリーム操作とグラフ構築のための、ポリモーフィック、組み合わせ的、自己参照的な操作のセットを定義する。
• 記号的およびサブ記号的プロセスを結合する階層的計算グラフを構築するための関数合成をサポートする。
• ドメイン中心言語（DSL）と prompting 戦略を実装し、入力をソルバー呼び出しにマッピングし、制約を介して出力を検証する。
• SymbolicAI とその評価スイートのコードベースを含むフレームワークとベンチマークをリリースする。

実験結果

リサーチクエスチョン

• RQ1 LLMs を意味パーサとして活用して、伝統的および微分可能なソルバーを統合した NeSy フレームワークをどのように構築できるか？
• RQ2 SymbolicAI において、堅牢で説明可能な計算グラフを最も適切に支える設計原則とデータ構造（記号、式、DSL など）は何か。
• RQ3 品質指標（VERTEXスコア）は、異なるファンデーションモデルに跨る多段階のニューローシンボリック作業フローを効果的に評価できるか？

主な発見

• SymbolicAI は、統一されたフレームワーク内で古典的プログラミングと微分可能プログラミングのシームレスな移行を可能にする。
• モジュラー・パイプラインは DSL と記号ベースの表現を用いて、ソルバーに導かれた計算グラフを構成・評価する。
• このフレームワークは、マルチステップの NeSy グラフを評価する経験的品質測度である VERTEX スコアを導入する。
• 評価は、インコンテキスト学習、論理翻訳、階層的グラフ計画を含むタスクにおいて、複数の LLM を比較する。
• ベンチマークとコードベースは、研究者が最先端の LLM を複雑なワークフローで評価するための実用的なリソースを提供する。