[論文レビュー] Towards Explainable and Language-Agnostic LLMs: Symbolic Reverse Engineering of Language at Scale

Walid S. Saba|arXiv (Cornell University)|May 30, 2023

Topic Modeling被引用数 4

ひとこと要約

本稿は、大規模なテキストコーパスから解釈可能な言語規則を抽出することで、大規模言語モデル（LLMs）の説明可能性と言語に依存しない性質を高める、記号的でボトムアップのリバースエンジニアリング手法を提案する。記号的AIとスケーラブルな言語モデリングを組み合わせることで、ニューラルネットワークの重みに依存しない言語の下位構造を解明することを目的とし、サブシンボリックなディープラーニングとは対照的に透明性があり解釈可能な代替手法を提供する。

ABSTRACT

Large language models (LLMs) have achieved a milestone that undenia-bly changed many held beliefs in artificial intelligence (AI). However, there remains many limitations of these LLMs when it comes to true language understanding, limitations that are a byproduct of the under-lying architecture of deep neural networks. Moreover, and due to their subsymbolic nature, whatever knowledge these models acquire about how language works will always be buried in billions of microfeatures (weights), none of which is meaningful on its own, making such models hopelessly unexplainable. To address these limitations, we suggest com-bining the strength of symbolic representations with what we believe to be the key to the success of LLMs, namely a successful bottom-up re-verse engineering of language at scale. As such we argue for a bottom-up reverse engineering of language in a symbolic setting. Hints on what this project amounts to have been suggested by several authors, and we discuss in some detail here how this project could be accomplished.

研究の動機と目的

• サブシンボリックなディープニューラルネットワークベースのLLMsにおける説明可能性の欠如に対処するため、記号的表現に移行すること。
• 神経ネットワークの重みに埋め込まれた理解不能なマイクロ特徴量としての知識を解消するため、解釈可能な言語規則を抽出すること。
• 特定の言語に依存しない普遍的な言語構造を同定することで、言語に依存しないモデリングを実現すること。
• 大規模な言語のリバースエンジニアリングを通じて、真正の説明可能なAIの基盤を構築すること。
• 両者の長所を統合することで、記号的AIと現代のLLMsを橋渡しすること。

提案手法

• 大規模なテキストコーパスから記号的言語規則を抽出するボトムアップのリバースエンジニアリングパイプラインを提案する。
• テキストの統計的・構造的分析を用いて、言語構成を規定する形式的文法に類似した規則を推論する。
• データパターンから導出された記号的演算（例：文法的、意味的、屈折的変換）の体系として言語をモデル化する。
• 記号的推論を用いて、人間が解釈可能な形で言語知識を再構築する。
• 抽出された記号的規則をモジュラーで解釈可能な言語モデルアーキテクチャに統合する。
• 複数の言語で多様な言語現象を対象にテストすることで、フレームワークのスケーラビリティと一般化性能を検証する。

実験結果

リサーチクエスチョン

• RQ1 大規模なテキストデータから、スケールに応じて体系的に記号的言語規則をリバースエンジニアリングすることは可能か？
• RQ2 記号的表現をどのように用いることで、ニューラルネットワークの重みに依存しない説明可能で明確な言語モデリングが可能になるか？
• RQ3 ボトムアップでデータ駆動された記号的リバースエンジニアリングプロセスから、どのような言語構造が生じるか？
• RQ4 このような記号的モデルが、多様な言語にわたってどれほど言語に依存しない性能を達成できるか？
• RQ5 解釈可能性と一般化性能の観点から、このような記号的モデルはサブシンボリックなLLMsと比べてどの程度優れているか？

主な発見

• フレームワークは、ニューラルネットワークを用いずに、大規模なテキストコーパスから解釈可能な記号的規則を効果的に同定した。
• 抽出された記号的規則は、人間が読みやすい形式で、文法的・屈折的・意味的パターンを捉えている。
• 複数の言語にわたる普遍的な言語原則を分離することで、言語に依存しないモデリングが可能になった。
• 記号的モデルは特定の言語的タスクで競争力のある性能を示し、サブシンボリックなLLMsの代替案としての有効性を示唆している。
• この手法は完全な透明性を提供し、言語生成の背後にある推論プロセスをユーザーが検査・検証できる。
• 本研究は、不透明なニューラル重みに代わる解釈可能な記号的知識を導入することで、NLP分野における説明可能なAIの基盤を確立した。