[論文レビュー] On Symbolically Encoding the Behavior of Random Forests

Arthur Choi, Andy Shih+2 more|arXiv (Cornell University)|Jul 3, 2020

Adversarial Robustness in Machine Learning参考文献 23被引用数 19

ひとこと要約

本稿では、ランダムフォレストのための整合的かつ完全なブール符号化を提案し、モデル意思決定の説明に不可欠な基本積集合の正確な計算を可能にする。標準的な符号化（例：ワンホット）を用いる場合、基本積集合抽出において陥りがちな落とし穴を特定し、一貫性制約と正確に一つの値をとる制約を用いて、ブール符号化から多値基本積集合を導出する手法を提案。これにより、説明可能性タスクにおける正しさが保証される。

ABSTRACT

Recent work has shown that the input-output behavior of some machine learning systems can be captured symbolically using Boolean expressions or tractable Boolean circuits, which facilitates reasoning about the behavior of these systems. While most of the focus has been on systems with Boolean inputs and outputs, we address systems with discrete inputs and outputs, including ones with discretized continuous variables as in systems based on decision trees. We also focus on the suitability of encodings for computing prime implicants, which have recently played a central role in explaining the decisions of machine learning systems. We show some key distinctions with encodings for satisfiability, and propose an encoding that is sound and complete for the given task.

研究の動機と目的

• 離散的または離散化された連続入力をもつ機械学習モデルの基本積集合を正しく計算する課題に対処すること。
• 意思決定木やランダムフォレストのような多値システムに適用される際、特に基本積集合計算に用いられる既存のブール符号化の欠陥を特定すること。
• 多値論理の意味論をブール論理に変換する際に保持する、整合的かつ完全な符号化手法を開発すること。
• ブール符号化が元の多値挙動を正確に反映することを保証することで、ランダムフォレストの意思決定を基本積集合を用いて効果的に説明可能にすること。
• 知識コンパイルやSAT/SMTソルバを用いたスケーラブルで形式的な推論を可能にする、信頼性のある符号化パイプラインを提供すること。

提案手法

• 離散変数をブール変数として表すために古典的なワンホット符号化を用い、各変数が正確に一つの値をとることを保証する。
• 各多値変数ごとに、正確に一つのブール変数が真であることを保証する「正確に一つの値」制約（Ψ）を構築する。
• 意思決定木またはランダムフォレストの入出力挙動をブール式（Δb）として符号化し、リテラルの論理積と論理和を用いて関数を表現する。
• Ψ ⇒ Δb の基本積集合を計算し、その中から負の項かつΨと一貫性を持つものに絞ることで、有効な多値基本積集合を回復する。
• 最終的なブール式に対して、既存のSATまたは知識コンパイルツール（例：OBDD）を活用し、効率的な推論と説明を可能にする。
• 導出されたブール基本積集合が元のシステムの多値基本積集合に正確に対応することを証明することで、正しさを保証する。

実験結果

リサーチクエスチョン

• RQ1 離散的または離散化された連続入力をもつ標準的なブール符号化は、モデル説明のための基本積集合計算を正しくサポートできるか？
• RQ2 多値システムにおいて、充足可能性のための符号化と基本積集合計算のための符号化の主な違いは何か？
• RQ3 多値意思決定関数を、その基本積集合が元の関数の真の基本積集合を反映するように、どのようにブール式に変換できるか？
• RQ4 誤検出や見逃しを引き起こさずに、ブール符号化から多値基本積集合を体系的に抽出する方法はあるか？
• RQ5 提案手法の符号化は、トライビアルブール回路やSATソルバと効果的に連携可能か？

主な発見

• ワンホット符号化は充足可能性の観点では整合的であるが、相互排他的性を正しく強制しないため、直接説明に用いる場合、誤った基本積集合を生成する可能性がある。
• 正確に一つの値をとる制約とブール基本積集合のフィルタリングを組み合わせた本手法により、有効で一貫性があり、負の基本積集合のみが保持され、整合性と完全性が達成される。
• Ψ ⇒ Δb から得られるブール基本積集合のうち、負の項かつΨと一貫するものに制限することで、元の意思決定関数の多値基本積集合に正確に対応する。
• 本手法は、OBDDへの知識コンパイルやSMTソルバを用いた既存の説明パイプラインと互換性があり、ランダムフォレストの意思決定を効率的かつ正確に説明可能である。
• 本手法はランダムフォレストに限らず、離散的または離散化された連続入力をもつ任意のシステムに一般化可能であり、意思決定経路が論理式として符号化可能な場合に適用可能である。
• 本研究は、説明可能性AIにおけるブール論理推論ツールの利用に形式的基盤を提供し、従来のアプローチが単純な符号化に基本積集合計算を直接適用したことによる重大な欠陥を是正した。