[論文レビュー] Streaming Weak Submodularity: Interpreting Neural Networks on the Fly

Ethan R. Elenberg, Alexandros G. Dimakis+2 more|arXiv (Cornell University)|Mar 8, 2017

Adversarial Robustness in Machine Learning参考文献 1被引用数 14

ひとこと要約

本論文は、基数制約のもとで弱い劣モジュラー関数を最大化するためのストリーミングアルゴリズムStreakを提案する。この手法により、深層ニューラルネットワークの解釈が高速かつスケーラブルに可能となる。ランダムなストリーム順序のもとで定数倍近似保証を達成し、LIMEよりも10倍速く動作するが、Inception V3の予測に対して同等の説明を生成する。

ABSTRACT

In many machine learning applications, it is important to explain the predictions of a black-box classifier. For example, why does a deep neural network assign an image to a particular class? We cast interpretability of black-box classifiers as a combinatorial maximization problem and propose an efficient streaming algorithm to solve it subject to cardinality constraints. By extending ideas from Badanidiyuru et al. [2014], we provide a constant factor approximation guarantee for our algorithm in the case of random stream order and a weakly submodular objective function. This is the first such theoretical guarantee for this general class of functions, and we also show that no such algorithm exists for a worst case stream order. Our algorithm obtains similar explanations of Inception V3 predictions $10$ times faster than the state-of-the-art LIME framework of Ribeiro et al. [2016].

研究の動機と目的

• リアルタイム応用におけるブラックボックス型ニューラルネットワーク予測を効率的に解釈する課題に対処すること。
• 劣モジュラー関数の一般化である弱い劣モジュラー目的関数に対して理論的近似保証を提供するストリーミングアルゴリズムを開発すること。
• モデルの完全な再評価を必要とせずに、高速でスケーラブルかつ正確な特徴量の重み付けを可能にすること。
• LIMEのような従来の手法の限界を克服すること。LIMEは大規模データセット上で繰り返しモデル推論を行うため、遅延が生じる。

提案手法

• 弱い劣モジュラー目的関数を扱うために、Sieve-Streamingに貪欲なしきい値手法と二分探索を拡張する。
• 異なるしきい値をもつ、変更された貪欲アルゴリズムの並列インスタンスの集合を用いて、多様性と耐障害性を維持する。
• ランダムなストリーム順序のもとで、γ-弱い劣モジュラー関数に対して定数倍近似比を示す、新しい解析フレームワークを導入する。
• 動的しきい値調整を可能にする、メモリ効率の良い設計を採用し、O(ε⁻¹k log k)の空間計算量を維持する。
• 特徴選択を集合関数の最大化問題として定式化することで、ニューラルネットワークの解釈にアルゴリズムを適用する。
• LIMEにインspiredされた新しい目的関数を導入し、ストリーミング評価に最適化することで、推論コストを削減する。

実験結果

リサーチクエスチョン

• RQ1 劣モジュラー最大化のストリーミングアルゴリズムを、理論的保証を伴う弱い劣モジュラー関数へ拡張できるか？
• RQ2 最悪ケースの不可能性にもかかわらず、ランダムなストリーム順序のもとで、弱い劣モジュラー目的関数に対して定数倍近似が達成可能か？
• RQ3 ストリーミングアルゴリズムが、LIMEを上回る速度を達成しながら、深層ニューラルネットワークの説明品質を同等に維持できるか？
• RQ4 弱い劣モジュラリティパラメータγと基数制約kの変化に伴い、アルゴリズムの性能はどのように変化するか？

主な発見

• ランダムなストリーム順序のもとで、Streakは理論的近似比 (1−ε)·γ/2·(3−e⁻ᵞ/²−2√(2−e⁻ᵞ/²)) を達成し、弱い劣モジュラー関数に対して初めてのこのような保証を提供する。
• LIMEよりも約10倍速く動作し、Inception V3の予測において同等の品質の説明を生成する。
• 不可能性結果として、o(N)のメモリをもつ任意の確率的ストリーミングアルゴリズムは、最悪のストリーム順序に対しても、定数倍近似を達成できないことが示された。これは0.5-弱い劣モジュラー関数に対しても同様に成り立つ。
• Streakは、弱い劣モジュラリティパラメータγの事前知識を必要としないため、リアルタイム応用において実用的である。
• 実験的評価により、Streakは正確で解釈可能な特徴量の重み付けを生成し、特にクラス関連の画像領域を特定するのに特に有効である。
• LIMEに統合した場合、Streakは説明品質を損なわせることなく、特徴選択の速度を向上させることを示し、汎用性の高さを実証した。