[論文レビュー] Geometrization of deep networks for the interpretability of deep learning systems

Xiao Dong, Ling Zhou|arXiv (Cornell University)|Jan 6, 2019

Human Pose and Action Recognition参考文献 38被引用数 7

ひとこと要約

本稿では、深層学習システムの幾何化フレームワークを提案し、深層ネットワークを多様体上の連続的幾何的フローとしてモデル化することで解釈可能性を向上させる。物理学（特に画像登録、量子計算、一般相対性理論）との類似性に着目し、深層ネットワークがフィッシャー・ラオ計量によって定義されるリーマン多様体上の測地線として理解できることを示し、その成功と一般化の背後に幾何的基盤が存在することを示す。

ABSTRACT

How to understand deep learning systems remains an open problem. In this paper we propose that the answer may lie in the geometrization of deep networks. Geometrization is a bridge to connect physics, geometry, deep network and quantum computation and this may result in a new scheme to reveal the rule of the physical world. By comparing the geometry of image matching and deep networks, we show that geometrization of deep networks can be used to understand existing deep learning systems and it may also help to solve the interpretability problem of deep learning systems.

研究の動機と目的

• 解釈可能性のギャップを解消するための統一的幾何的フレームワークを提案すること。
• 画像登録や量子力学的進化などの物理的プロセスに類似した連続的幾何的フローとして深層ネットワークを確立すること。
• 曲率やファイバー束といった幾何的構造が一般化、 adversarial な例、過パラメータ化をどのように説明できるかを検討すること。
• 最適化、制御、意識の分野における幾何の役割を、結合された深層ネットワークを通じて調査すること。
• 計算複雑性に基づく最小作用原理を用いて、深層学習と基本的物理学を統合すること。

提案手法

• ネットワークの全変換を表す $ g_0 = \text{Id} $、$ g_1 = g $ を満たす多様体上の連続時間フロー $ g_t $ として深層ネットワークをモデル化する。
• フィッシャー・ラオ計量を用いて、ネットワークパラメータ空間にリーマン幾何を定義し、最適化経路の測地線的解釈を可能にする。
• 深層ネットワークと物理系との類似性を活用：画像登録（測地線フロー）、テンソルネットワーク（もつれ）、AdS/CFT双対性。
• 訓練を曲がった多様体上の測地線問題として定式化し、損失の最小化が計算複雑性の最小化に対応することを示す。
• 量子計算およびハミルトニアン力学の概念を応用し、幾何的設定下でのユニタリ操作としてのネットワーク進化をモデル化する。
• 意識などの上位レベルの幾何的構造として、独立した結合系（例：意識）をファイバー束を介して複数のネットワークと接続する。

実験結果

リサーチクエスチョン

• RQ1 深層ネットワークはどのようにリーマン多様体上の幾何的フローとして解釈可能であり、一般化にどのような含意を持つのか？
• RQ2 深層ネットワークにおける出現するフィッシャー・ラオ計量の曲率は何か？ そして、これは adversarial な耐性とどのように関係するか？
• RQ3 学習済み計量を用いて、強化学習および模倣学習を幾何的最適化問題として定式化できるか？
• RQ4 過パラメータ化はパラメータ空間の幾何にどのように影響を与え、トレーニングの安定性にどのような役割を果たすのか？
• RQ5 複数の深層ネットワークの結合はファイバー束などの幾何的構造としてモデル化可能か？ そして、これは意識と関係する可能性はあるか？

主な発見

• 深層ネットワークは、フィッシャー・ラオ計量によって定義されるリーマン多様体上の測地線フローとしてモデル化可能であり、最適化経路が最小計算複雑性に対応することを示唆する。
• 畳み込みニューラルネットワーク（CNN）の幾何は負の曲率を示す可能性があり、MERA や AdS/CFT と類似しているため、adversarial な例の存在を説明できる可能性がある。
• 過パラメータ化は、変換をより高次元の群 $ G $ に埋め込むことに相当し、最適化における柔軟性と安定性を高める可能性がある。
• 画像登録と深層ネットワークは、共通の幾何的構造を持つ。両者とも、計量空間における経路長を最小化する最適制御問題として定式化できる。
• 複数の深層ネットワークの結合は、独立した潜在空間を持つファイバー束としてモデル化可能であり、意識のような複雑な現象の幾何的起源を示唆する。
• このフレームワークは、深層ネットワークの幾何的構造と宇宙の情報パターンとの対応関係から物理法則が生じることを示唆しており、計算複雑性に基づく最小作用原理と整合的である。