[論文レビュー] ModelDiff: A Framework for Comparing Learning Algorithms

Harshay Shah, Sung Min Park+2 more|arXiv (Cornell University)|Nov 22, 2022

Machine Learning and Data Classification被引用数 5

ひとこと要約

ModelDiffは、異なる学習アルゴリズムで訓練されたモデルを区別する入力変換を特定することにより、機械学習アルゴリズムを比較するためのフレームワークである。データモデリングを用いてトレーニングデータの依存関係を検出し、データオーグメンテーション、事前学習、SGDハイパーパramータの違いによるモデル行動の細分化された差異を明らかにする。

ABSTRACT

We study the problem of (learning) algorithm comparison, where the goal is to find differences between models trained with two different learning algorithms. We begin by formalizing this goal as one of finding distinguishing feature transformations, i.e., input transformations that change the predictions of models trained with one learning algorithm but not the other. We then present ModelDiff, a method that leverages the datamodels framework (Ilyas et al., 2022) to compare learning algorithms based on how they use their training data. We demonstrate ModelDiff through three case studies, comparing models trained with/without data augmentation, with/without pre-training, and with different SGD hyperparameters. Our code is available at https://github.com/MadryLab/modeldiff .

研究の動機と目的

• 入力空間における区別的特徴変換を同定することによって、学習アルゴリズム比較の問題を形式化すること。
• 事前の仮説なしに、任意の2つの学習アルゴリズムを比較する汎用的手法を開発すること。
• データモデリングを通じてモデルの予測を分析することにより、学習アルゴリズムがトレーニングデータをどのように異なる方法で使用するかを定量化すること。
• バイアスや一般化への影響を、設計選択の細分化された分析を可能にすること。
• サブポピュレーション分析と対仮説的検証を用いて、アルゴリズム的差異に関する解釈可能で検証可能なインサイトを提供すること。

提案手法

• 1つのモデルの予測を一貫して変えるが、もう1つのモデルの予測を変えないような入力変換を同定することにより、アルゴリズム比較を形式化する。
• 各トレーニング例がモデルの予測にどの程度寄与しているかを定量化するため、データモデリングフレームワーク [IPE+22] を活用する。
• 各テスト例の残差データモデリングベクトルを計算し、モデルがトレーニングデータに依存する方法が異なるサブポピュレーションを特定する。
• 残差データモデリングの主成分を抽出して、特徴空間における区別のつく方向を同定する。
• 視覚言語モデル（例：CLIP）を用いて、区別のつくサブポピュレーションから対照的なキャプションを抽出することで、候補となる変換を検証する。
• 対仮説的分析を実施し、設計された変換が期待通りに予測を一貫して変えることを検証する。

実験結果

リサーチクエスチョン

• RQ1 どのようにして、特徴使用の観点から学習アルゴリズム比較の問題を形式的に定義できるか？
• RQ2 どのような入力変換が、異なる学習アルゴリズムで訓練されたモデルを信頼性高く区別するか？
• RQ3 データオーグメンテーション、事前学習、SGDハイパーパramータは、特定のトレーニング例へのモデルの依存度にどのように影響するか？
• RQ4 モデルの予測行動に系統的な差が現れるテスト例のサブポピュレーションを自動で抽出できるか？
• RQ5 CLIPのような視覚言語モデルは、区別のつく特徴変換の解釈と検証をどの程度支援できるか？

主な発見

• データオーグメンテーションを用いて訓練されたモデルは、画像に「クモの巣」を追加した場合、'スパイダー'クラスに対する平均的信頼度が15%上昇するが、オーグメンテーションなしのモデルでは1%にとどまる。
• ImageNetで事前学習したモデルは、イエローパッチを追加した場合、'ランドバード'に対する信頼度が+12%上昇するが、スクラッチから微調整したモデルでは4%低下する。
• 背景に人間の顔を追加すると、事前学習済みモデルでは'ランドバード'の信頼度が+4%上昇するが、スクラッチから訓練したモデルでは1%低下する。
• 小さな学習率で訓練されたモデルは、窓のようなパターンを追加した場合、'トラック'の信頼度が平均7%上昇するが、大きな学習率のモデルではわずか2%上昇にとどまる。
• CLIPベースのキャプション抽出は、'イエロー'、'レモン'、'顔'といった区別のつく特徴を効果的に同定し、手動で推定されたバイアスと整合する。
• 残差データモデリングの主成分は、すべての事例研究において、一貫性があり解釈可能な差が現れるサブポピュレーションを効果的に抽出する。