[論文レビュー] FasterRisk: Fast and Accurate Interpretable Risk Scores

Jiachang Liu, Chudi Zhong+3 more|arXiv (Cornell University)|Oct 12, 2022

Advanced Causal Inference Techniques被引用数 11

ひとこと要約

FasterRiskは、ビームサーチと「スター・レイ」丸め戦略を用いて、データから高品質なリスクスコアを高速かつ解釈可能に生成する手法を提案する。最小限の損失でスパースで整数係数を持つモデルの多様なプールを効率的に生成し、数分でAUCが0.85を超える結果を達成する。これは医療や刑事司法分野におけるリアルタイムでインタラクティブなモデル設計に適している。

ABSTRACT

Over the last century, risk scores have been the most popular form of predictive model used in healthcare and criminal justice. Risk scores are sparse linear models with integer coefficients; often these models can be memorized or placed on an index card. Typically, risk scores have been created either without data or by rounding logistic regression coefficients, but these methods do not reliably produce high-quality risk scores. Recent work used mathematical programming, which is computationally slow. We introduce an approach for efficiently producing a collection of high-quality risk scores learned from data. Specifically, our approach produces a pool of almost-optimal sparse continuous solutions, each with a different support set, using a beam-search algorithm. Each of these continuous solutions is transformed into a separate risk score through a "star ray" search, where a range of multipliers are considered before rounding the coefficients sequentially to maintain low logistic loss. Our algorithm returns all of these high-quality risk scores for the user to consider. This method completes within minutes and can be valuable in a broad variety of applications.

研究の動機と目的

• 医療や刑事司法など、意思決定が重大な分野における、データ駆動型で高品質なリスクスコアの長年のニーズに対応する。
• 専門家による設計やロジスティック回帰のヒューリスティック丸めに起因する従来手法の限界を克服し、最適でないパフォーマンスを改善する。
• 遅い数学的プログラミングソルバーに依存せずに、スケーラブルで高速なアルゴリズムを開発し、高パフォーマンスなリスクスコアの多様なプールを生成する。
• ドメイン知識に基づくユーザー選択が可能な近似的に最適なリスクスコアのプールを生成することで、インタラクティブなモデル設計を可能にする。
• 実世界のデータセットで競争力のあるパフォーマンスを達成しつつ、リスクスコアの解釈可能性と記憶性を維持する。

提案手法

• ビームサーチを用いて、異なるサポート集合を持つほぼ最適なスパース連続解のプールを生成する。
• 各連続解に対して「スター・レイ」サーチを適用し、整数に段階的に丸める前に、さまざまな乗数をテストする。
• 丸め中にロジスティック損失を低減するために、各係数に対して複数の乗数値を評価する。
• 連続解を整数係数のリスクスコアに変換しながら、モデルのパフォーマンスとスパarsityを保持する。
• 最大公約数（GCD）を用いたモデル簡略化により、係数を単純化し、解釈可能性を向上させる。
• 解釈性の向上のための特徴量変換をサポートする。例えば、重複する条件を含む複合特徴量を互いに排他的なカテゴリに分割する。

実験結果

リサーチクエスチョン

• RQ1 既存の数学的プログラミングアプローチよりも、データから高品質で解釈可能なリスクスコアを高速に生成できるか？
• RQ2 パフォーマンスとスパarsityのバランスを保ちつつ、解釈可能な近似的に最適なリスクスコアの多様なプールを生成できるか？
• RQ3 ビームサーチとスター・レイ丸めを組み合わせた手法が、ロジスティック回帰係数のヒューリスティック丸めよりも、予測精度で優れているか？
• RQ4 この手法は実世界のデータセットにスケーラブルであり、インタラクティブ利用に適したモデルを数分で生成できるか？
• RQ5 モデル簡略化と特徴量変換は、パフォーマンスを損なわせずに解釈性をどの程度向上できるか？

主な発見

• FasterRiskは、mammoデータセットの学習セットとテストセットでそれぞれAUC 0.854および0.855を達成し、優れた一般化性能を示している。
• 標準のラップトップでも数分で処理が完了し、インタラクティブなモデル設計と迅速な反復が可能である。
• アルゴリズムは高品質なリスクスコアの多様なプールを生成し、ドメイン固有の制約や公平性の配慮に基づくモデル選択を可能にする。
• GCDを用いたモデル簡略化により、予測リスクに影響を与えることなく係数を単純化し、記憶性と解釈性を向上させた。
• 特徴量変換により、曖昧または重複する条件を明確で互いに排他的なカテゴリに置き換えることで、解釈性が向上した。
• 丸め段階でのバイアス低減と損失最小化が図られることで、ℓ₁正則化ロジスティック回帰係数の単純丸めよりも、本手法が優れた性能を示した。