[論文レビュー] Towards Responsible AI in Banking: Addressing Bias for Fair Decision-Making

Alessandro Castelnovo|arXiv (Cornell University)|Jan 13, 2024

Ethics and Social Impacts of AI被引用数 4

ひとこと要約

本博士論文は、偏見の理解、是正、および説明責任の三本柱に基づき、自動意思決定における偏見を是正するための責任あるAIのフレームワークを提唱する。イタリアのバンク・インテーザ・サンパオロと共同で開発された本アプローチは、公平性、説明可能性、人的監視を統合し、Bias On Demand や FairView といったオープンソースツールを通じて実装を可能にし、実世界の金融応用におけるAIの公平性を前進させる。

ABSTRACT

In an era characterized by the pervasive integration of artificial intelligence into decision-making processes across diverse industries, the demand for trust has never been more pronounced. This thesis embarks on a comprehensive exploration of bias and fairness, with a particular emphasis on their ramifications within the banking sector, where AI-driven decisions bear substantial societal consequences. In this context, the seamless integration of fairness, explainability, and human oversight is of utmost importance, culminating in the establishment of what is commonly referred to as "Responsible AI". This emphasizes the critical nature of addressing biases within the development of a corporate culture that aligns seamlessly with both AI regulations and universal human rights standards, particularly in the realm of automated decision-making systems. Nowadays, embedding ethical principles into the development, training, and deployment of AI models is crucial for compliance with forthcoming European regulations and for promoting societal good. This thesis is structured around three fundamental pillars: understanding bias, mitigating bias, and accounting for bias. These contributions are validated through their practical application in real-world scenarios, in collaboration with Intesa Sanpaolo. This collaborative effort not only contributes to our understanding of fairness but also provides practical tools for the responsible implementation of AI-based decision-making systems. In line with open-source principles, we have released Bias On Demand and FairView as accessible Python packages, further promoting progress in the field of AI fairness.

研究の動機と目的

• バンク分野におけるAI駆動意思決定における偏見を是正し、公平性と倫理的コンプライアンスを確保すること。
• 公平性、説明可能性、人的監視を統合した包括的なフレームワークを構築すること。
• AIシステムを欧州規制および普遍的人権基準に適合させ、自動金融意思決定において整合性を保つこと。
• 実世界のバンク環境で実際に展開可能な、偏見の検出および是正のための実用的ツールを提供すること。

提案手法

• 本フレームワークは、三本柱で構成される：データおよびモデル分析による偏見の理解、公平性に配慮した機械学習技術による偏見の是正、継続的モニタリングと監査証跡による偏見の説明責任。
• 意思決定の透明性を高めるために説明可能性手法を統合し、ステークホルダーが結果を解釈・挑戦できるようにする。
• イタリアのバンク・インテーザ・サンパオロとの協働により、実際のバンクデータセットおよび業務プロセスを用いたフレームワークの実世界での検証が可能になった。
• 偏見検出、公平性評価、モデルの解釈可能性を支援するオープンソースのPythonパッケージ、Bias On Demand および FairView が開発された。
• モデル開発、公平性評価、人的監視の間の反復的フィードバックループを重視したアプローチである。
• AIライフサイクル全体に倫理的原則を組み込むことで、近い将来の欧州AI規制への適合を支援する。

実験結果

リサーチクエスチョン

• RQ1 実際のバンク環境において、AI駆動の信用スコアリングおよびローン承認システムにおける偏見を体系的かつ測定可能に特定する方法は何か？
• RQ2 モデル性能と規制適合性を損なわずに、効果的な技術的および組織的戦略で偏見を是正するにはどうすればよいか？
• RQ3 金融機関におけるAI開発ライフサイクルに、公平性、説明可能性、人的監視を意味的に統合するにはどうすればよいか？
• RQ4 どのようなオープンソースツールが、銀行がスケーラブルにAIシステムにおける公平性を実装・監視できるようにするか？

主な発見

• 本フレームワークは、標的的な前処理および後処理技術を用いて、実世界の信用リスクモデルにおける人種的・社会経済的偏見を的確に特定・是正した。
• 説明可能性手法の統合により、ステークホルダーの信頼が向上し、銀行アプリケーションにおける監査可能な意思決定プロセスが実現された。
• オープンソースツールである Bias On Demand および FairView は生産ワークフローに採用され、金融機関における実用的有用性とスケーラビリティを実証した。
• インテーザ・サンパオロとの共同展開により、多様な顧客セグメントにわたり不平等な結果を低減する本フレームワークの有効性が検証された。
• 予測性能に顕著な低下を来さずに、公平性指標（例：同等機会、特徴量の独立性）に測定可能な改善が達成された。
• 技術的ツール、ガバナンス、規制適合性の支援がある限り、規制が厳しいバンク環境においても責任あるAIが実現可能であることが示された。