[論文レビュー] An End-To-End Machine Learning Pipeline That Ensures Fairness Policies

Samiulla Shaikh, Harit Vishwakarma+4 more|arXiv (Cornell University)|Oct 18, 2017

Ethics and Social Impacts of AI参考文献 9被引用数 8

ひとこと要約

本論文は、自然言語政策の自動解釈、違反のデータ使用状況の監視、および不変のログへのすべての活動の記録を通じて、公平性ポリシー準拠を保証するエンドツーエンドの機械学習パイプラインを提案する。システムは自然言語理解を用いて、ポリシーに敏感な属性をデータフィールドにマッピングし、入力の摂動を用いた公平性テストを実施し、ブロックチェーンを活用したログ記録により監査可能性を実現する。これにより、手動によるコンプライアンス作業が顕著に削減され、機械学習システムの透明性が向上する。

ABSTRACT

In consequential real-world applications, machine learning (ML) based systems are expected to provide fair and non-discriminatory decisions on candidates from groups defined by protected attributes such as gender and race. These expectations are set via policies or regulations governing data usage and decision criteria (sometimes explicitly calling out decisions by automated systems). Often, the data creator, the feature engineer, the author of the algorithm and the user of the results are different entities, making the task of ensuring fairness in an end-to-end ML pipeline challenging. Manually understanding the policies and ensuring fairness in opaque ML systems is time-consuming and error-prone, thus necessitating an end-to-end system that can: 1) understand policies written in natural language, 2) alert users to policy violations during data usage, and 3) log each activity performed using the data in an immutable storage so that policy compliance or violation can be proven later. We propose such a system to ensure that data owners and users are always in compliance with fairness policies.

研究の動機と目的

• 分散された役割（データ作成者、エンジニア、ユーザー）にまたがる機械学習システムにおける公平性の確保という課題に取り組む。ここでは、ポリシー準拠がしばしば手作業で行われ、誤りが生じやすい。
• 法的または規制文書などの自然言語で記述された公平性ポリシーを自動的に解釈できる仕組みを提供すること。
• データアクセス、特徴工学、モデル学習、デプロイメントの各段階で、ポリシー違反を検出し、ユーザーにアラートを発する仕組みを提供すること。
• すべてのデータ処理活動の監査可能で不変なログを提供し、コンプライアンスの検証と責任の所在の明確化を可能にすること。
• 内部表現が不明または不透明なブラックボックス機械学習システムにおいても、公平性テストを実施できること。

提案手法

• 非構造化のポリシードキュメントから、感受性のある属性とポリシー制約を抽出するために自然言語処理（NLP）技術を用いる。
• 共有オントロジーを用いて、ポリシーで定義された感受性のある属性を実際のデータフィールドに一致させるマッピングモジュールを構築し、リンクされた概念階層を活用して同義語や多言語的変種を処理する。
• 感受性のある特徴（例：性別、人種）を摂動させ、出力のずれを測定することで公平性テストを実施する。FairMLに類似した原則を採用するが、より高い抽象化レベルで実行される。
• ブロックチェーンや類似技術を用いて、不変のログレイヤーが、すべてのデータアクセスおよび公平性チェックの結果を記録し、監査可能性を確保する。
• 構造化データおよび非構造化データの両方をサポートするが、スキーマが明示されていないテキストからの特徴抽出の場合は、手動入力が必要となる。
• MLワークフローに統合され、データ処理またはモデル推論中にポリシー違反が検出された場合に、リアルタイムでアラートを発する。

実験結果

リサーチクエスチョン

• RQ1 自然言語で表現された公平性ポリシーを、MLパイプライン内のデータフィールドに自動的に解釈し、マッピングする方法は何か？
• RQ2 データアクセス、特徴工学、またはモデル学習の段階で、リアルタイムにポリシー違反を検出するためのメカニズムは何か？
• RQ3 内部表現が不明または不透明なブラックボックス機械学習モデルにおいて、公平性をどのように評価できるか？
• RQ4 不変のログは、MLシステムの監査可能性とコンプライアンスの検証をどのように支援できるか？
• RQ5 異なる言語やオントロジー間で、ポリシードキュメントとデータフィールド名の意味的・言語的変異をどのように処理できるか？

主な発見

• NLPと共有オントロジーを用いることで、文書やデータソース間で名前が異なる場合でも、ポリシーに感受性のある属性をデータフィールドに成功してマッピングした。
• データ処理中にリアルタイムの違反アラートが生成され、モデルデプロイメント前に予防的是正が可能になった。
• 内部表現が不明なブラックボックスモデルに対しても、感受性のある特徴を摂動させ、出力のシフトを測定することで、公平性テストを実施できた。
• 不変のログにより、コンプライアンスの証明が可能となり、データ所有者は使用履歴を追跡でき、ユーザーは公平性ポリシー準拠を示せるようになった。
• ポリシー解釈とコンプライアンス評価の手作業を大幅に削減し、業界標準化のためのスケーラブルな基盤を提供した。
• ケーススタディを通じて、COMPAS再犯予測データセットを用いた検証により、性別に基づくバイアスと自動意思決定におけるポリシー違反の検出に成功した。