[論文レビュー] Active Fairness Instead of Unawareness

Boris Ruf, Marcin Detyniecki|arXiv (Cornell University)|Sep 14, 2020

Ethics and Social Impacts of AI参考文献 4被引用数 6

ひとこと要約

本稿は、『公平性の無知』から脱却するパラダイム転換として、AIシステムにおいて感受性のある属性を積極的に使用して差別を検出・是正する『アクティブな公平性』を提唱する。保護群の直接的モニタリングを可能にすることで、高次元のデータにおける代理差別や隠れたバイアスの限界を克服し、検証可能な公平性監査を実現する。

ABSTRACT

The possible risk that AI systems could promote discrimination by reproducing and enforcing unwanted bias in data has been broadly discussed in research and society. Many current legal standards demand to remove sensitive attributes from data in order to achieve "fairness through unawareness". We argue that this approach is obsolete in the era of big data where large datasets with highly correlated attributes are common. In the contrary, we propose the active use of sensitive attributes with the purpose of observing and controlling any kind of discrimination, and thus leading to fair results.

研究の動機と目的

• 公平性を達成するために感受性のある属性を排除するという、現在の法的・技術的アプローチに挑戦すること。
• 高次元で相関関係の強いデータを扱う現代のAIシステムにおいて、『公平性の無知』の不十分さを是正すること。
• 感受性のある属性を排除しても、間接的または代理の差別を防げないことを示すこと。
• 検証可能で監査可能な公平性を実現するための必須条件として、感受性のある属性の積極的使用を提唱すること。
• 規制当局や関係者らが、透明でデータ駆動型の公平性モニタリングを通じてバイアスを検出し是正できる仕組みを提供すること。

提案手法

• 分類禁止の原則を、モデルの学習および評価における感受性のある属性の積極的統合に置き換える。
• 感受性のある属性を明示的な変数として用い、保護群間での差別的影響を監視・測定する。
• 感受性データの誤用を防ぐために、制限付きアクセス制御および技術的セーフティガードを実装する。
• 感受性のある属性をデータパイプラインで観察可能にすることで、統計的公平性指標（例：デモグラフィックパラティーション、同等の機会）を実装する。
• 保護群の結果に透明にアクセスできる仕組みを提供することで、第三者および規制当局による監査可能性を実現する。
• 既存の代理再構築技術（例：BISG）を活用し、無知では差別を防げないことを証明することで、積極的監査の正当性を裏付ける。

実験結果

リサーチクエスチョン

• RQ1 訓練データから感受性のある属性を除去することが、AIシステムにおける差別を真に防止できるのか？
• RQ2 ビッグデータにおける高次元で相関関係の強い特徴量が、感受性のある属性の代理としてどの程度の役割を果たすのか？
• RQ3 感受性のある属性がデータから除外された場合、公平性はどのように検証可能に測定され、監査可能になるのか？
• RQ4 感受性のある属性が除外されてもその代理が残っている場合、間接的差別のリスクはどのようなものか？
• RQ5 技術的セーフティガードを用いることで、感受性のある属性を積極的に使用しながらもプライバシーを保護できるのか？

主な発見

• 感受性のある属性と非感受性属性との強い相関関係のため、『公平性の無知』のアプローチは現代のAIにおいて不十分である。
• 郵便番号、姓、職業パターンといった代理属性は、人種や性別といった感受性のある情報を効果的に再構築できる。
• 感受性のある属性を明示的に使用しなくても、歴史的バイアスが間接的な相関を通じて継続され、強化されることがある。
• 感受性のある属性の積極的統合により、グループ間での差別的影響の測定と検出が可能になる。
• 制限付きアクセスなどの技術的セーフティガードにより、プライバシーのリスクを軽減しながら監査可能な公平性を実現できる。
• アクティブな公平性への移行は、検証可能で透明かつ説明責任のあるAIシステムを支援し、自動意思決定に対する社会的信頼を高める。