[論文レビュー] Non-portability of Algorithmic Fairness in India

Nithya Sambasivan, Erin Arnesen+2 more|arXiv (Cornell University)|Dec 3, 2020

Ethics and Social Impacts of AI参考文献 21被引用数 14

ひとこと要約

本論文は、構造的・文化的・インfraストラクチャ的差異のため、西洋中心のアルゴリズム的公平性フレームワークはインドに適用可能でないとして主張している。36件の専門家インタビューと政策分析に基づき、データおよびモデルの再文脈化、弱いコミュニティの自立的支援、公平なエコシステムの実現を通じて、包括的でない公平性の対処法に代わる包括的変革を求める、再考されたFair-MLを提唱する。

ABSTRACT

Conventional algorithmic fairness is Western in its sub-groups, values, and optimizations. In this paper, we ask how portable the assumptions of this largely Western take on algorithmic fairness are to a different geo-cultural context such as India. Based on 36 expert interviews with Indian scholars, and an analysis of emerging algorithmic deployments in India, we identify three clusters of challenges that engulf the large distance between machine learning models and oppressed communities in India. We argue that a mere translation of technical fairness work to Indian subgroups may serve only as a window dressing, and instead, call for a collective re-imagining of Fair-ML, by re-contextualising data and models, empowering oppressed communities, and more importantly, enabling ecosystems.

研究の動機と目的

• 西洋のアルゴリズム的公平性フレームワークがインドの複雑な社会技術的文脈に適用された際の限界を調査すること。
• インドにおけるマイノリティコミュニティが機械学習システムから意味的に利益を得られない原因となるシステム的障壁を特定すること。
• 非西洋地域において公平性が技術的モデル調整のみで達成可能であるという仮定を疑問視すること。
• 西洋の公平性パラダイムを輸出するのではなく、現地の制度・価値観・権力構造を核とする再考されたFair-MLを提唱すること。

提案手法

• コンピュータサイエンス、法制度、社会学、ジャーナリズムを含む多様な分野から、インドの研究者・活動家・実務家ら36名の深掘りインタビューを実施した。
• 2009年以降のインドの政策文書、ニュース報道、草の根におけるAI展開に関する議論を分析し、アルゴリズム的ガバナンスと排除のパターンを同定した。
• 段階的コードブックを用いた主題分析により、3つの核心的課題群を同定した：誤ったデータおよびモデルの前提、ML開発者の制度的距離、弱い制度的支援構造。
• 「再文脈化」「自立的支援」「実現可能性の促進」の3つの道筋のフレームワークを適用し、公平性を集団的・社会技術的責任として再定義した。
• 参加者を保護するため、説明同意、匿名化、データ暗号化を含む厳密な研究倫理プロrotocolsを採用した。
• インドの社会的階層（例：カースト、ジェンダー、宗教）に関する二次的データを統合し、MLシステムにおける代理指標と被害をマップした。

実験結果

リサーチクエスチョン

• RQ1 インドにおけるインfraストラクチャ的・文化的・制度的差異が、西洋のアルゴリズム的公平性フレームワークの移植可能性をどのように損なうのか。
• RQ2 マイノリティコミュニティが公平な機械学習システムにアクセスしたり、その恩恵を受けたりできない主な構造的・システム的障壁は何か。
• RQ3 インドにおけるデータ収集実務およびモデルの前提が、カースト、ジェンダー、階級の線で、既存の社会的不平等をどのように反映・強化しているのか。
• RQ4 コミュニティの自立的支援と制度再設計を通じて、インドのような非西洋的文脈において、機械学習における公平性をどのように再考できるか。

主な発見

• ダリット、アディバシ、その他のマイノリティグループに特に影響を与える皮膚色多様性の不足のため、Fitzpatrickスケールのような西洋の公平性指標はインドで機能しない。
• 女性によるSIMカード共有などの広範な実務が、ML学習における個人レベルのデータ整合性の仮定を無効にし、データ歪みを生じる。
• 顔認識におけるモデル性能の格差は、姓、居住地域、言語といった代理指標によって悪化しており、これらはインドにおいてカーストおよび宗教と強く相関している。
• 技術的公平性評価において正式な肯定的措置（予約制度）のメカニズムが欠如しているため、法的公平性とアルゴリズム的公平性の間で整合性がとれなくなる。
• ML開発者らの取引的マインドセットにより、インドのユーザーが受動的なデータ供給源として扱われ、マイノリティコミュニティに是正措置がほとんどない。
• 法的制度、マスコミの監視、市民社会の監視が、インドのアルゴリズム的被害の責任を果たすために、しばしば欠落している、あるいは効果が薄い。