[論文レビュー] The Theory of Artificial Immutability: Protecting Algorithmic Groups Under Anti-Discrimination Law

Sandra Wachter|arXiv (Cornell University)|May 2, 2022

Discrimination and Equality Law被引用数 11

ひとこと要約

この論文は、法的に保護されていないが、固定特性と同様に機能するAIシステムから生じる社会的カテゴリー（アルゴリズム的グループ）に対しても差別の防止法の保護を拡大するための「人工的不変性の理論」を提唱する。これらのグループが自律性や人生の機会を制限する仕組みであることを示し、北米および欧州の既存の差別の禁止枠組み内での法的認識を主張する。

ABSTRACT

Artificial Intelligence (AI) is increasingly used to make important decisions about people. While issues of AI bias and proxy discrimination are well explored, less focus has been paid to the harms created by profiling based on groups that do not map to or correlate with legally protected groups such as sex or ethnicity. This raises a question: are existing equality laws able to protect against emergent AI-driven inequality? This article examines the legal status of algorithmic groups in North American and European non-discrimination doctrine, law, and jurisprudence and will show that algorithmic groups are not comparable to traditional protected groups. Nonetheless, these new groups are worthy of protection. I propose a new theory of harm - "the theory of artificial immutability" - that aims to bring AI groups within the scope of the law. My theory describes how algorithmic groups act as de facto immutable characteristics in practice that limit people's autonomy and prevent them from achieving important goals.

研究の動機と目的

• 北米および欧州における既存の差別の禁止法が、アルゴリズム的グループによる被害から個人を保護できるかどうかを検討すること。
• 従来の保護を受けていない非伝統的グループに基づくAI駆動のプロファイリングに対処するための、現在の差別禁止法の法的・実務的限界を特定すること。
• 法的正式な地位がないものの、実質的に不変特性と同様に機能するアルゴリズム的グループを扱う新しい法的理論「人工的不変性」を提唱すること。
• アルゴリズム的グループが個人の自律性を制限し、重要な人生の目標を達成できなくする仕組みを示し、法的に保護されている特性に伴う害と類似すること。
• 法的枠組みを、形式的法的カテゴリーではなく、現実の影響に基づいて再解釈することで、アルゴリズム的グループを差別禁止法に統合するよう提言すること。

提案手法

• 北米および欧州の法制度における判例、法的理論、法理を分析し、非伝統的社会的グループの扱いを評価する。
• アルゴリズム的グループと、性別や人種といった法的に保護されている不変特性との構造的・機能的類似性を特定する。
• 特に、実際にはグループのアイデンティティを変更または脱出できないという実務的結果に基づいて、法的理論を構築する。
• 「不変性」という概念を法的カテゴリーとしてではなく、機能的現実として用いる：個人は、グループに属していることを変更できないと実際には扱われるが、そのグループは人工的に構築されている。
• 法的制度が、このような人工的だが機能的不変なカテゴリーに基づく差別から個人を保護すべきだと主張する。
• 比較法的分析を通じて、等価保護や差別禁止の根幹的原則を再解釈することで、既存の差別禁止枠組みがアルゴリズム的グループを含めるように拡張可能であることを示す。

実験結果

リサーチクエスチョン

• RQ1 北米および欧州における既存の差別禁止法は、正式に保護される特性として認められていないアルゴリズム的グループに基づく差別から個人を保護できるか？
• RQ2 AIシステムによって人工的に構築されたアルゴリズム的グループは、どのようにして実質的に不変特性として機能するのか？
• RQ3 アルゴリズム的グループへの所属が及ぼす社会的・構造的結果は、法的に保護されている不変特徴に伴う害と、どのような点で類似しているか？
• RQ4 形式的法的欠如と、実世界における自律性や機会への影響の間のギャップを埋めるために、どのような法的理論が有効か？
• RQ5 「人工的不変性」という概念は、AI駆動のプロファイリングによって被害を受ける個人に法的保護を拡大するために、どの程度活用可能か？

主な発見

• クレジットスコアリングや採用における予測分析から生じるアルゴリズム的グループは、正式に認められていないものの、実際には不変であるかのように機能することが多い。
• こうしたグループに基づくアルゴリズム的プロファイリングの対象となった個人は、法的に保護されているグループのメンバーが経験するのと同様に、移動性や機会の制限を顕著に受ける。
• 人工的不変性の理論は、法的分類ではなく、グループ所属の現実的影響に注目することで、法的保護の機能的根拠を提供する。
• 北米および欧州の法的制度は、社会的影響が著しいにもかかわらず、アルゴリズム的グループによる被害に対処するための法的枠組みを欠いている。
• この理論により、立法変更を要せずとも、既存の差別禁止原則を再解釈してアルゴリズム的グループを含めることができる。
• この枠組みは、差別のがもたらす根本的害が、特性の法的地位にあるのではなく、個人の人生に及ぼす実際的かつ不可逆的な影響にあることを示している。