[論文レビュー] Combating Anti-Blackness in the AI Community

Devin Guillory|arXiv (Cornell University)|Jun 18, 2020

Criminal Justice and Corrections Analysis参考文献 12被引用数 6

ひとこと要約

この論文は、物理的リソース、社会的リソース、評価指標の3つのバイアス源を分析することで、AIコミュニティにおける反ブラックなシステム的差別を特定・是正するフレームワークを提案している。教員、学生、機関が学術分野およびAI研究分野における害を軽減し、公正を促進するための実行可能なステップを提示している。

ABSTRACT

In response to a national and international awakening on the issues of anti-Blackness and systemic discrimination, we have penned this piece to serve as a resource for allies in the AI community who are wondering how they can more effectively engage with dismantling racist systems. This work aims to help elucidate areas where the AI community actively and passively contributes to anti-Blackness and offers actionable items on ways to reduce harm.

研究の動機と目的

• 制度的な反ブラック主義が、制度的構造と慣行を通じてAIコミュニティにどのように浸透しているかを明らかにすること。
• 物理的リソース、社会的ネットワーク、評価指標における格差が、AI学術分野における人種的不平等をどのように永続化しているかを強調すること。
• 教員、学生、機関が反ブラックなバイアスを軽減し、包摂を促進するために、具体的かつ実行可能な提言を提供すること。
• 技術的公平性を超えて、資金、参加、研究の優先順位を含めた、AIにおける反ブラック主義への緊急性を強調すること。
• 反ブラック主義を構造的問題として捉え、個人のアライの枠を超えて、制度的修復と継続的コミットメントが不可欠であることを強調すること。

提案手法

• システム的反ブラックバイアスを、物理的リソース（例：財産、コンピューティングアクセス）、社会的リソース（例：紹介ネットワーク、メンターシップ）、測定（例：標準化試験、昇進基準）の3つの密接に結びついた分野に分類する。
• 社会的ネットワークにおける人種的格差（例：75％の白人が完全に白人のネットワークを持つ）の実証的データを用いて、構造的分離を説明する。
• 客観性を主張するが、実際には人種的バイアスを内包する評価システム（例：GRE、SAT、コーディング面接）が、どのように人種的不平等を永続化しているかを分析する。
• 大学院研究能力を、報酬なし（U）と報酬あり（P）のスロットに分割するモデルを提示し、Uのみの制度が社会経済的障壁によりブラック学生に不利であることを示す。
• 能動的メンターシップ、包摂的で社会的統合（例：勉強会、交流イベント）、研究資金への公平なアクセスを推奨し、排除的慣行に対抗する。
• 反ブラック主義の存在についての議論を拒否し、そのような議論を構造的変化に向けた生産的でない、逆効果なものと位置づける。

実験結果

リサーチクエスチョン

• RQ1 物理的・社会的・評価的リソースが、AI学術分野における反ブラックなシステム的バイアスをどのように総合的に再生産しているか。
• RQ2 入学、資金、メンターシップなどの既存のAI研究および学術慣行が、どのように人種的不平等を永続化しているか。
• RQ3 報酬なしの研究機会が、AIトレーニングパイプラインにおける社会経済的・人種的格差をどのように強化しているか。
• RQ4 偏った社会的ネットワークと評価指標がブラック学生や教員に与える影響を軽減するための制度的メカニズムは何か。
• RQ5 AIコミュニティは、象徴的アライランスを超えて、反ブラックシステムを解体するための構造的改革をどのように実施できるか。

主な発見

• 社会的ネットワークにおける人種的格差（例：75％の白人が完全に白人のネットワークを持つ）が、ブラック個人の機会獲得を著しく制限している。
• GRE や SAT などの評価指標は、人種的バイアスを示しており、学術的・職業的選抜における客観性を主張する根拠を損なっている。
• 報酬なしの大学院研究機会（U）は、高所得層の学生に大きく有利に働く一方、報酬ありの機会（P）はより公平であるため、研究アクセスにおける構造的不平等が顕在化している。
• インフォーマルな集まりや協働ネットワークといった包括的でない社会的統合の欠如は、技術的資格が同等でもブラック大学院生の排除を招く。
• 代表的でない大学生を能動的にメンターする教員や、研究資金を公平に配分することを重視する教員は、将来のAIパイプラインにおける多様性を著しく向上させることができる。
• 反ブラック主義の存在についての議論は、生産的でない。焦点は、実行可能な解決策と制度的修復に移るべきである。