[論文レビュー] Problematic Machine Behavior: A Systematic Literature Review of Algorithm Audits

Jack Bandy|arXiv (Cornell University)|Feb 3, 2021

Ethics and Social Impacts of AI参考文献 12被引用数 32

ひとこと要約

本研究は PRISMA に基づくスコーピング・レビューを用いて 500 件以上の論文を対象に調査し、62 件のアルゴリズム監査研究を統合して4つの行動分類（差別、歪曲、搾取、誤判断）を提示し、今後の監査方針を示す。

ABSTRACT

While algorithm audits are growing rapidly in commonality and public importance, relatively little scholarly work has gone toward synthesizing prior work and strategizing future research in the area. This systematic literature review aims to do just that, following PRISMA guidelines in a review of over 500 English articles that yielded 62 algorithm audit studies. The studies are synthesized and organized primarily by behavior (discrimination, distortion, exploitation, and misjudgement), with codes also provided for domain (e.g. search, vision, advertising, etc.), organization (e.g. Google, Facebook, Amazon, etc.), and audit method (e.g. sock puppet, direct scrape, crowdsourcing, etc.). The review shows how previous audit studies have exposed public-facing algorithms exhibiting problematic behavior, such as search algorithms culpable of distortion and advertising algorithms culpable of discrimination. Based on the studies reviewed, it also suggests some behaviors (e.g. discrimination on the basis of intersectional identities), domains (e.g. advertising algorithms), methods (e.g. code auditing), and organizations (e.g. Twitter, TikTok, LinkedIn) that call for future audit attention. The paper concludes by offering the common ingredients of successful audits, and discussing algorithm auditing in the context of broader research working toward algorithmic justice.

研究の動機と目的

• 既存のアルゴリズム監査研究を整理し、共通の有害事象を特定する。
• 問題となる機械の行動の分類術を開発する。
• 監査で用いられた領域、組織、および監査手法を分析する。
• ギャップを特定し、アルゴリズム公正性の将来の監査方針を提案する。

提案手法

• PRISMA ガイドラインを用いて 500 件超の論文をスクリーニングし、アルゴリズム監査を特定した。
• 行動、ドメイン、組織、監査手法でコード化するテーマ分析を実施した。
• 2 名のコーダーによる帰納的テーマ分析を用い、コーエンのカッパの推移を適用した。
• 4 つの問題的行動を定義した：差別、歪曲、搾取、誤判断。
• キーワード主導の同定を Scopus および追加ソースで補完し、最近性バイアスを減らした。

実験結果

リサーチクエスチョン

• RQ1 RQ1: これまでのアルゴリズム監査が暴露した問題的な機械の行動にはどのような種類があるか。
• RQ2 RQ2: 社会においてアルゴリズムが力を行使する問題的な方法を今後の監査でどのように検討すべきか。

主な発見

• 62 件の研究を分析；大半は差別（21）または歪曲（29）に焦点を当てた。
• 監査は検索（25）、広告（12）、推奨（8）を含む。
• 4 つの主な行動を特定：差別、歪曲、搾取、誤判断。
• 広告およびビジョン領域で顕著な差別と歪曲のパターンを示す。
• コード監査は十分に探究されていない；Twitter、LinkedIn、TikTok などのプラットフォームのカバーは限られている。
• 交差的差別の監査と、より広範なアルゴリズム公正性の枠組みの中で監査を位置づけることを求めている。