[論文レビュー] An Algorithmic Equity Toolkit for Technology Audits by Community Advocates and Activists

Michael Katell, Meg Young+7 more|arXiv (Cornell University)|Dec 6, 2019

Ethics and Social Impacts of AI参考文献 41被引用数 6

ひとこと要約

本論文は、市民権活動家やコミュニティの団体が、アクセスしやすいヒューリスティクスとリスク評価ツールを通じて、アルゴリズムシステムを評価・挑戦できるように支援する、参加型でコミュニティ主導のフレームワーク、Algorithmic Equity Toolkit (AEKit) を提示する。コミュニティの実存的経験とステークホルダーとの反復的共同設計を重視することで、アルゴリズムの理解可能性を高め、とりわけ地方公共図書館監視条例の文脈において、公共技術調達における責任体制を強化する。

ABSTRACT

A wave of recent scholarship documenting the discriminatory harms of algorithmic systems has spurred widespread interest in algorithmic accountability and regulation. Yet effective accountability and regulation is stymied by a persistent lack of resources supporting public understanding of algorithms and artificial intelligence. Through interactions with a US-based civil rights organization and their coalition of community organizations, we identify a need for (i) heuristics that aid stakeholders in distinguishing between types of analytic and information systems in lay language, and (ii) risk assessment tools for such systems that begin by making algorithms more legible. The present work delivers a toolkit to achieve these aims. This paper both presents the Algorithmic Equity Toolkit (AEKit) Equity as an artifact, and details how our participatory process shaped its design. Our work fits within human-computer interaction scholarship as a demonstration of the value of HCI methods and approaches to problems in the area of algorithmic transparency and accountability.

研究の動機と目的

• コミュニティメンバーと政策立案者が、機械学習が使用されているにもかかわらず、システムがアルゴリズム的であることに気づかない、アルゴリズムの理解可能性の欠如という問題に対処すること。
• 市民活動家が、分析的・情報システムの種別を区別できるようにする、実用的で一般向けのヒューリスティクスを開発すること。
• 非技術的ステークホルダーが理解しやすく、行動を起こせるようにする、アルゴリズムの透明性を高めるリスク評価ツールの作成。
• とりわけ監視条例の文脈において、地方公共調達におけるコミュニティ主導の責任体制を支援すること。
• 参加型デザインが、社会的技術的システムにおけるアルゴリズムの透明性と公平性を高める上で価値を持つことを示すこと。

提案手法

• 市民ベースの市民権団体と共同で、反復的参加型デザインのセッションを実施し、ツールキットを共同で開発する。
• 平易な言語を用いたフローチャートベースのヒューリスティクスを開発し、システムをアルゴリズム的か非アルゴリズム的かに分類する。
• 公平性、透明性、監視影響を含む、アルゴリズム的リスクを評価するためのチェックリストを設計する。
• 顔認識技術に焦点を当てたインタラクティブなデモを制作し、現実の害やバイアスを説明する。
• 多様な声のパネルを通じてステークホルダーのフィードバックを統合し、アルゴリズム的被害の実存的経験を反映する。
• 過剰な専門用語を避ける一方で、アルゴリズムシステムの概念的整合性を保つことで、技術的正確性とアクセス可能性のバランスを図る。

実験結果

リサーチクエスチョン

• RQ1 どのようにしてコミュニティ活動家が公共部門の技術調達においてアルゴリズムシステムを特定・評価できるようにできるか？
• RQ2 非技術的ステークホルダーが、不透明なアルゴリズムシステムを理解し、挑戦できるようにするためのデザインアプローチは何か？
• RQ3 参加型デザインプロセスは、技術的現実とコミュニティの価値を両方反映するツールをどのように生み出すのか？
• RQ4 既存の監視条例は、技術のアルゴリズム的側面をどのように規制できていないのか。また、AEKitのようなツールは、そのギャップをどのように埋められるか？
• RQ5 複雑なアルゴリズムシステムをチェックリストやフローチャートに単純化するリスクは何か。そして、それらのリスクはどのように軽減できるか？

主な発見

• コミュニティメンバーと市職員は、機械学習が使用されているにもかかわらず、監視技術をアルゴリズム的であると認識しないことが多く、アルゴリズム的リテラシーの欠如が原因である。
• AEKitは、市民社会のアクターと共同で設計することで、複雑なアルゴリズム的コンセプトをアクセス可能で実行可能なツールに効果的に翻訳した。
• ツールキットのフローチャートとチェックリストのコンponentsは、コミュニティ活動家が公平性、透明性、監視リスクについて体系的にシステムを評価できるようにする。
• 顔認識デモはバイアスと害を効果的に説明したが、精度に焦点を当てているため、プライバシーの損ないやプロファイリングといったより広範な害を過小評価するリスクがある。
• 技術的深さと簡潔さのバランスを取る課題はあったが、ツールキットは地方自治体統治におけるコミュニティ主導のアルゴリズム的責任体制の基盤となるリソースを提供した。
• 本研究は、既存の規制枠組みがしばしばアルゴリズム的側面を無視していることを明らかにした。これにより、AEKitのようなツールが理解可能性のギャップを埋める必要があることが示された。