[論文レビュー] Measurement as governance in and for responsible AI

Abigail Z. Jacobs|arXiv (Cornell University)|Sep 13, 2021

Ethics and Social Impacts of AI参考文献 59被引用数 7

ひとこと要約

この論文は、AIシステムにおける測定が、公平性、耐性、責任といった抽象的概念を操作化することで、社会的・文化的・政治的価値が埋め込まれた隠れた統治形態であると主張している。構成妥当性（特に内容妥当性と結果妥当性）を適用することで、意図された構成概念とその測定との不一致が公平性に関連する被害を引き起こす仕組みを明らかにし、AIにおける統治をより透明で説明責任のあるものにするための枠組みを提示している。

ABSTRACT

Measurement of social phenomena is everywhere, unavoidably, in sociotechnical systems. This is not (only) an academic point: Fairness-related harms emerge when there is a mismatch in the measurement process between the thing we purport to be measuring and the thing we actually measure. However, the measurement process -- where social, cultural, and political values are implicitly encoded in sociotechnical systems -- is almost always obscured. Furthermore, this obscured process is where important governance decisions are encoded: governance about which systems are fair, which individuals belong in which categories, and so on. We can then use the language of measurement, and the tools of construct validity and reliability, to uncover hidden governance decisions. In particular, we highlight two types of construct validity, content validity and consequential validity, that are useful to elicit and characterize the feedback loops between the measurement, social construction, and enforcement of social categories. We then explore the constructs of fairness, robustness, and responsibility in the context of governance in and for responsible AI. Together, these perspectives help us unpack how measurement acts as a hidden governance process in sociotechnical systems. Understanding measurement as governance supports a richer understanding of the governance processes already happening in AI -- responsible or otherwise -- revealing paths to more effective interventions.

研究の動機と目的

• AIシステムにおける測定プロセスが、公平性、分類、責任に関する統治意思決定をどのように暗黙的に埋め込んでいるかを明らかにすること。
• 理論的構成概念とその操作化された測定との不一致によって生じる公平性に関連する被害の問題に対処すること。
• 測定が中立的ではないこと、社会的・技術的システムに価値が埋め込まれた統治の場であることを示すこと。
• 構成妥当性（内容および結果）を用いた枠組みを提供し、こうした隠れた統治意思決定を可視化し分析可能にする。
• 社会科学的視点を技術的統治に統合することで、より効果的で説明責任のある、そして責任あるAIを支援すること。

提案手法

• 社会科学の測定フレームワークを採用し、観察不能な構成概念（例：『従業員の質』、『毒性』）がどのように測定可能な代理指標に操作化されるかを分析すること。
• 構成妥当性の2つのタイプを適用する：内容妥当性（測定が意図された構成概念を適切に反映しているか？）と結果妥当性（測定から生じる社会的結果は何か？）
• 事例研究（例：過去の給与を従業員の質の代理指標として使用する）を用いて、測定選択が制度的不平等を再現する仕組みを説明すること。
• 測定、社会的カテゴリーの構築、社会的階層の強制との間のフィードバックループをマッピングすること。
• 批判的人種理論、障害研究、組織統治の知見を統合し、測定の影響を文脈づけること。
• 測定を、アルゴリズム的システムに埋め込まれた統治意思決定を解き明かし批判するためのレンズとして位置づけること。

実験結果

リサーチクエスチョン

• RQ1 AIシステムにおける測定プロセスは、公平性、分類、責任に関する統治意思決定をどのように埋め込んでいるか？
• RQ2 理論的構成概念とその操作化された測定との不一致が、どのような形で公平性に関連する被害を引き起こすか？
• RQ3 内容妥当性と結果妥当性をどのように用いて、AIシステムに埋め込まれた統治を診断・改善できるか？
• RQ4 測定は、アルゴリズム的システムにおけるアイデンティティカテゴリー（例：人種、性別、障害）の社会的構築と強制にどのような役割を果たしているか？
• RQ5 測定に基づく枠組みは、責任あるAIにおけるより透明で説明責任のある統治をどのように支援できるか？

主な発見

• 測定は中立的な技術的プロセスではなく、社会的・文化的・政治的価値がAIシステムに埋め込まれた核心的な統治の場である。
• 公平性に関連する被害は、しばしばアルゴリズムバイアスそのものではなく、意図された構成概念（例：『従業員の質』）とその操作化（例：『過去の給与』）との不一致に起因する。
• 内容妥当性は、測定モデルが主張する理論的構成概念を適切に反映しているかどうかを評価するのに役立つ。
• 結果妥当性は、測定が社会的カテゴリーとパワー構造をどのように形成・強化するかを明らかにし、管理的または象徴的暴力の形でも現れる。
• 構成妥当性を通じて測定プロセスを明示的に分析することで、隠れた統治意思決定が露呈され、AI開発における説明責任が向上する。
• 測定を統治として再定式化することで、責任あるAIにおける社会科学的知見のより深い統合が可能になり、透明性と倫理的説明責任が向上する。