[論文レビュー] Beyond Near- and Long-Term: Towards a Clearer Account of Research Priorities in AI Ethics and Society

Carina Prunkl, Jess Whittlestone|arXiv (Cornell University)|Jan 13, 2020

Ethics and Social Impacts of AI参考文献 16被引用数 15

ひとこと要約

この論文は、AI倫理と社会分野の研究における近い・長期的という区別が乱用されているのを批判し、複雑な研究優先順位を単純化しすぎていると主張する。4次元のフレームワーク（能力、影響、確実性、極端さ）を提唱し、それぞれをスケールとして扱うことで、明確さ、協働、および見過ごされた研究分野の特定を向上させる。

ABSTRACT

One way of carving up the broad "AI ethics and society" research space that has emerged in recent years is to distinguish between "near-term" and "long-term" research. While such ways of breaking down the research space can be useful, we put forward several concerns about the near/long-term distinction gaining too much prominence in how research questions and priorities are framed. We highlight some ambiguities and inconsistencies in how the distinction is used, and argue that while there are differing priorities within this broad research community, these differences are not well-captured by the near/long-term distinction. We unpack the near/long-term distinction into four different dimensions, and propose some ways that researchers can communicate more clearly about their work and priorities using these dimensions. We suggest that moving towards a more nuanced conversation about research priorities can help establish new opportunities for collaboration, aid the development of more consistent and coherent research agendas, and enable identification of previously neglected research areas.

研究の動機と目的

• 近い／長期的という区別が過剰に用いられるあまり、AI倫理と社会分野の研究における混乱や誤解を生じさせていることに対処すること。
• 近い／長期的という二分法が、研究優先順位、信念、仮定の微細な違いを捉えられていないことの特定。
• 近い／長期的という区別を4つの明確な次元に分解することで、より体系的かつ透明な研究優先順位の分類方法を提唱すること。
• 研究の背後にある仮定や動機についての明確なコミュニケーションを可能にすることで、異分野間の協働を促進すること。
• 従来の近い／長期的枠組みにうまく収まらないが、これまでに見過ごされてきた研究分野を特定すること。

提案手法

• 近い／長期的という区別を4つの次元に分解する：(1) 近い／長期的なAI能力、(2) 近い／長期的な社会的影響、(3) 未来の結果に関する確実性、(4) 潜在的リスクの極端さ。
• 各次元を二値ではなくスケールとして扱うべきだと主張し、研究分類における単純化を軽減すること。
• 異なる研究優先順位が、AI進歩、リスク深刻度、予測可能性に関する背後にある規範的・実証的信念に根ざしていることの分析。
• 研究者が自らの仮定を明示し、用語を明確にし、異なる視点と対話するための具体的な提言を提供すること。
• 学術フォーラムや出版機関が、AI倫理研究における基礎的対立について構造的な対話を支援するよう提唱すること。
• Dafoe、Parsonらの既存の研究アジェンダ（例）を用いて、より明確なフレーミングが透明性と整合性を高めることの例を示すこと。

実験結果

リサーチクエスチョン

• RQ1 なぜ近い／長期的という区別が、AI倫理と社会分野における研究優先順位のフレーミングにおいて問題となっているのか？
• RQ2 AI進歩、リスク深刻度、予測可能性に関する異なる信念が、AI倫理コミュニティ内の異なる研究優先順位をどのように形作っているのか？
• RQ3 近い／長期的という二分法が、AI能力や社会的影響の種類に関する重要な違いをどの程度隠蔽しているのか？
• RQ4 AI倫理と社会分野における研究優先順位の複雑さをよりよく捉えるために、どのような代替フレームワークが有効か？
• RQ5 研究者が自らの背後にある仮定や動機を明確にすることで、どのようにコミュニケーションと協働を改善できるか？

主な発見

• 近い／長期的という区別は一貫して適用されておらず、むしろ深い規範的・実証的対立を隠すだけであり、それらを明確にしない。
• この区別は、中程度の規模の影響や能力に注目する研究優先順位の全範囲を捉えていない。
• 能力、影響、確実性、極端さという4つの次元において、近い／長期的という区別をスケールとして扱うことで、より正確で透明な研究分類が可能になる。
• AI進歩、リスク深刻度、予測可能性に関する背後にある仮定を明示的に伝えることで、誤解を減らし、異分野間協働を向上させられる。
• 中程度の影響や中程度の確実性を伴うリスクに注目する多くの重要な研究分野が、従来の近い／長期的二分法にうまく収まらないがゆえに見過ごされている。
• 研究優先順位のより明確なフレーミングは、より整合性のある研究アジェンダを生み出し、多様な研究コミュニティ間での協働の新たな機会を創出する。