[論文レビュー] Challenges and Solutions in AI for All

Rifat Ara Shams, Didar Zowghi+1 more|arXiv (Cornell University)|Jul 20, 2023

Ethics and Social Impacts of AI被引用数 7

ひとこと要約

系統的文献レビューで、55のD&I in AIの課題、33の解決策、さらに24のD&I via AI課題と23のAI for D&I解決策を48件の論文（2017–2022）にわたって特定。

ABSTRACT

Artificial Intelligence (AI)'s pervasive presence and variety necessitate diversity and inclusivity (D&I) principles in its design for fairness, trust, and transparency. Yet, these considerations are often overlooked, leading to issues of bias, discrimination, and perceived untrustworthiness. In response, we conducted a Systematic Review to unearth challenges and solutions relating to D&I in AI. Our rigorous search yielded 48 research articles published between 2017 and 2022. Open coding of these papers revealed 55 unique challenges and 33 solutions for D&I in AI, as well as 24 unique challenges and 23 solutions for enhancing such practices using AI. This study, by offering a deeper understanding of these issues, will enlighten researchers and practitioners seeking to integrate these principles into future AI systems.

研究の動機と目的

• Define and distinguish D&I in AI from AI for D&I.
• Identify and classify challenges and solutions in the literature (2017–2022).
• Analyze demographics, domains, and AI techniques addressed in D&I research in AI.
• Assess gaps and provide directions for future work in D&I and AI.
• Offer guidelines to integrate D&I principles into AI design and deployment.

提案手法

• Kitchenhamガイドラインに従うSystematic Literature Reviewを実施。
• D&I in AIおよびAI for D&Iに関する広範なキーワード戦略で5つのデータベースを検索。
• 含める基準を満たす48論文（2017–2022）を一次・二次検索を通じてスクリーニング。
• オープンコーディングを実施して課題を抽出し、対応する解決策をマッピング。
• 5問のスコアリング・ルーブリックを用いて研究品質を評価し、実証研究と非実証研究を報告。

Figure 1: An overview of the research method

実験結果

リサーチクエスチョン

• RQ1 RQ1: 文献にはAIにおけるD&I（D&I in AI）についてどのような課題と解決策が存在するか。
• RQ2 RQ2: 多様性と包摂の実践のためのAI（AI for D&I）の適用にはどのような課題と解決策が存在するか。

主な発見

• 55のユニークな課題と33のユニークな解決策がD&I in AIで特定された。
• AI for D&Iについては24のユニークな課題と23のユニークな解決策が特定された。
• ほとんどの研究は2022年に発表され（18件）、2021年は11件、著者所属はアメリカが圧倒的。
• 性別が最も研究された多様性属性で、次いで人種、他の属性は十分には探索されていない。
• 顔分析とNLPがD&I文脈で最も議論されているAI領域。
• ガバナンス関連の課題と解決策はD&I in AIおよびAI for D&Iの両方で議論が少ない。）

Figure 2: SLR paper selection summary