[論文レビュー] Cultural Incongruencies in Artificial Intelligence

Vinodkumar Prabhakaran, Rida Qadri+1 more|arXiv (Cornell University)|Nov 19, 2022

Language and cultural evolution被引用数 37

ひとこと要約

本論文は、AIシステムが文化的に形作られた人間の行動を反映することを主張し、文化的不一致から生じるfive harmsを強調し、文化的に認知されたAIの研究アジェンダを提案している。

ABSTRACT

Artificial intelligence (AI) systems attempt to imitate human behavior. How well they do this imitation is often used to assess their utility and to attribute human-like (or artificial) intelligence to them. However, most work on AI refers to and relies on human intelligence without accounting for the fact that human behavior is inherently shaped by the cultural contexts they are embedded in, the values and beliefs they hold, and the social practices they follow. Additionally, since AI technologies are mostly conceived and developed in just a handful of countries, they embed the cultural values and practices of these countries. Similarly, the data that is used to train the models also fails to equitably represent global cultural diversity. Problems therefore arise when these technologies interact with globally diverse societies and cultures, with different values and interpretive practices. In this position paper, we describe a set of cultural dependencies and incongruencies in the context of AI-based language and vision technologies, and reflect on the possibilities of and potential strategies towards addressing these incongruencies.

研究の動機と目的

• CultureがAIの開発と利用にどのように影響するかを特定する。
• AIシステムにおける文化的不一致から生じる害を特徴づける。
• 文化的に認知されたAIを進展させるための研究アジェンダを提案する。
• AI研究と導入における学際的アプローチと多様な視点を奨励する。

提案手法

• 文化、コミュニケーション、AIに関する既存の文献を統合し、AIシステムの開発と利用における文化的依存性を特定する。
• 文化的不一致に起因する5つの具体的な害を説明する：文化的障壁、覇権的分類、安全ギャップ、文化的価値の侵害、そして抹消。
• AIにおける文化的不一致を緩和するための高レベルの研究方向と問いを提案する。
• AI設計と評価における学際的協力と参加型プロセスを提唱する。

実験結果

リサーチクエスチョン

• RQ1 AIシステムのどの要素が文化に依存しており、これが異なるエコシステムでの適合性にどう影響するか？
• RQ2 AIシステムの暗黙の文化的素因が対象の文化エコシステムと衝突したとき、どのような不一致と害が生じるか？
• RQ3 AI技術における文化的害をどのように特定・測定・緩和できるか？
• RQ4 文化的文脈に根ざした評価と多様な視点をAIの開発と導入に統合するにはどうすればよいか？
• RQ5 AIパイプラインにより広い文化的観点と共創を組み込むための実践的な道筋は何か？

主な発見

• AIの文化的依存性は、データ、資源、そして開発者や研究者の文化的規範を通じて、開発時と使用時の双方で生じる。
• 文化的不一致から生じる5つの害が特定されている：文化的障壁、覇権的分類の押し付け、安全ギャップ、文化的価値の侵害、そして文化の抹消。
• 安全性、公平性、性能を確保する取り組みは、対象となる文化的文脈と地域的規範を考慮しない場合、失敗する可能性がある。
• 文化の抹消は事前学習モデルを通じて拡散し、多様な文化の均質化と誤表現を招く。
• 文化的害の測定、文化的文脈に根ざした評価、そしてAIパイプラインへ多様な視点を統合することに焦点を当てた研究アジェンダが提案されている。