[論文レビュー] Relational Artificial Intelligence

Virginia Dignum|arXiv (Cornell University)|Feb 4, 2022

Ethics and Social Impacts of AI被引用数 29

ひとこと要約

本論は、AI に対する関係性に基づくパラダイムを提案し、Ubuntu-およびフェミニスト思想に着想を得たもので、純粋な合理的・アルゴリズム的アプローチよりも社会技術的ガバナンスを強調する。

ABSTRACT

The impact of Artificial Intelligence does not depend only on fundamental research and technological developments, but for a large part on how these systems are introduced into society and used in everyday situations. Even though AI is traditionally associated with rational decision making, understanding and shaping the societal impact of AI in all its facets requires a relational perspective. A rational approach to AI, where computational algorithms drive decision making independent of human intervention, insights and emotions, has shown to result in bias and exclusion, laying bare societal vulnerabilities and insecurities. A relational approach, that focus on the relational nature of things, is needed to deal with the ethical, legal, societal, cultural, and environmental implications of AI. A relational approach to AI recognises that objective and rational reasoning cannot does not always result in the 'right' way to proceed because what is 'right' depends on the dynamics of the situation in which the decision is taken, and that rather than solving ethical problems the focus of design and use of AI must be on asking the ethical question. In this position paper, I start with a general discussion of current conceptualisations of AI followed by an overview of existing approaches to governance and responsible development and use of AI. Then, I reflect over what should be the bases of a social paradigm for AI and how this should be embedded in relational, feminist and non-Western philosophies, in particular the Ubuntu philosophy.

研究の動機と目的

• AI の社会的影響を強調することで、責任ある開発と利用を促進する。
• AI に対する伝統的な合理的・アルゴリズム的見解を批判し、関係性の視点を提唱する。
• Ubuntu とフェミニスト哲学がAIの社会的パラダイムをどう支えるかを探る。
• ガバナンスのアプローチ（規制、標準、評価、行動規範、認識）を調査し、それらが関係性のあるAIフレームワークにどのように適合するかを検討する。
• 権力、包摂性、社会的福利に対処するため、AI の設計、展開、政策に関係性を埋め込むことを提案する。

提案手法

• AI の概念、ガバナンスのアプローチ、倫理的配慮の文献調査。
• 合理的なAIパラダイムと関係性AIパラダイムを比較する哲学的論証。
• AI における社会技術システムと権力動態の概念分析。
• 関係性AIの基盤としてUbuntuとフェミニスト理論の統合。
• 規制、標準化、評価、行動規範、参加機構をガバナンス手段としての議論。

実験結果

リサーチクエスチョン

• RQ1 文脈・変化・集合的推論を考慮するAIの社会的パラダイムを支えるべき基盤は何か？
• RQ2 Ubuntuの哲学は、AIを共同体的な関係と社会正義に根ざさせるのにどう寄与できるか？
• RQ3 フェミニスト理論は、AIの開発と利用における権力動態と包摂をどのように照らし出すか？
• RQ4 規制、標準、評価、行動規範のどの組み合わせが責任ある関係性AIを最も支援するか？
• RQ5 地域を超えて包摂的なAIガバナンスを促進するために、認識と参加をどのように強化すべきか？

主な発見

• AIの行動と社会的文脈の間のフィードバックループをモデル化するには関係性パラダイムが必要で、集合的推論と変化する規範を組み込む。
• Ubuntuとフェミニスト哲学は、AIを共同体的な関係、権力認識、包摂性に根ざさせる補完的な基盤を提供する。
• AIガバナンスはチェックリスト以上を必要とし、規制、標準、評価ツール、行動規範、助言機構を社会技術エコシステム内に組み込む必要がある。
• 現在のAIの語られ方（知性、魔法、または純粋なアルゴリズム）はAIを歪め、責任ある開発を妨げる。文脈的で関係性のある見方はこれらの問題を緩和する。
• 地域的・多文化的な視点（例：アフリカ）は、世界的に責任あるAIに不可欠であり、政策が多様な社会規範と価値観を反映することを保証する。