[論文レビュー] Contextualizing Artificially Intelligent Morality: A Meta-Ethnography of Top-Down, Bottom-Up, and Hybrid Models for Theoretical and Applied Ethics in Artificial Intelligence

Jennafer S. Roberts, Laura N. Montoya|arXiv (Cornell University)|Apr 15, 2022

Ethics and Social Impacts of AI被引用数 4

ひとこと要約

このメタエトノグラフィーは、人間のAI道徳を理解するための三重枠組み—倫理的、技術的、政治的—を提唱し、トップダウン、ボトムアップ、ハイブリッドモデルを統合する。倫理的AIは単一のアプローチに還元できないと主張する。システム的不平等を再現しないためには、哲学的、技術的、権力に基づく政治的次元の間で継続的な譲り合いが必要である。

ABSTRACT

In this meta-ethnography, we explore three different angles of ethical artificial intelligence (AI) design implementation including the philosophical ethical viewpoint, the technical perspective, and framing through a political lens. Our qualitative research includes a literature review that highlights the cross-referencing of these angles by discussing the value and drawbacks of contrastive top-down, bottom-up, and hybrid approaches previously published. The novel contribution to this framework is the political angle, which constitutes ethics in AI either being determined by corporations and governments and imposed through policies or law (coming from the top), or ethics being called for by the people (coming from the bottom), as well as top-down, bottom-up, and hybrid technicalities of how AI is developed within a moral construct and in consideration of its users, with expected and unexpected consequences and long-term impact in the world. There is a focus on reinforcement learning as an example of a bottom-up applied technical approach and AI ethics principles as a practical top-down approach. This investigation includes real-world case studies to impart a global perspective, as well as philosophical debate on the ethics of AI and theoretical future thought experimentation based on historical facts, current world circumstances, and possible ensuing realities.

研究の動機と目的

• AI倫理の既存フレームワークを拡張し、AI開発における権力構造を検討する政治的次元を統合すること。
• トップダウン、ボトムアップ、ハイブリッドアプローチのAI倫理が、理論的、技術的、政治的文脈においてどのように相互作用するかを調査すること。
• 実世界の事例研究を通じて、バイアスの再現や植民地的データ実践といったAIにおけるシステム的リスクを浮き彫りにすること。
• AIが本質的に道徳的であるという考えを挑戦し、倫理的責任は常に人間や制度にあると主張すること。
• 文化的、社会的、権力に基づく差異を考慮に入れ、動的で分散的で継続的な譲り合いを求めるAI倫理のアプローチを提唱すること。

提案手法

• AI倫理に関する既存文献のメタエトノグラフィック合成を実施し、トップダウン、ボトムアップ、ハイブリッドモデルに焦点を当てる。
• 強化学習を、学習された行動と環境フィードバックから生じる倫理のボトムアップ的技術的例として分析する。
• AI倫理原則を、AIシステムにおける道徳的行動を標準化するためのトップダウン的技術的・政策主導の枠組みとして検討する。
• 政治的分析を統合し、制度的パワーがどのようにAIにおける倫理を形作っているかを評価する—上からの強制（政府／企業）または下からの要求（一般市民／ユーザー）の両方を含む。
• アフリカにおけるデータマイニングと韓国・ブラジルの接触追跡アプリの事例研究を通じて、AI倫理の結果における文化的・政治的多様性を提示する。
• 哲学的および懸念を喚起する思考実験を用いて、AI倫理フレームワークの長期的社会的影響を探求する。

実験結果

リサーチクエスチョン

• RQ1 トップダウン、ボトムアップ、ハイブリッドモデルのAI倫理は、理論的、技術的、政治的実装においてどのように異なるか？
• RQ2 ガバナンスと企業支配における権力の不均衡は、AIシステムにおけるシステム的不平等をどのように再現するか？
• RQ3 強化学習は、AIにおける道徳的行動の実行可能なボトムアップ的メカニズムとしてどれほど有効であり、その限界は何か？
• RQ4 接触追跡アプリやアフリカにおけるデータマイニングといった実世界のAI展開は、どのように文化的・政治的差異を倫理的結果において明らかにするか？
• RQ5 利益志向のシステムに埋め込まれたまま、倫理を資本の一種として商品化するAIが、真に道徳的であると言えるだろうか？

主な発見

• AIにおける倫理的配慮は、単一のモデルでは達成できない。トップダウン、ボトムアップ、ハイブリッドのいずれのアプローチも、普遍的かつ倫理的とは言えない。
• トップダウンの倫理、たとえばAI原則やルールベースのシステムは、しばしば企業や政府の利益を反映し、利益を優先する「企業化された倫理」としての形に利用され、正義よりも利益を優先するリスクをはらむ。
• ボトムアップのアプローチ、たとえば強化学習は、トレーニングデータに存在する社会的バイアスを反映し、しばしば人種的・性別の差別といった既存の不平等を拡大する。
• 事例研究では、同じAI技術が文化的にまったく異なる倫理的結果をもたらすことが明らかになった—例として、韓国では市民の信頼と国家能力のおかげで接触追跡アプリが成功したが、ブラジルでは公平性と透明性の欠如により失敗した。
• 政治的レンズを通じて、AIにおける倫理は中立的ではないことが明らかになった。誰が権力を握っているかが、倫理を形作る。参加的で包摂的なガバナンスがなければ、倫理的AIは植民主義と搾取を継続するリスクをはらむ。
• 真の倫理的AIは、固定されたルールや技術的解決策だけではなく、継続的な譲り合い、道徳的不確実性、そしてシステム的責任の仕組みを必要とする。