[論文レビュー] Building Ethics into Artificial Intelligence

Han Yu, Zhiqi Shen+4 more|arXiv (Cornell University)|Dec 7, 2018

Ethics and Social Impacts of AI参考文献 34被引用数 8

ひとこと要約

本論文は、人工知能に倫理を埋め込むための技術的アプローチの包括的な分類を提案し、最近の進展を4つの分野に分類している：倫理的ジレンマの探求、個人の倫理的意思決定、集団的倫理的意思決定フレームワーク、人間とAIの相互作用における倫理。主要なAI会議の知見を統合することで、信頼性があり倫理的に整合性のあるAIシステムの開発を研究者に支援する。

ABSTRACT

As artificial intelligence (AI) systems become increasingly ubiquitous, the topic of AI governance for ethical decision-making by AI has captured public imagination. Within the AI research community, this topic remains less familiar to many researchers. In this paper, we complement existing surveys, which largely focused on the psychological, social and legal discussions of the topic, with an analysis of recent advances in technical solutions for AI governance. By reviewing publications in leading AI conferences including AAAI, AAMAS, ECAI and IJCAI, we propose a taxonomy which divides the field into four areas: 1) exploring ethical dilemmas; 2) individual ethical decision frameworks; 3) collective ethical decision frameworks; and 4) ethics in human-AI interactions. We highlight the intuitions and key techniques used in each approach, and discuss promising future research directions towards successful integration of ethical AI systems into human societies.

研究の動機と目的

• 心理学的・法的議論ではなく、計算的解決策に焦点を当てることで、AI倫理に関する技術的文献における空白を埋める。
• 上位クラスのAI会議（AAAI、AAMAS、ECAI、IJCAI）からの最近の進展を体系的に分類する。
• 研究者がAIシステムにおける倫理的意思決定を理解し、実装するのを支援する構造的な分類を提供する。
• 社会への倫理的AI統合における技術的・方法論的課題と今後の研究方向性を強調する。
• 理論的倫理と実装の実務の間の溝を、実証的・技術的分析を通じて埋める。

提案手法

• 4段階の分類を提案：（1）倫理的ジレンマの探求、（2）個人の倫理的意思決定フレームワーク、（3）集団的倫理的意思決定フレームワーク、（4）人間とAIの相互作用における倫理。
• 主要なAI会議およびジャーナルの出版物をレビュー・分析し、各分野におけるコアな技術的技法と直感を同定する。
• クラウドソーシングとエキスパートレビュー・ツール（例：GenEth、Moral Machine）を用いて、人間の倫理的好みやジレンマをモデル化する。
• 説明可能なAIの議論ベースのアプローチを適用し、特に結果主義的倫理に基づく意思決定の透明性と正当性を支援する。
• 戦略的で倫理的AIの目的を損なう人間の行動を予測・対抗するため、敵対的ゲーム理論を統合する。
• 文化的・文脈的差異を考慮した倫理的規範の多様性をモデル化するため、転移学習を活用する。

実験結果

リサーチクエスチョン

• RQ1 AI倫理における技術的アプローチは、どのように異なる研究分野にわたって体系的に分類・マッピングできるか？
• RQ2 どのようなコアなメカニズムが、倫理的原則に基づいた個人のAIエージェントが倫理的に妥当な意思決定を下せるようにするか？
• RQ3 複雑なマルチエージェント環境において、複数のAIエージェントが共同で倫理的に正当化可能な意思決定に到達する方法は何か？
• RQ4 人間の行動に影響を与え、それに関与するAIシステムに、どのように倫理的配慮を埋め込むことができるか？
• RQ5 倫理的AI意思決定における透明性、説明責任、耐性の確保において、残された技術的・方法論的課題は何か？

主な発見

• 本論文は、既存のサーベイが心理学的・社会的・法的側面に焦点を当てている一方で、技術的実装についてはほとんど無視しているという重要なギャップを特定している。
• 最近の技術的進展は、主に4つの分野に集中している：倫理的ジレンマの探求、個人的および集団的倫理的意思決定、人間とAIの相互作用における倫理。
• Moral Machineプロジェクトからのクラウドソーシングによる好みのデータは有用であるが、自己申告と実際の行動選択との乖離により、限界がある。
• 議論ベースの説明可能なAIは、特に結果主義的フレームワーク下での倫理的意思決定の正当化に有望なアプローチであるが、詳細さと使いやすさのバランスを取るのが課題のままである。
• 将来のAIシステムは、倫理的制約を悪用する戦略的行動をとる人間の行動を考慮する必要があり、これには敵対的ゲーム理論の統合が不可欠である。
• 倫理的規範における文化的・文脈的多様性を踏まえると、スケーラブルで世界的に適用可能な倫理的AIを実現するには、転移学習とクロスカルチャーモデリングが不可欠であると考えられる。