[論文レビュー] On the Morality of Artificial Intelligence

Alexandra Sasha Luccioni, Yoshua Bengio|arXiv (Cornell University)|Dec 26, 2019

Ethics and Social Impacts of AI参考文献 39被引用数 5

ひとこと要約

この論文は、機械学習（ML）の実践者に対し、研究および展開のプロセスに倫理的・道徳的配慮を統合するよう促しており、AIが社会的善を実現するための自己主導型の質問と実行可能なガイドラインを提示している。AIが気候変動や格差といったグローバルな課題に貢献できるようにするため、学際的連携と価値に配慮した設計を通じ、規制への反応的対応ではなく、能動的責任を重視するべきだと主張している。

ABSTRACT

Much of the existing research on the social and ethical impact of Artificial Intelligence has been focused on defining ethical principles and guidelines surrounding Machine Learning (ML) and other Artificial Intelligence (AI) algorithms [IEEE, 2017, Jobin et al., 2019]. While this is extremely useful for helping define the appropriate social norms of AI, we believe that it is equally important to discuss both the potential and risks of ML and to inspire the community to use ML for beneficial objectives. In the present article, which is specifically aimed at ML practitioners, we thus focus more on the latter, carrying out an overview of existing high-level ethical frameworks and guidelines, but above all proposing both conceptual and practical principles and guidelines for ML research and deployment, insisting on concrete actions that can be taken by practitioners to pursue a more ethical and moral practice of ML aimed at using AI for social good.

研究の動機と目的

• 技術的パフォーマンスを超えた倫理的・道徳的影響を考慮するよう、ML実践者に促すことで、機械学習（ML）の社会的影響の拡大に対処すること。
• 抽象的な倫理的原則とML研究者・エンジニアに実行可能な実践の間のギャップを埋めること。
• 気候変動や社会的格差といったグローバルな課題に貢献する応用を、MLコミュニティが優先的に推進するよう刺激すること。
• 規制や法的措置の導入を待つのでなく、AI開発における能動的倫理的意思決定を促すこと。
• ML実践者と政策立案者、心理学、環境科学、社会科学の専門家との学際的連携を奨励すること。

提案手法

• ML実践者が自らの研究や応用の社会的影響を評価できるよう、自己主導型の倫理的自己省察の質問を提示する。
• UN人権宣言、IEEE、Jobinらの事例など、既存の高水準の倫理的フレームワークを根拠として、実務的推奨事項を構築する。
• MLツールが効果的かつ倫理的に適切であることを保証するため、政策、心理学、環境科学分野のドメインエキスパートとの連携を推奨する。
• 気候変動緩和の具体例として、炭素価格モデル、森林伐採や災害対応のための衛星画像分析、エコシステムの監視向上を挙げている。
• 生成的敵対ネットワーク（GANs）を活用し、個人的に意味のある場所の将来の気候影響を可視化することで、気候変動に対する心理的距離を短め、行動の動機付けを高めることを提案する。
• 個人の行動変容を促すMLツールの展開において、ユーザー中心の設計と信頼構築の重要性を強調する。

実験結果

リサーチクエスチョン

• RQ1 ML実践者は、展開の前段階で、自らの研究や応用が及ぼす潜在的社會的影響をどのように評価できるか？
• RQ2 監視や自律型兵器といった、社会的影響が極めて高い技術を開発する際、ML研究者が負うべき倫理的責任は何か？
• RQ3 機械学習は、気候変動や生物多様性の喪失といったグローバルな課題をどのように活用できるか？
• RQ4 心理的・行動的バイアスは、気候変動への個人および集団的行動を促進するために、MLツールによってどのように是正できるか？
• RQ5 学際的連携は、AIシステムが効果的かつ人間の価値観と整合的であることを保証するために、どのような役割を果たすか？

主な発見

• ML実践者たちは、自らの技術が誰に利益をもたらし、誰が被害を被るかを自己主導型の倫理的質問を通じて、能動的に道徳的影響を検討する必要がある。
• 学習データ内のバイアスが、実世界の害をもたらした事例（例：性別・人種的マイノリティの顔認識システムの性能劣化）があり、公平性に配慮した開発の必要性を浮き彫りにしている。
• MLは、炭素価格モデルの構築、衛星画像による森林伐採や災害対応の分析、エコシステムモニタリングの向上を通じて、気候変動対策を支援できる。
• 生成的敵対ネットワーク（GANs）を用いることで、個人的に意味のある場所における将来の気候影響を可視化し、心理的距離を短め、行動の動機付けを高めることができる。
• 社会的善を実現するためのMLの効果的展開には、心理学、コミュニケーション、政策分野の専門家との連携が不可欠であり、ツールが利用可能で効果的であることを保証する。
• AI分野における技術的進歩のスピードは、集団的知恵や倫理的規範の整備を上回っており、『知恵のレース』が生じており、実践者による緊急の倫理的関与が求められている。