[論文レビュー] Macro Ethics Principles for Responsible AI Systems: Taxonomy and Future Directions

Jessica Woodgate, Nirav Ajmeri|arXiv (Cornell University)|Aug 12, 2022

Ethics and Social Impacts of AI被引用数 5

ひとこと要約

本論文は、哲学から導き出された23の規範的倫理的原則の分類法を提唱し、責任あるAIシステムに実装可能な形にしたものである。本稿では、これらの原則をAI推論に統合する方法を提示し、多原則統合および倫理的ジレンマの解決におけるギャップを特定し、社会的・技術的システム（STS）内での文化的多様性と文脈感受性に基づく倫理的枠組みの導入を提唱することで、AI意思決定における公平性と透明性を向上させることを目的としている。

ABSTRACT

Responsible AI must be able to make or support decisions that consider human values and can be justified by human morals. Accommodating values and morals in responsible decision making is supported by adopting a perspective of macro ethics, which views ethics through a holistic lens incorporating social context. Normative ethical principles inferred from philosophy can be used to methodically reason about ethics and make ethical judgements in specific contexts. Operationalising normative ethical principles thus promotes responsible reasoning under the perspective of macro ethics. We survey AI and computer science literature and develop a taxonomy of 21 normative ethical principles which can be operationalised in AI. We describe how each principle has previously been operationalised, highlighting key themes that AI practitioners seeking to implement ethical principles should be aware of. We envision that this taxonomy will facilitate the development of methodologies to incorporate normative ethical principles in reasoning capacities of responsible AI systems.

研究の動機と目的

• ドグマティズムや結果主義といった哲学的理論から得られる23の規範的倫理的原則の包括的分類法を構築し、AIシステムに活用すること。
• これらの原則が、コンピュータサイエンスおよびAIの文献において、これまでどのように実装されたかを特定・分析すること。
• 特に社会的・技術的システム（STS）における多原則統合および倫理的ジレンマの解決の欠落といった文献上のギャップを特定すること。
• 西洋中心の枠組みを越えて、公平性、説明可能性、文化的包含性を高めるために、倫理的原則の応用を拡大すること。
• STSにおける倫理的原則の実装を促進し、複数の原則間の対立を包括的・文脈感受性に基づく（普遍的・特殊主義的）アプローチによって解決するための今後の研究を導くこと。

提案手法

• コンピュータサイエンスおよびAIの文献を体系的に調査し、ドグマティズムや結果主義といった哲学的理論から導かれた23の規範的倫理的原則を同定した。
• 原則を義務論的（ルールベース）および目的論的（結果ベース）のカテゴリに分類し、ユーティリタリアニズムや平等主義といった倫理的枠組みと一致させた。
• 各原則に対して、先行する技術的実装をマッピングし、アーキテクチャ、仕様、ルールベースまたは結果ベースの推論における重要な設計選択を強調した。
• 文脈感受性とステークホルダーの価値の整合性を重視しながら、AI推論における複数の倫理的原則の実装を促進するフレームワークを提唱した。
• 複数の原則をバランスさせる包括的アプローチ（pluralist approaches）と、文脈に応じた道徳的関連性の評価を行う特殊主義的推論（particularist reasoning）を用いた、倫理的ジレンマの解決手法を提案した。
• 人間中心の設計プロセスを通じて価値、規範、倫理的推論を結びつけることで、社会的・技術的システム（STS）に倫理的原則を統合することを提唱した。

実験結果

リサーチクエスチョン

• RQ1 哲学的理論から得られる規範的倫理的原則を、AIシステムに体系的かつ実装可能なものとしてどのように同定・操作化できるか。
• RQ2 個々の倫理的原則をAI推論に実装するにあたり、特にそれらが対立したり、不平等な結果をもたらしたりする場合に生じる主な課題と制限とは何か。
• RQ3 公平性、説明可能性、文脈感受性を支援する形で、複数の倫理的原則をどのように統合できるか。
• RQ4 文化的要因および文脈的要因が、AIにおける倫理的原則の選択と適用に果たす役割は何か。また、多様な倫理的伝統をどのように統合できるか。
• RQ5 社会的・技術的システム内において、対立する原則に起因する倫理的ジレンマを、原則的かつ透明な方法でどのように解決できるか。

主な発見

• 本研究では、ドグマティズムや結果主義といった哲学的理論から導かれた23の規範的倫理的原則を同定・分類し、AI倫理における構造的分類法を提供した。
• 既存のAIにおける倫理的原則の実装の多くは、公平性や透明性といった単一の原則に限定されており、多原則推論や対立解決への関心は限定的である。
• 倫理的原則の実装方法は、ルールベースのシステム、結果評価、および徳目ベースの推論など、技術的アプローチが多様であり、標準化されたフレームワークは存在しない。
• 価値や規範が文脈的に埋め込まれた社会的・技術的システム（STS）において、倫理的原則の適用が著しく不足していることが判明し、より統合的なSTSに配慮したアプローチの必要性が示された。
• 原則同士が対立したり、不平等な結果をもたらしたりする場合に、倫理的ジレンマが頻発することが判明し、包括的（pluralist）および文脈感受性（particularist）なアプローチによる解決の必要性が浮き彫りになった。
• 今後の研究では、未代表化された原則や非西洋的倫理的伝統を含めた倫理的原則分類法の拡張が、AIシステムにおける公平性とアクセシビリティの向上に不可欠である。