[論文レビュー] Ethical Artificial Intelligence - An Open Question

Alice Pavaloiu, Utku Köse|arXiv (Cornell University)|May 16, 2017

Ethics and Social Impacts of AI参考文献 2被引用数 11

ひとこと要約

本稿は、人工知能における倫理的課題を調査し、AIシステム内の事前設定または学習された価値から生じる道徳的ジレンマと、AIの安全性という広範な問題に焦点を当てる。倫理的懸念に対処するため、人間とAIとの間で共有される価値フレームワークを提唱し、認識の向上と学際的対話の促進を主な貢献として強調する。

ABSTRACT

Artificial Intelligence (AI) is an effective science which employs strong enough approaches, methods, and techniques to solve unsolvable real world based problems. Because of its unstoppable rise towards the future, there are also some discussions about its ethics and safety. Shaping an AI friendly environment for people and a people friendly environment for AI can be a possible answer for finding a shared context of values for both humans and robots. In this context, objective of this paper is to address the ethical issues of AI and explore the moral dilemmas that arise from ethical algorithms, from pre set or acquired values. In addition, the paper will also focus on the subject of AI safety. As general, the paper will briefly analyze the concerns and potential solutions to solving the ethical issues presented and increase readers awareness on AI safety as another related research interest.

研究の動機と目的

• 人工知能における倫理的問題、特にAI内の倫理的アルゴリズムと価値体系から生じる問題を検討すること。
• AI意思決定プロセスにおける事前設定または習得された価値から生じる道徳的ジレンマを分析すること。
• 倫理的AI開発における重要な要素としてのAIセーフティの概念を検討すること。
• 人間とAIとの間で相互に利益をもたらす共存を可能にするために、価値の共有文脈を促進すること。
• AIシステムにおける倫理的およびセーフティの課題について、一般および学術的認識を高めること。

提案手法

• 本稿は、人工知能およびコンピュータサイエンスの分野からの学際的視点を用いて、倫理的AIの概念的分析を実施する。
• 自律システムにおける道徳的意思決定を含む事例研究および仮想的シナリオを検討する。
• 人間とAIの価値を共通の倫理的原則を通じて一致させるフレームワークを提案する。
• AI倫理、社会的影響、AI設計におけるセーフティプロトコルの知見を統合する。
• 本稿は、実証的検証ではなく、倫理的含意を探索するための定性的で議論的な方法論を用いる。
• 既存のAI倫理およびセーフティ分野の文献を基に、分析と提言の構造を整える。

実験結果

リサーチクエスチョン

• RQ1 AIシステム内の事前設定または習得された価値は、実世界の応用においてどのように道徳的ジレンマを引き起こすか？
• RQ2 AIの行動を人間の価値観に適合させるために、どのような倫理的フレームワークを確立できるか？
• RQ3 AIセーフティを、倫理的AIシステム設計に体系的に統合する方法は何か？
• RQ4 人間と人工エージェントとの間で、価値の共有文脈をどのように構築できるか？
• RQ5 一般および学術的認識は、AIの倫理的進化にどのような役割を果たすか？

主な発見

• 倫理的AI開発には、埋め込まれたまたは学習された価値に基づくアルゴリズム的意思決定から生じる道徳的ジレンマに対処する必要がある。
• 倫理的整合性と相互利益を確保するため、人間とAIとの間で共有される価値フレームワークが不可欠である。
• AIセーフティは独立した懸念事項ではなく、初期段階から倫理的設計原則と統合されるべきである。
• 本稿は、AIにおける倫理的基準についての合意形成の欠如が、責任ある導入の主な障壁であると特定する。
• AI倫理とセーフティに関する認識を高めることは、今後の研究および政策立案を導くために不可欠である。
• 本研究は、倫理的AIが継続的で学際的協働を必要とする、未解決で進化し続ける問いであると結論づける。