[论文解读] Ethical Artificial Intelligence - An Open Question

Alice Pavaloiu, Utku Köse|arXiv (Cornell University)|May 16, 2017

Ethics and Social Impacts of AI参考文献 2被引用 11

一句话总结

本文探讨了人工智能中的伦理挑战，重点关注人工智能系统中预设或习得价值观引发的道德困境以及人工智能安全的更广泛问题。论文提出了人类与人工智能之间共享价值框架以应对伦理关切，强调意识提升与跨学科对话作为关键贡献。

ABSTRACT

Artificial Intelligence (AI) is an effective science which employs strong enough approaches, methods, and techniques to solve unsolvable real world based problems. Because of its unstoppable rise towards the future, there are also some discussions about its ethics and safety. Shaping an AI friendly environment for people and a people friendly environment for AI can be a possible answer for finding a shared context of values for both humans and robots. In this context, objective of this paper is to address the ethical issues of AI and explore the moral dilemmas that arise from ethical algorithms, from pre set or acquired values. In addition, the paper will also focus on the subject of AI safety. As general, the paper will briefly analyze the concerns and potential solutions to solving the ethical issues presented and increase readers awareness on AI safety as another related research interest.

研究动机与目标

• 探讨人工智能中的伦理问题，特别是由人工智能中的伦理算法和价值体系引发的问题。
• 分析人工智能决策过程中因预设或习得价值观而导致的道德困境。
• 探讨人工智能安全作为伦理人工智能发展关键组成部分的概念。
• 促进人类与人工智能之间共享的价值观语境，以实现互利共存。
• 提高公众和学术界对人工智能系统中伦理与安全挑战的认识。

提出的方法

• 本文采用人工智能与计算机科学的跨学科视角，对伦理人工智能进行概念性分析。
• 研究涉及自主系统中道德决策的案例研究与假设情景。
• 作者提出通过共享伦理原则实现人类与人工智能价值观对齐的框架。
• 该方法整合了人工智能伦理、社会影响以及人工智能设计中安全协议的见解。
• 本文采用定性、论证性方法探讨伦理影响，而非实证测试。
• 其分析与建议基于人工智能伦理与安全领域的现有文献。

实验结果

研究问题

• RQ1 人工智能系统中预设或习得的价值观如何在现实应用中引发道德困境？
• RQ2 可以建立何种伦理框架以使人工智能行为与人类价值观保持一致？
• RQ3 人工智能安全如何系统性地整合到伦理人工智能系统的设计中？
• RQ4 人类与人工智能代理之间如何建立共享的价值观语境？
• RQ5 公众与学术界意识在塑造人工智能伦理发展轨迹中发挥何种作用？

主要发现

• 伦理人工智能的发展需要解决由嵌入或习得价值观的算法决策引发的道德困境。
• 人类与人工智能之间建立共享价值框架对于确保伦理对齐与互利共存至关重要。
• 人工智能安全并非孤立问题，而必须从设计之初就与伦理设计原则整合。
• 本文指出，人工智能伦理标准缺乏共识是负责任部署的主要障碍。
• 提高对人工智能伦理与安全的认识对于指导未来研究与政策发展至关重要。
• 本研究结论认为，伦理人工智能是一个开放且持续演进的问题，需要持续的跨学科合作。