[论文解读] Scenarios and Recommendations for Ethical Interpretive AI

John Licato, Zaid Marji+1 more|arXiv (Cornell University)|Nov 5, 2019

Explainable Artificial Intelligence (XAI)参考文献 18被引用 4

一句话总结

本文引入了一个包含伦理规则、解释性情境及人类生成解释的数据集，以推动人工智能在伦理解释推理方面的进步。它识别出关键挑战——如对立论点、模糊细节和依赖语境的推理——并提出了切实可行的建议，以构建能够通过基于论证的推理实现类人伦理解释的人工智能系统。

ABSTRACT

Artificially intelligent systems, given a set of non-trivial ethical rules to follow, will inevitably be faced with scenarios which call into question the scope of those rules. In such cases, human reasoners typically will engage in interpretive reasoning, where interpretive arguments are used to support or attack claims that some rule should be understood a certain way. Artificially intelligent reasoners, however, currently lack the ability to carry out human-like interpretive reasoning, and we argue that bridging this gulf is of tremendous importance to human-centered AI. In order to better understand how future artificial reasoners capable of human-like interpretive reasoning must be developed, we have collected a dataset of ethical rules, scenarios designed to invoke interpretive reasoning, and interpretations of those scenarios. We perform a qualitative analysis of our dataset, and summarize our findings in the form of practical recommendations.

研究动机与目标

• 解决人工智能在应用伦理规则时缺乏类人解释推理能力的关键缺口。
• 研究伦理规则中的开放式表述（如“公共利益”或“品行缺陷”）如何在现实情境中导致解释分歧。
• 收集并分析人类对伦理情境的解释，以指导自动化解释推理系统的设计。
• 识别解释推理中的重复性挑战，如对立论点和无关细节，这些挑战会阻碍人工智能对齐。
• 提供基于实证的实用建议，以开发能够通过解释性论证推理伦理规则的人工智能系统。

提出的方法

• 整理了一个包含100多个伦理规则、情境描述及来自法律、医学和软件工程等多元领域的人工标注解释的数据集。
• 设计了通过在语境模糊的情境中嵌入开放式表述（如“公共利益”、“品行缺陷”）来引发解释推理的情境。
• 通过三阶段评分流程收集解释：初始解释、理由说明和同行评估，以衡量共识与分歧程度。
• 对解释模式进行定性分析，识别出如对立主义、上下文缺失和逻辑不一致等重复主题。
• 将解释性论证结构化为：“若E在D中发生，且E在S情境下通过解释I符合S，则E应被解释为I。”
• 采用论证理论分析方法，评估解释的强度、结构及反论点，特别是在存在分歧的情况下。

实验结果

研究问题

• RQ1 人类推理者如何解决‘公共利益’或‘品行缺陷’等开放式伦理表述中的模糊性？
• RQ2 在伦理推理中，哪些类型的解释性论证最为常见，它们如何影响解释结果？
• RQ3 对立解释在多大程度上出现？哪些线索可表明一种解释是非标准的或故意与共识相悖？
• RQ4 缺失或无关的上下文细节如何影响解释推理的一致性和有效性？
• RQ5 自动化系统必须复制解释性论证的哪些结构和认知特征，才能实现类人伦理推理？

主要发现

• 频繁识别出对立解释，通常涉及对预期解释的故意反对，表明人工智能必须能够检测并评估此类论点。
• 大量解释并非因逻辑错误而被否定，而是因缺少或无关的上下文细节，凸显了对强大上下文推理能力的需求。
• 解释性论证通常围绕论证理论属性构建，如担保强度、前提相关性和反论点预见能力。
• 对‘阻碍交通’或‘公共利益’等开放式表述的分歧，通过解释性论证得以解决，而不仅仅是规则应用。
• 数据集表明，即使规则表述清晰，解释仍存在显著差异——尤其在涉及道德或专业规范时——这凸显了对具备论证意识的人工智能的需求。
• 该数据集与分析表明，自动化解释推理系统必须超越分类，而应能推理论证结构、上下文及受众预期。