[论文解读] Explanation in Human-AI Systems: A Literature Meta-Review, Synopsis of Key Ideas and Publications, and Bibliography for Explainable AI
一份综合性文献综述，界定在人机系统中何为良好解释，梳理历史与理论基础，并突出示范性研究，同时呼吁更全面的实证报告。
This is an integrative review that address the question, "What makes for a good explanation?" with reference to AI systems. Pertinent literatures are vast. Thus, this review is necessarily selective. That said, most of the key concepts and issues are expressed in this Report. The Report encapsulates the history of computer science efforts to create systems that explain and instruct (intelligent tutoring systems and expert systems). The Report expresses the explainability issues and challenges in modern AI, and presents capsule views of the leading psychological theories of explanation. Certain articles stand out by virtue of their particular relevance to XAI, and their methods, results, and key points are highlighted. It is recommended that AI/XAI researchers be encouraged to include in their research reports fuller details on their empirical or experimental methods, in the fashion of experimental psychology research reports: details on Participants, Instructions, Procedures, Tasks, Dependent Variables (operational definitions of the measures and metrics), Independent Variables (conditions), and Control Conditions.
研究动机与目标
- 回答问题：在人机系统中，什么构成一个好的解释？
- 总结计算机科学在创建可解释/可教导的AI方面的历史努力（如辅导系统和专家系统）
- 呈现与XAI相关的主要解释心理理论的要点性观点。
- 突出在相关性、方法、结果和要点方面值得关注的文章。
- 建议在AI可解释性实证研究中的报告实践，类似于实验心理学。
提出的方法
- 进行整合性文献元评估。
- 将关键观点和出版物综合为解释的要点性视角。
- 突出若干与XAI高度相关的文章，并总结方法与发现。
- 提供可解释AI的文献聚焦与参考书目。
- 提倡对经验/实验方法的详尽报告（参与者、程序、变量、对照）。
实验结果
研究问题
- RQ1在人机系统中，什么构成一个良好的解释？
- RQ2哪些历史与理论基础（例如辅导系统、专家系统、心理理论）为XAI提供依据？
- RQ3哪些文章在AI可解释性方面提供了最相关的方法与结果？
- RQ4对于XAI的实证研究，推荐哪些报告标准？
主要发现
- 该报告整合了计算机科学在创建可解释和可教导系统方面的历史努力，包括智能辅导和专家系统。
- 它阐述了现代AI中的可解释性问题与挑战。
- 它呈现了与XAI相关的领先解释心理理论的要点性观点。
- 它突出某些文章在方法学上的相关性与关键结果。
- 它建议研究人员在AI可解释性研究中包含详细的经验方法和操作性定义。
更好的研究，从现在开始
从论文设计到论文写作，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。