[论文解读] Proceedings of the 2016 ICML Workshop on Human Interpretability in Machine Learning (WHI 2016)

Been Kim, Dmitry Malioutov+1 more|arXiv (Cornell University)|Jul 8, 2016

Natural Language Processing Techniques被引用 24

一句话总结

本论文集记录了2016年国际机器学习会议（ICML 2016）人类可解释性机器学习研讨会（WHI 2016）的成果，汇集了来自顶尖研究者关于提升机器学习模型对人类透明度与可理解性的挑战与机遇的特邀演讲。核心贡献在于为机器学习系统中的可解释性提供了基础性见解以及新兴研究方向的集合。

ABSTRACT

This is the Proceedings of the 2016 ICML Workshop on Human Interpretability in Machine Learning (WHI 2016), which was held in New York, NY, June 23, 2016. Invited speakers were Susan Athey, Rich Caruana, Jacob Feldman, Percy Liang, and Hanna Wallach.

研究动机与目标

• 应对随着模型日益复杂且广泛应用于决策过程，对机器学习可解释性日益增长的需求。
• 探讨如何设计机器学习系统，使其对人类用户更具透明度、可信度与可理解性。
• 汇聚研究人员与实践者，讨论可解释性面临的挑战并明确关键研究方向。
• 审视可解释性在医疗、政策与教育等高风险领域中的作用。
• 建立一个共享的评估与改进机器学习模型可解释性的框架。

提出的方法

• 在国际机器学习会议（ICML）2016上组织研讨会，汇聚可解释性与以人为本机器学习领域的专家。
• 邀请Susan Athey、Rich Caruana、Jacob Feldman、Percy Liang与Hanna Wallach等领先研究者，就可解释性主题发表演讲。
• 通过特邀报告、 panel 讨论及可解释性挑战与解决方案的展示，促进深入讨论。
• 整理研讨会中的见解与新兴研究成果，作为可解释性研究社区的基础参考文献。
• 聚焦以人为本的设计原则，指导可解释性模型的开发。
• 突出在多样化应用领域中，可解释性的实用与理论方法。

实验结果

研究问题

• RQ1 在现实应用中，如何使非专家用户更易理解机器学习模型？
• RQ2 在不牺牲预测性能的前提下，设计可解释性模型面临哪些关键挑战？
• RQ3 用户在实际中如何感知并交互可解释的机器学习系统？
• RQ4 可解释性在建立人工智能系统信任与问责机制中发挥何种作用？
• RQ5 评估机器学习中可解释性的最有效指标与评估框架是什么？

主要发现

• 在医疗与政策等高风险领域，可解释性对于建立对机器学习系统的信任至关重要。
• 已有广泛共识认为，可解释性必须从设计初期就纳入考量，而非事后补救。
• 以人为本的可解释性需要理解用户需求、认知负荷与决策背景。
• 研讨会突出了多种可解释性方法，包括特征重要性、反事实解释与模型蒸馏。
• 主旨演讲者强调了可解释性在确保人工智能系统公平性、问责性与透明性方面的重要性。
• 本论文集为以人为本的可解释性机器学习研究提供了基础性参考。