[论文解读] Machine Learning Explainability for External Stakeholders
一个基于工作坊的研究，探讨如何使可解释的机器学习对外部利益相关者（最终用户、监管者、领域专家）有用，并概述在大规模部署解释时的开放挑战。
As machine learning is increasingly deployed in high-stakes contexts affecting people's livelihoods, there have been growing calls to open the black box and to make machine learning algorithms more explainable. Providing useful explanations requires careful consideration of the needs of stakeholders, including end-users, regulators, and domain experts. Despite this need, little work has been done to facilitate inter-stakeholder conversation around explainable machine learning. To help address this gap, we conducted a closed-door, day-long workshop between academics, industry experts, legal scholars, and policymakers to develop a shared language around explainability and to understand the current shortcomings of and potential solutions for deploying explainable machine learning in service of transparency goals. We also asked participants to share case studies in deploying explainable machine learning at scale. In this paper, we provide a short summary of various case studies of explainable machine learning, lessons from those studies, and discuss open challenges.
研究动机与目标
- 阐明为何可解释性应覆盖内部模型开发者以外的外部利益相关者。
- 评估在将解释部署到最终用户、监管者和领域专家时的当前不足。
- 总结领域特定用例与利益相关者需求，使可解释性与透明度目标保持一致。
- 识别在大规模部署可解释的 ML 方面的开放挑战及潜在解决方案。
- 提出跨学科参与，以改善解释的发展与部署。
提出的方法
- 对来自学术界、产业、政策和法律背景的33名参与者开展了闭门、为期一天的工作坊。
- 促进五个专家小组的讨论以统一对可解释性的定义。
- 分析金融、医疗保健、媒体和社会服务等领域的领域特定用例。
- 将参与者界定的解释与经验教训综合成案例研究摘要及开放挑战。
- 强调需要更广泛的社区参与以及围绕可解释性的教育。
实验结果
研究问题
- RQ1跨学科讨论中出现了哪些可解释性的定义和概念？
- RQ2在外部利益相关者的大规模部署中，关键挑战与潜在解决方案是什么？
- RQ3应如何评估解释，情境和利益相关者需求在其中扮演何种角色？
- RQ4如何设计解释以考虑利益相关者多样性、数据使用和隐私问题？
- RQ5不确定性、交互性和时间演化行为在可解释的 ML 部署中起到怎样的作用？
主要发现
- 可解释性目前仍以内部为中心，尚未广泛部署到外部利益相关者。
- 有效部署需要针对特定利益相关者和用例进行情境感知的解释。
- 对解释的评估尚不明确，应结合跨学科的以人为本的方法。
- 让受影响的社区参与并教育利益相关者对实际采用至关重要。
- 应将不确定性与解释并列考虑，且解释应具备互动性并可适应利益相关者的反馈。
- 解释应预见模型行为和用户交互随时间的变化，以避免有用性的下降。
更好的研究，从现在开始
从论文设计到论文写作，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。