[论文解读] Value Cards: An Educational Toolkit for Teaching Social Impacts of Machine Learning through Deliberation

Hong Shen, Hanwen Wesley Deng+4 more|arXiv (Cornell University)|Oct 22, 2020

Ethics and Social Impacts of AI参考文献 50被引用 12

一句话总结

本文介紹了價值卡（Value Cards）——一種以 deliberation（ deliberative，即 deliberative reasoning，即 deliberative reasoning，即 deliberative reasoning）為核心的教育工具包，結合模型卡（Model Cards）、人格卡（Persona Cards）與檢查表卡（Checklist Cards），用於向電腦科學學生傳授機器學習社會影響的知識，特別聚焦於再犯預測領域。研究顯示，該工具包能有效提升學生對性能指標權衡的理解，促進對多元利益相關者價值的認知，並增強在倫理AI設計中溝通與協商的能力。

ABSTRACT

Recently, there have been increasing calls for computer science curricula to complement existing technical training with topics related to Fairness, Accountability, Transparency, and Ethics. In this paper, we present Value Card, an educational toolkit to inform students and practitioners of the social impacts of different machine learning models via deliberation. This paper presents an early use of our approach in a college-level computer science course. Through an in-class activity, we report empirical data for the initial effectiveness of our approach. Our results suggest that the use of the Value Cards toolkit can improve students' understanding of both the technical definitions and trade-offs of performance metrics and apply them in real-world contexts, help them recognize the significance of considering diverse social values in the development of deployment of algorithmic systems, and enable them to communicate, negotiate and synthesize the perspectives of diverse stakeholders. Our study also demonstrates a number of caveats we need to consider when using the different variants of the Value Cards toolkit. Finally, we discuss the challenges as well as future applications of our approach.

研究动机与目标

• 回應電腦科學課程日益增長的需求，將公平性、責任制、透明度與倫理（FATE）議題與技術培訓整合。
• 開發一種教育工具包，協助學生理解機器學習模型的社會影響，超越技術指標的層面。
• 促進學生參與以多元利益相關者價值與演算法決策中的倫理權衡為核心的辯論過程。
• 評估價值卡工具包不同配置在真實課堂環境中的有效性。

提出的方法

• 價值卡工具包包含三個組件：模型卡（描述機器學習模型及其性能權衡）、人格卡（代表具有不同價值與利益的相關者），以及檢查表卡（列出技術與社會層面的考量事項）。
• 該工具包在大學程度的電腦科學課程中實施，採用四種變體：僅模型卡、模型卡 + 檢查表卡、模型卡 + 人格卡，以及模型卡 + 檢查表卡 + 人格卡。
• 教師利用工具包引導課堂辯論活動，聚焦於再犯預測的案例研究。
• 學生參與結構化討論，以評估模型表現、協商權衡，並考量利益相關者觀點。
• 本研究採用質性分析方法，分析學生的討論與反思，以評估學習成效。
• 工具包設計具備可適應性，允許教師根據特定領域或教育情境調整組件。

实验结果

研究问题

• RQ1 價值卡工具包在多大程度上能提升學生對機器學習中技術性能指標及其倫理權衡的理解？
• RQ2 納入利益相關者人格與檢查表，能在多大程度上提升學生對演算法系統中多元社會價值的推理能力？
• RQ3 不同配置的價值卡（例如，有或無人格卡/檢查表）如何影響學生辯論的品質與深度？
• RQ4 學生在何種方式下透過識別新利益相關者或提出人機協作改進方案，延伸了工具包的架構？

主要发现

• 使用價值卡顯著提升了學生對技術定義的理解，以及在再犯預測情境下對精確率、召回率與假陽性率等性能指標之間權衡的掌握。
• 學生展現出對在機器學習系統設計中納入公平性、隱私與責任制等多元社會價值重要性的更高意識。
• 引入人格卡促使討論更具細緻性與利益相關者導向，學生積極協商相互衝突的價值與利益。
• 學生經常透過識別新利益相關者（如納稅人）或提出人機協作機制，來延伸工具包，以提升系統透明度與監督能力。
• 人格卡與檢查表卡的結合帶來更全面的辯論，但有時人格卡的影響會蓋過檢查表所引導的考量。
• 學生展現高階推理能力，例如提出系統重構與反思權力動態，顯示其倫理參與程度已超越所提供材料的範疇。