[논문 리뷰] Value Cards: An Educational Toolkit for Teaching Social Impacts of Machine Learning through Deliberation

Hong Shen, Hanwen Wesley Deng외 4명|arXiv (Cornell University)|2020. 10. 22.

Ethics and Social Impacts of AI참고 문헌 50인용 수 12

한 줄 요약

이 논문은 기계 학습의 사회적 영향, 특히 재범 예측에서의 영향을 가르치기 위해 모델 카드, 성격 카드, 점검 목록 카드를 활용하는 결정 중심 교육 툴킷인 Value Cards를 소개한다. 연구 결과, 이 툴킷은 학생들이 성능 지표 간의 상충 관계를 이해하는 데 도움이 되며, 다양한 이해관계자 가치를 인식하고, 윤리적 AI 설계에서의 소통 및 협상 능력을 향상시킨다.

ABSTRACT

Recently, there have been increasing calls for computer science curricula to complement existing technical training with topics related to Fairness, Accountability, Transparency, and Ethics. In this paper, we present Value Card, an educational toolkit to inform students and practitioners of the social impacts of different machine learning models via deliberation. This paper presents an early use of our approach in a college-level computer science course. Through an in-class activity, we report empirical data for the initial effectiveness of our approach. Our results suggest that the use of the Value Cards toolkit can improve students' understanding of both the technical definitions and trade-offs of performance metrics and apply them in real-world contexts, help them recognize the significance of considering diverse social values in the development of deployment of algorithmic systems, and enable them to communicate, negotiate and synthesize the perspectives of diverse stakeholders. Our study also demonstrates a number of caveats we need to consider when using the different variants of the Value Cards toolkit. Finally, we discuss the challenges as well as future applications of our approach.

연구 동기 및 목표

• 기술 교육과 함께 공정성, 책임성, 투명성, 윤리성(FATE) 주제를 통합할 필요가 점점 커지는 컴퓨터 과학 커리큘럼에 대응하기 위해.
• 기계 학습 모델의 기술적 지표를 넘어서 사회적 영향을 이해할 수 있도록 돕는 교육 툴킷을 개발하기 위해.
• 알고리즘 의사결정에서 다양한 이해관계자 가치와 윤리적 상충 관계를 중심으로 한 학생들의 논의 참여를 촉진하기 위해.
• 실제 교실 환경에서 Value Cards 툴킷의 다양한 구성 방식이 효과적인지 평가하기 위해.

제안 방법

• Value Cards 툴킷은 세 가지 구성 요소로 이루어져 있다: 기계 학습 모델과 성능 상충 관계를 기술하는 모델 카드, 각기 다른 가치와 이해관계를 지닌 이해관계자 역할을 대변하는 성격 카드, 기술적 고려사항과 사회적 고려사항을 정리한 점검 목록 카드.
• 이 툴킷은 기계 학습 수업에서 네 가지 변형으로 구현되었다: 모델 카드만, 모델 카드 + 점검 목록 카드, 모델 카드 + 성격 카드, 모델 카드 + 점검 목록 카드 + 성격 카드.
• 강사들은 재범 예측 사례 연구를 중심으로 한 수업 내 논의 활동을 이끌기 위해 툴킷을 활용했다.
• 학생들은 모델 성능 평가, 상충 관계 협상, 이해관계자 시각 고려 등을 위한 체계적인 토론에 참여했다.
• 학습 결과를 평가하기 위해 학생 토론과 반성 내용의 정성적 분석을 활용했다.
• 툴킷은 유연하게 조정 가능하도록 설계되어, 특정 분야나 교육적 맥락에 맞게 구성 요소를 맞춤화할 수 있도록 했다.

실험 결과

연구 질문

• RQ1 Value Cards 툴킷은 기계 학습에서 성능 지표의 기술적 정의와 윤리적 상충 관계를 이해하는 데 있어 학생들의 이해도를 얼마나 향상시키는가?
• RQ2 이해관계자 성격 카드와 점검 목록 카드를 통합함으로써, 학생들이 알고리즘 시스템 내 다양한 사회적 가치에 대해 얼마나 잘 추론할 수 있는가?
• RQ3 다양한 구성 방식(예: 성격 카드/점검 목록 카드 유무)이 학생의 논의 품질과 깊이에 어떤 영향을 미치는가?
• RQ4 학생들은 어떤 방식으로 새로운 이해관계자나 인간 중심의 개선 조치를 제안함으로써 툴킷의 프레임워크를 확장하는가?

주요 결과

• Value Cards의 사용은 재범 예측 맥락에서 정밀도, 재현율, 위양성률 등의 성능 지표 간 상충 관계를 이해하는 데 있어 학생들의 이해도를 뚜렷이 향상시켰다.
• 학생들은 기계 학습 시스템 설계에서 공정성, 개인정보 보호, 책임성과 같은 다양한 사회적 가치를 고려하는 것이 중요하다는 데 더 높은 인식을 보였다.
• 성격 카드의 포함은 더 세밀하고 이해관계자 중심의 토론을 이끌었으며, 학생들은 서로 다른 가치와 이해관계를 적극적으로 협상했다.
• 학생들은 종종 기존의 이해관계자 외에 세금 납부자와 같은 새로운 이해관계자들을 식별하고, 시스템 투명성과 감시를 향상시키기 위한 인간 중심의 개선 조치를 제안했다.
• 성격 카드와 점검 목록 카드의 조합은 더 종합적인 논의를 이끌었지만, 성격 카드의 존재가 때로 점검 목록 기반 고려사항을 압도하는 경향이 있었다.
• 학생들은 시스템 재설계 제안이나 권력 관계에 대한 반성과 같은 고차원적 사고에 참여하여, 제공된 자료를 넘어서 깊이 있는 윤리적 참여를 보였다.