[논문 리뷰] Good proctor or "Big Brother"? AI Ethics and Online Exam Supervision Technologies

Simon Coghlan, Tim Miller외 1명|arXiv (Cornell University)|2020. 11. 15.

Academic integrity and plagiarism인용 수 12

한 줄 요약

이 논문은 고등교육 분야에서 인공지능 기반 온라인 감독 기술의 윤리적 영향을 철저히 분석하며, 사생활, 자율성, 공정성, 신뢰와 같은 핵심 가치를 다룹니다. 이러한 시스템이 학업의 정당성을 뒷받침할 수는 있지만, 학생의 권리와 기관의 신뢰를 해칠 위험이 있으며, 시행 전에 투명하고 책임감 있는 거버넌스 프레임워크를 수립할 것을 교육 기관에 당부합니다.

ABSTRACT

This article philosophically analyzes online exam supervision technologies, which have been thrust into the public spotlight due to campus lockdowns during the COVID-19 pandemic and the growing demand for online courses. Online exam proctoring technologies purport to provide effective oversight of students sitting online exams, using artificial intelligence (AI) systems and human invigilators to supplement and review those systems. Such technologies have alarmed some students who see them as `Big Brother-like', yet some universities defend their judicious use. Critical ethical appraisal of online proctoring technologies is overdue. This article philosophically analyzes these technologies, focusing on the ethical concepts of academic integrity, fairness, non-maleficence, transparency, privacy, respect for autonomy, liberty, and trust. Most of these concepts are prominent in the new field of AI ethics and all are relevant to the education context. The essay provides ethical considerations that educational institutions will need to carefully review before electing to deploy and govern specific online proctoring technologies.

연구 동기 및 목표

• 인간지능 기반 온라인 감독 기술이 고등교육 분야에서 야기하는 윤리적 과제를 분석하는 것.
• 이러한 기술이 사생활, 자율성, 공정성, 신뢰와 같은 핵심 가치에 미치는 영향을 평가하는 것.
• 원격 시험 환경에서 AI의 투명성 부족, 감시, 데이터 오용과 관련된 윤리적 위험을 규명하는 것.
• 감독 기술 도입을 위한 윤리적 거버넌스 프레임워크 개발을 교육 기관이 어떻게 이끌 수 있을지 안내하는 것.
• 학업의 정당성 확보와 학생의 권리 보호 및 디지털 웰빙 보호 사이의 균형을 이루는 것.

제안 방법

• 연구는 인공지능 윤리 및 교육 철학의 윤리 원칙에 기반한 분석 철학적 접근을 사용합니다.
• 온라인 감독의 맥락에서 학업의 정당성, 공정성, 비악행 원칙, 투명성, 사생활, 자율성, 자유, 신뢰와 같은 핵심 윤리 개념을 평가합니다.
• AI 기반 행동 모니터링과 얼굴 인식을 포함한 주요 감독 플랫폼의 실제 기능을 분석합니다.
• 자동화된 의사결정, 데이터 수집, 그리고 항소 기구의 부재가 감독 시스템에 미치는 영향을 평가합니다.
• 기존 문헌과 대중적 논의를 바탕으로 원격 시험 감독의 윤리적 상충을 평가합니다.
• 기술 선택 및 배포 과정에서 기관의 책임감과 투명성을 주장합니다.

실험 결과

연구 질문

• RQ1 AI 기반 온라인 감독 시스템은 원격 시험에서 학생의 사생활과 자율성에 어떻게 영향을 미치는가?
• RQ2 이러한 기술이 투명성 부족이나 편향된 AI 판단으로 인해 얼마나 심각한 불공정한 결과를 초래할 수 있는가?
• RQ3 온라인 감독은 어떻게 더 넓은 사회적 추세인 감시와 디지털 자유의 침식에 기여할 수 있는가?
• RQ4 신뢰와 공정성을 유지하면서 교육 기관은 어떻게 감독 기술의 윤리적 거버넌스를 이끌 수 있는가?
• RQ5 투명성과 항소 기회가 제한된 시스템을 선택·배포할 때 기관이 지녀야 할 윤리적 책임은 무엇인가?

주요 결과

• 많은 학생들이 AI 감독을 '빅 브라더' 같은 것으로 느끼며, 감시와 사생활 침해에 대한 우려를 제기합니다.
• 투명한 의사결정 과정과 잠재적인 알고리즘 편향으로 인해 AI 기반 감독 시스템이 불공정한 결과를 초래할 수 있습니다.
• 일부 플랫폼에서 얼굴 인식 기술과 공개되지 않은 데이터 공유를 사용할 경우 학생의 자율성과 데이터 권리에 심각한 윤리적 위험이 발생합니다.
• 투명한 정책 없이 감독 기술을 도입할 경우 학생과 교육 기관 간의 신뢰가 약화될 위험이 있습니다.
• 자동화된 감독의 이점—예를 들어 확장성과 효율성—은 사생활과 공정성 측면에서 발생할 수 있는 윤리적 피해와 균형을 맞춰 신중히 고려해야 합니다.
• 오류로 인한 고소에 대비해 기관은 책임감 있고 투명하며 학생이 대응할 수 있는 거버넌스 프레임워크를 구축해야 합니다.