[論文レビュー] Good proctor or "Big Brother"? AI Ethics and Online Exam Supervision Technologies

Simon Coghlan, Tim Miller+1 more|arXiv (Cornell University)|Nov 15, 2020

Academic integrity and plagiarism被引用数 12

ひとこと要約

この論文は、高等教育におけるAI駆動型オンライン監視技術の倫理的影響を批判的に検討し、プライバシー、自律性、公平性、信頼といった根幹的価値を分析している。こうしたシステムが学術的誠実性を支援する可能性がある一方で、学生の権利や機関の信頼を損なうリスクを伴うと主張し、導入の前に透明性があり説明責任のあるガバナンス枠組みを導入するよう教育機関に要請している。

ABSTRACT

This article philosophically analyzes online exam supervision technologies, which have been thrust into the public spotlight due to campus lockdowns during the COVID-19 pandemic and the growing demand for online courses. Online exam proctoring technologies purport to provide effective oversight of students sitting online exams, using artificial intelligence (AI) systems and human invigilators to supplement and review those systems. Such technologies have alarmed some students who see them as `Big Brother-like', yet some universities defend their judicious use. Critical ethical appraisal of online proctoring technologies is overdue. This article philosophically analyzes these technologies, focusing on the ethical concepts of academic integrity, fairness, non-maleficence, transparency, privacy, respect for autonomy, liberty, and trust. Most of these concepts are prominent in the new field of AI ethics and all are relevant to the education context. The essay provides ethical considerations that educational institutions will need to carefully review before electing to deploy and govern specific online proctoring technologies.

研究の動機と目的

• AI駆動型オンライン監視技術が高等教育に与える倫理的課題を検討すること。
• これらの技術がプライバシー、自律性、公平性、信頼といった根幹的価値にどのように影響を与えるかを評価すること。
• リモート試験環境におけるAIの不透明性、監視、データの不正使用に関連する倫理的リスクを特定すること。
• 教育機関が監視技術の導入に際して倫理的なガバナンス枠組みを構築するのを支援すること。
• 学術的誠実性の必要性と、学生の権利およびデジタル・ウェルビーイングの保護のバランスをとること。

提案手法

• 研究は、AI倫理および教育の哲学からの倫理的原則に基づいた分析的哲学的アプローチを採用している。
• オンライン監視の文脈において、学術的誠実性、公平性、非悪、透明性、プライバシー、自律性、自由、信頼といった主要な倫理的概念を評価している。
• AI駆動型行動監視および顔認識技術を含む、代表的な監視プラットフォームの実際の機能を分析している。
• 自動意思決定、データ収集、および上訴メカニズムの欠如が監視システムに与える影響を評価している。
• 既存の文献および公的議論を基に、リモート試験監視における倫理的妥協を評価している。
• 技術選定および導入における機関の説明責任と透明性を提唱している。

実験結果

リサーチクエスチョン

• RQ1 AI駆動型オンライン監視システムは、リモート試験における学生のプライバシーと自律性にどのように影響を与えるか？
• RQ2 こうした技術が、偏見や不透明なAI判断によって、どの程度不公正な結果を生じるリスクをはらんでいるか？
• RQ3 オンライン監視は、監視の拡大およびデジタル自由の損なわれることにどのように関与しているか？
• RQ4 教育機関は、信頼と公平性を維持しながら、監視技術の使用をどのように倫理的にガバナンスできるか？
• RQ5 透明性が限定的で上訴メカニズムのない監視システムを選定・導入するにあたり、機関が負う倫理的責任は何か？

主な発見

• 多くの学生がAI監視を「ビッグ・ブラザー」に似ていると感じており、監視とプライバシーの喪失に関する懸念を抱いている。
• AI駆動型監視システムは、意思決定の不透明性や潜在的なアルゴリズムバイアスのため、不公正な結果を生じる可能性がある。
• 一部のプラットフォームが顔認識を用い、データ共有を明示しないことで、学生の自律性とデータ権利に顕著な倫理的リスクが生じる。
• 透明なポリシーのないまま監視技術を導入することは、学生と教育機関との間の信頼を損なうリスクをはらむ。
• スケーラビリティや効率性といった自動監視の利点は、プライバシーや公平性の倫理的被害と慎重に衡量される必要がある。
• 教育機関は、誤った告発に対する説明責任、透明性、学生の救済手段を確保するための包括的なガバナンス枠組みを構築する必要がある。