[논문 리뷰] Multi-stakeholder Perspective on Responsible Artificial Intelligence and Acceptability in Education

Alexander J. Karran, Philippe Charland외 5명|arXiv (Cornell University)|2024. 02. 22.

Ethics and Social Impacts of AI인용 수 7

한 줄 요약

이 논문은 비니엣(vignette) 시나리오와 매개 분석을 사용하여 학생, 교사, 부모가 다양한 교육용 AI 응용이 수용되는 정도를 밝히고, (agency, transparency, explainability, and privacy)가 수용과 신뢰에 어떤 영향을 미치는지 보여준다.

ABSTRACT

This study investigates the acceptability of different artificial intelligence (AI) applications in education from a multi-stakeholder perspective, including students, teachers, and parents. Acknowledging the transformative potential of AI in education, it addresses concerns related to data privacy, AI agency, transparency, explainability and the ethical deployment of AI. Through a vignette methodology, participants were presented with four scenarios where AI's agency, transparency, explainability, and privacy were manipulated. After each scenario, participants completed a survey that captured their perceptions of AI's global utility, individual usefulness, justice, confidence, risk, and intention to use each scenario's AI if available. The data collection comprising a final sample of 1198 multi-stakeholder participants was distributed through a partner institution and social media campaigns and focused on individual responses to four AI use cases. A mediation analysis of the data indicated that acceptance and trust in AI varies significantly across stakeholder groups. We found that the key mediators between high and low levels of AI's agency, transparency, and explainability, as well as the intention to use the different educational AI, included perceived global utility, justice, and confidence. The study highlights that the acceptance of AI in education is a nuanced and multifaceted issue that requires careful consideration of specific AI applications and their characteristics, in addition to the diverse stakeholders' perceptions.

연구 동기 및 목표

• 다양한 이해관계자 관점(학생, 교사, 학부모)에서 교육에서의 AI 수용성 평가.
• AI 특성(agency, transparency, explainability, privacy)이 수용성과 신뢰에 미치는 영향 식별.
• 이해관계자 간의 지각된 글로벌 유용성, 정의, 자신감과 같은 매개 요인을 탐구.

제안 방법

• agency, transparency, explainability, privacy가 조작된 네 가지 AI 활용 사례 시나리오를 이용한 비니엣 방법론 사용.
• 각 시나리오 이후 글로벌 유용성, 개인적 유용성, 정의, 자신감, 위험, AI 시나리오 사용 의도에 대한 인식에 관한 설문 데이터 수집.
• AI 특성이 유틸리티, 정의, 자신감과 같은 매개변수를 통해 수용에 어떤 영향을 주는지 매개 분석 수행.
• 파트너 기관과 소셜 미디어를 통해 모집된 1,198명의 참가자로 다수 이해관계자 그룹을 대표하는 데이터 집계.

실험 결과

연구 질문

• RQ1 다양한 이해관계자 그룹(학생, 교사, 학부모)이 교육용 AI의 수용과 신뢰에 어떤 영향을 미치는가?
• RQ2 AI의 대리성, 투명성, 설명가능성의 변화가 지각된 유용성, 정의, 자신감에 어떤 영향을 미치는가?
• RQ3 AI 특성과 교육용 AI 사용 의도 간의 관계를 설명하는 매개 변수는 무엇인가?
• RQ4 글로벌 유용성 및 정의에 대한 인식이 서로 다른 AI 활용 사례에서 수용에 중요한가?

주요 결과

• 이해관계자 그룹 간에 AI 수용 및 신뢰가 크게 다르게 나타난다.
• 지각된 글로벌 유용성, 정의, 자신감이 AI 특성(agency, transparency, explainability)과 AI 사용 의도 간의 관계를 매개한다.
• 교육에서의 AI 수용은 미묘하며 특정 AI 응용과 이해관계자 인식에 따라 달라진다.