[논문 리뷰] Towards social generative AI for education: theory, practices and ethics

Mike Sharples|arXiv (Cornell University)|2023. 06. 14.

Online Learning and Analytics인용 수 22

한 줄 요약

본 논문은 교육에서의 AI를 인간과 AI 간의 사회적 대화로 재구상하고, 사회적 학습 모델인 GAI의 역할과 돌봄, 기억, 권리 등에 대한 윤리·거버넌스 고찰을 제안한다.

ABSTRACT

This paper explores educational interactions involving humans and artificial intelligences not as sequences of prompts and responses, but as a social process of conversation and exploration. In this conception, learners continually converse with AI language models within a dynamic computational medium of internet tools and resources. Learning happens when this distributed system sets goals, builds meaning from data, consolidates understanding, reconciles differences, and transfers knowledge to new domains. Building social generative AI for education will require development of powerful AI systems that can converse with each other as well as humans, construct external representations such as knowledge maps, access and contribute to internet resources, and act as teachers, learners, guides and mentors. This raises fundamental problems of ethics. Such systems should be aware of their limitations, their responsibility to learners and the integrity of the internet, and their respect for human teachers and experts. We need to consider how to design and constrain social generative AI for education.

연구 동기 및 목표

• 학습을 인간과 AI가 보편적인 계산 매체 안에서 상호작용하는 사회적 과정으로 사고하는 것을 제안한다.
• 협동적이고 사회적 학습에 참여하기 위한 생성형 AI의 새로운 역할을 식별한다.
• 교육을 위한 사회적 AI에서의 돌봄, 기억, 윤리에 대한 도전 과제와 설계 원칙을 논의한다.

제안 방법

• AI 에이전트 맥락에서 대화식 학습(Pask, Bakhtin, Freire, Vygotsky)의 이론적 관점을 검토하고 종합한다.
• 인터넷 기반 학습 환경에서 인간과 AI에 걸쳐 분산된 인지에 대한 시스템 관점을 제안한다.
• 구체적 AI 역할들(Possibility Engine, Socratic Opponent, Collaboration Coach, Co-Designer, Exploratorium, Storyteller)을 교실 스타일의 예시와 함께 소개하고 설명한다.
• 기억, 목표 설정, 도메인 간 전이 등을 포함하여 AI가 사회적 학습의 완전한 참가자가 되기 위해 필요한 것을 비판적으로 분석한다.
• 장기 기억, 투명성, 인권 기반 거버넌스와 같은 개념을 통해 AI에 돌봄과 윤리 원칙을 내재화하자고 주장한다.

실험 결과

연구 질문

• RQ1 포괄적인 교육 매체 내에서 학습을 위한 대화에 참여하기 위해 생성형 AI는 어떤 속성을 가져야 하는가?
• RQ2 인간과 AI가 상호 합의에 도달할 수 있는 방법은 무엇이며 분산 학습 시스템에서 그 합의는 어떻게 보일 것인가?
• RQ3 AI가 사회적 학습자이자 대화 파트너로 참여할 때 교사와 전문가의 역할은 무엇인가?
• RQ4 돌봄과 윤리적 고려를 교육용 사회적 GAI에 어떻게 내재화할 수 있는가?

주요 결과

• GAI는 대안적 시각 생성, 동료와의 논쟁, 협업 안내, 공동 설계, 탐색적 데이터 놀이, 스토리텔링 등 사회적 학습을 지원하기 위해 여러 역할을 맡을 수 있다.
• 사회적 학습 모델은 메모리, 목표 설정, 사용자의 필요에 대한 추론, 추론 과정 설명 능력 등 프롬프트 응답을 넘는 역량을 가진 AI가 필요하다.
• 돌봄을 내재화하고 인권 기반 거버넌스를 구현하는 것이 학습자를 존중하고 다양한 정체성을 지원하며 조작을 피하는 데 필수적이다.
• 현행 GAI는 장기 기억 및 반성적 능력이 부족하다; 향후 시스템은 지속 가능한 학습, 책임성 및 전이を 지원하기 위해 하이브리드 뉴로-심볼릭 아키텍처를 통합해야 한다.
• 윤리적 AI 설계는 인간 교사와의 협업 균형을 유지하고 투명성을 확보하며 AI 결정에 대한 검증 가능한 근거를 제공해야 한다.