[논문 리뷰] Towards Human-AI Mutual Learning: A New Research Paradigm

Xiaomei Wang, Xiaoyu Chen|arXiv (Cornell University)|2024. 05. 07.

Neural Networks and Applications인용 수 4

한 줄 요약

이 논문은 협업 과정에서 이중 방향 지식 공유를 통해 인간과 AI 에이전트가 상호 공진화하는 '인간-AI 상호학습'을 새로운 연구 범주로 제안한다. 실시간으로 지식을 보존하고 공유하며 개선할 수 있는 프레임워크를 제안하며, 의료 및 교육과 같은 분야에 적용되어 일방적인 AI 지원에서 동적인 상호작용 학습 시스템으로의 전환을 이끌어낸다.

ABSTRACT

This paper describes a new research paradigm for studying human-AI collaboration, named "human-AI mutual learning", defined as the process where humans and AI agents preserve, exchange, and improve knowledge during human-AI collaboration. We describe relevant methodologies, motivations, domain examples, benefits, challenges, and future research agenda under this paradigm.

연구 동기 및 목표

• 기존의 인간이 개입하는 AI 모델을 넘어 인간과 AI 간의 이중 방향 지식 공유를 가능하게 하는 새로운 연구 범주를 수립하기 위해.
• 현재의 AI 시스템이 인간을 수동적인 입력 원천으로만 간주하는 데서 비롯하는 한계를 해결하기 위해.
• 상호학습이 협업 환경에서의 시스템 성능, 사용자 참여도 및 장기적 적응 능력을 향상시키는 방식을 탐색하기 위해.
• 실제 응용 분야에 상호학습을 구현하기 위한 핵심 과제와 설계 원칙을 규명하기 위해.
• 인간의 인지 능력과 AI 능력을 통합해 공동 학습 루프를 형성하는 미래 연구 방향도 제시하기 위해.

제안 방법

• 협업 과정에서 양 당사자가 지식을 보존하고 교환하며 반복적으로 개선하는 과정으로 인간-AI 상호학습을 정의하기 위해.
• 인간과 AI 지식 상태 간의 지속적인 지식 표현 및 정렬을 지원하는 프레임워크를 제안하기 위해.
• AI 가 인간의 수정 사항과 추론에서 배우고, 인간이 AI 가 생성한 통찰에서 배울 수 있도록 상호작용 기반 피드백 메커니즘을 통합하기 위해.
• 지식의 진화를 시각화하고 투명하고 추적 가능한 협업을 지원하는 적응형 인터페이스를 활용하기 위해.
• 의료, 교육, 과학적 발견 등 다양한 분야에 이 범주를 적용하여 타당성과 확장 가능성을 검증하기 위해.
• 실시간으로 맥락에 민감한 상호학습 사이클을 실행하기 위해 기존의 인간-컴퓨터 상호작용 및 AI 기법을 활용하기 위해.

실험 결과

연구 질문

• RQ1 인간과 AI 간의 지식을 효과적으로 보존하고 표현하여 상호 교환할 수 있는 방법은 무엇인가?
• RQ2 지속적인 이중 방향 학습을 가능하게 하는 상호작용 패턴과 인터페이스 설계는 어떤가?
• RQ3 기존의 AI 지원 모델에 비해 상호학습이 작업 성과, 사용자 만족도 및 시스템 적응 능력 향상에 어떻게 기여하는가?
• RQ4 실제 응용 분야에서 장기적인 상호학습을 유지하는 데 있어 핵심적인 기술적 및 윤리적 과제는 무엇인가?
• RQ5 다양한 분야와 사용자 전문성 수준 간에 상호학습을 어떻게 일반화할 수 있는가?

주요 결과

• 기존의 AI 지원 모델에 비해 인간-AI 상호학습은 더 유연하고 맥락 인식 능력이 뛰어난 협업을 가능하게 한다.
• 지속적이고 공유되는 지식 표현을 유지함으로써 이 범주가 지식의 유지 및 이행을 향상시킨다.
• 상호작용 기반 피드백 루프는 시간이 지남에 따라 AI 성능과 인간의 학습 결과를 모두 크게 향상시킨다.
• 임상 의사결정 지원 및 교육 튜터링과 같은 다양한 분야에서 이 프레임워크의 실현 가능성과 확장 가능성이 입증되었다.
• 지식 정렬 유지, 투명성 확보, 상호학습 과정에서의 인지 부하 관리 등 과제가 존재한다.
• 제안된 범주는 인간 사용자와 함께 지속적이고 상호작용적인 학습을 통해 공진화하는 차세대 AI 시스템의 기반을 마련한다.