[논문 리뷰] Design Guidance Towards Addressing Over-Reliance on AI in Sensemaking

Yihang Zhao, Wenxin Zhang외 3명|arXiv (Cornell University)|2026. 03. 09.

Team Dynamics and Performance인용 수 0

한 줄 요약

본 논문은 암시적 지침을 보존하여 자율적 의미 구성(sensemaking)을 촉진하도록 GenAI를 그룹 인지 도구(GATs)에 통합하는 방식을 제안하고, 프레젠테이션, 배치(deployment), 상호작용에 대한 세 가지 핵심 고려사항으로 구성된 설계 공간을 제시한다.

ABSTRACT

Sensemaking in collaborative work and learning is increasingly supported by GenAI systems, however, emerging evidence suggests that poorly designed GenAI systems tend to provide explicit instruction that groups passively follow, fostering over-reliance and eroding autonomous sensemaking. Group awareness tools (GATs) address this challenge through implicit guidance: rather than instructing groups on what to do, GATs externalize observable collaboration data through visualizations that reveal differences between group members to create cognitive conflict, which triggers autonomous elaboration and discussion, thereby implicitly guiding autonomous sensemaking emergence. Drawing on an initial literature search of existing GAT systems, this paper explores the design of GenAI-augmented GATs to support autonomous sensemaking in collaborative work and learning, presenting preliminary design principles for discussion.

연구 동기 및 목표

• 협업 작업과 학습 맥락에서 의미 구성에서 AI에 의한 과도한 의존 문제를 제시한다.
• 명시적 지시가 아닌 암시적 지도를 유지하는 GenAI 강화 GATs를 위한 설계 공간을 제시한다.
• GATs에서 GenAI가 생성한 인식 정보를 배치, 프리젠테이션, 상호작용하는 데 필요한 핵심 설계 고려사항을 식별한다.

제안 방법

• ACM DL, IEEE Xplore, Scopus의 기존 GAT 시스템에 대한 검토와 합성을, 역방향 스노볼링(backward snowballing)으로 보완한다.
• GAT이 그룹 인식 정보를 생성, 제시 및 탐색을 어떻게 지원하는지 분석한다.
• 암시적 지향을 보존하기 위해 GenAI를 GAT에 통합하는 세 가지 일관된 설계 고려사항을 도출한다.

(a) Without GenAI integration (reproduced from (Zheng et al. , 2025a ) , translated into English with minor visual revisions).

실험 결과

연구 질문

• RQ1 자율적 의미구성을 지원하는 암시적 지침을 제공하기 위해 GenAI를 GATs에 어떻게 통합할 수 있는가?
• RQ2 GenAI가 GAT을 보강할 때 배치, 프리젠테이션, 상호작용에 대한 설계 고려사항은 무엇인가?
• RQ3 GenAI가 명시적 지시 콘텐츠로 탈바꿈하지 않으면서 인식 정보를 어떻게 풍부하게 만들 수 있는가?

주요 결과

• GenAI는 규칙 기반의 정량 신호에만 의존하기보다는 비정형 콘텐츠의 질적 해석에 사용되어야 한다.
• GenAI가 생성한 인식 정보는 의미 차이를 표출하여 인지적 대립을 촉진함으로써 주요 정량 표현을 보강해야 한다.
• 집단이 GenAI 통찰을 탐색하고 근거를 검토하여 자율적 확장을 유도하도록 하는 상호작용 기법이 필요하다.
• 정량 신호에 대한 규칙 기반 처리와 질적 해석을 위한 GenAI를 결합한 하이브리드 아키텍처가 엔드-투-엔드 AI 파이프라인보다 바람직하다.
• GenAI 보강 시각화는 암시적 지침을 보존하고 전통적인 인식 신호를 대체해서는 안 된다.

(b) With GenAI integration.