[论文解读] Design Guidance Towards Addressing Over-Reliance on AI in Sensemaking

Yihang Zhao, Wenxin Zhang+3 more|arXiv (Cornell University)|Mar 9, 2026

Team Dynamics and Performance被引用 0

一句话总结

论文主张以一种在保留隐性指导的前提下，将 GenAI 纳入组知觉工具（GATs），提出一个设计空间，着重在呈现、部署与交互的三大核心考量。

ABSTRACT

Sensemaking in collaborative work and learning is increasingly supported by GenAI systems, however, emerging evidence suggests that poorly designed GenAI systems tend to provide explicit instruction that groups passively follow, fostering over-reliance and eroding autonomous sensemaking. Group awareness tools (GATs) address this challenge through implicit guidance: rather than instructing groups on what to do, GATs externalize observable collaboration data through visualizations that reveal differences between group members to create cognitive conflict, which triggers autonomous elaboration and discussion, thereby implicitly guiding autonomous sensemaking emergence. Drawing on an initial literature search of existing GAT systems, this paper explores the design of GenAI-augmented GATs to support autonomous sensemaking in collaborative work and learning, presenting preliminary design principles for discussion.

研究动机与目标

• 在协作工作与学习情境中，激发对 AI 过度依赖于意义建构的问题意识。
• 提出一个 GenAI 增强的 GATs 的设计空间，保持隐性指导而非显性指令。
• 识别在 GATs 中部署、呈现与交互 GenAI 生成的知觉信息时的关键设计考量。

提出的方法

• 对 ACM DL、IEEE Xplore 与 Scopus 的现有 GAT 系统进行综述与综合，并辅以向后回溯的雪崩式引用分析。
• 分析 GAT 如何生成、呈现并支持对组知觉信息的探索。
• 推导出将 GenAI 整合到 GATs 以保持隐性指导的三条一致设计考量。

(a) Without GenAI integration (reproduced from (Zheng et al. , 2025a ) , translated into English with minor visual revisions).

实验结果

研究问题

• RQ1 如何将 GenAI 集成到 GATs 中以提供支持自主意义建构的隐性指导？
• RQ2 在 GenAI 增强 GATs 的部署、呈现与交互方面有哪些设计考量？
• RQ3 GenAI 如何在丰富知觉信息的同时，不演变为显性教学内容？

主要发现

• GenAI 应用于对非结构化内容的定性解读，而非仅依赖基于规则的定量信号。
• GenAI 生成的知觉信息应通过揭示语义差异来增强主要定量表示，从而促使认知冲突。
• 需要交互技术以便群体探索 GenAI 的洞察并检查支撑证据以触发自主的阐释。
• 将基于规则的定量信号处理与 GenAI 的定性解读相结合的混合架构，比端到端 AI 流水线更为可取。
• 增強 GenAI 的可视化应保留隐性指导，而非替代传统的知觉线索。

(b) With GenAI integration.