[논문 리뷰] "I Use ChatGPT to Humanize My Words": Affordances and Risks of ChatGPT to Autistic Users

Renkai Ma, Ben Z. Zhang외 5명|arXiv (Cornell University)|2026. 01. 25.

Digital Mental Health Interventions인용 수 0

한 줄 요약

논문은 소셜 미디어 게시물을 통해 자폐 스펙트럼 사용자의 ChatGPT 상호 작용을 분석하여 인지 지원의 이점과 관련 위험을 식별하고, Technology Affordance 렌즈를 사용한다.

ABSTRACT

Large Language Model (LLM) chatbots like ChatGPT have emerged as cognitive scaffolding for autistic users, yet the tension between their utility and risk remains under-articulated. Through an inductive thematic analysis of 3,984 social media posts by self-identified autistic users, we apply a technology affordance lens to examine this duality. We found that while users leveraged ChatGPT to offload executive dysfunction, regulate emotions, translate neurotypical communication, and validate their autistic identity, these affordances coexist with risks to their well-being: reinforcing delusional thinking, erasing authentic identity through automated masking, and triggering conflicts with the autistic sense of justice. As part of our preliminary work, this poster identifies trade-offs in autistic users' interactions with ChatGPT and concludes by outlining our future work on developing neuro-inclusive technologies that address these tensions through beneficial friction, bidirectional translation, and the delineation of emotional validation from reality.

연구 동기 및 목표

• 자폐 사용자가 ChatGPT를 인지적 발판과 의사소통 도구로 어떻게 인식하고 사용하는지 이해한다.
• 이점(집행 기능의 오프로딩, 정서 조절, 번역, 정체성 검증)과 위험(망상, 자동 마스킹, 윤리적 갈등)을 식별한다.
• LLMs와의 자폐인 간 상호작용에서 이점과 위험을 통합하기 위해 Technology Affordance 프레임워크를 적용한다.

제안 방법

• Reddit, X, and Tumblr에서 ChatGPT와 자폐에 대해 논의하는 3,984개의 게시물을 수집했다(2023년 1월 1일 – 2025년 9월 30일).
• Chain-of-Thought 프롬프트를 이용한 LLM 보조 파이프라인(GPT-4o-mini)을 사용하여 게시물이 ChatGPT 및 자폐와 관련 있는지 선별했다.
• 유도적 주제 분석(inductive thematic analysis)을 통해 어포던스와 위험을 도출했고, 초기 어포던스 코드 239개 및 위험 코드 50개를 도출했으며, 면분류 신뢰성을 확립했다.
• 어포던스를 프레이밍하고 LLM과의 자폐인 상호작용에서의 이중성을 분석하기 위해 선행 문헌을 인용하고 통합했다.

실험 결과

연구 질문

• RQ1 자폐 사용자를 위한 ChatGPT 같은 LLM 채텟봇의 인지적 어포던스는 무엇인가?
• RQ2 이러한 어포던스와 동반하는 위험은 무엇이며, 이것이 자폐 경험과 윤리와 어떻게 상호작용하는가?
• RQ3 기술 어포던스 렌즈가 LLM의 신경가용 설계(neuro-inclusive design)에 어떤 시사점을 제공하는가?

주요 결과

• 자폐 사용자는 실행 기능 장애를 오프로드하고 작업에 모멘텀을 생성하기 위해 ChatGPT를 활용한다.
• ChatGPT는 판단 없이 중립적인 공간을 제공하는 정서 조절 도구로 기능한다.
• 신경다양성과 신경정상 간의 의사소통을 잇는 번역기로 작동하여 전문적 및 사회적 상호작용을 돕는다.
• 사용자는 알고리즘적 거울화를 통한 인지 스타일의 동형화를 통해 소속감을 느끼는 자폐 정체성의 검증을 경험한다.
• 위험으로는 망상적 사고의 강화, 자동 마스킹을 통한 진정한 정체성의 침식, 자폐인의 정의감과의 윤리적 갈등이 포함된다.