[논문 리뷰] AI agents for facilitating social interactions and wellbeing

Hiro Taiyo Hamada, Ryota Kanai|arXiv (Cornell University)|2022. 02. 26.

Mental Health Research Topics인용 수 7

한 줄 요약

이 논문은 인간 간 상호작용을 그룹에서 증진시켜 사회적 유대감과 정신 건강을 향상시키기 위해 AI 보강된 에이전트가 인간 간 상호작용을 중재하는 관계 기반 접근법을 제안한다. 이는 개인/집단, 분석/개입이라는 이차원 프레임워크를 도입하며, 디지털 및 물리적 환경에서 그룹의 웰빙을 지원하기 위해 AI를 활용할 잠재적 기회와 윤리적 과제를 강조한다.

ABSTRACT

Wellbeing AI has been becoming a new trend in individuals' mental health, organizational health, and flourishing our societies. Various applications of wellbeing AI have been introduced to our daily lives. While social relationships within groups are a critical factor for wellbeing, the development of wellbeing AI for social interactions remains relatively scarce. In this paper, we provide an overview of the mediative role of AI-augmented agents for social interactions. First, we discuss the two-dimensional framework for classifying wellbeing AI: individual/group and analysis/intervention. Furthermore, wellbeing AI touches on intervening social relationships between human-human interactions since positive social relationships are key to human wellbeing. This intervention may raise technical and ethical challenges. We discuss opportunities and challenges of the relational approach with wellbeing AI to promote wellbeing in our societies.

연구 동기 및 목표

• 개인보다는 그룹 간 사회적 상호작용을 대상으로 하는 웰빙 AI 응용 분야의 격차를 보완하기 위해.
• AI 보강된 에이전트가 인간 간 관계를 중재하고 개선하여 정서적 웰빙을 향상시킬 수 있는 방법을 분석하기 위해.
• 실제 및 디지털 사회적 환경에서 관계 기반 웰빙 간섭을 구현할 때 발생하는 기술적 및 윤리적 과제를 규명하기 위해.
• 웰빙 AI를 분류하기 위한 이차원 분류 프레임워크를 제안하기 위해: 개인 대 집단, 분석 대 간섭.
• 사회 네트워크 간섭에서 개인정보 보호, 자율성, 공공 利익을 우선시하는 관계 기반 접근법을 주장하기 위해.

제안 방법

• 대상(개인/집단)과 기능(분석/간섭)을 기반으로 웰빙 AI를 분류하기 위한 이차원 프레임워크를 개발한다.
• 사회적 유대관계, 성격 특성(예: 외향성, 정서적 불안정성)과 웰빙 간의 관계를 연결하는 심리학 이론과 경험적 연구를 검토한다.
• 그룹 환경에서 사회적 상호작용을 중재하기 위해 사용되는 AI 에이전트(예: 챗봇, 가상 에이전트)의 기존 응용 사례를 분석한다.
• 감정 상태와 행동 패턴을 탐지하기 위해 NLP, 컴퓨터 비전 및 정서 분석을 활용한 정신 건강 분야의 AI 응용 사례를 검토한다.
• AI 에이전트가 인간 간 상호작용에서 중재자 역할을 하여 웰빙을 증진시키는 새로운 범주로 관계 기반 접근법을 제안한다.
• 사용자 자율성, 데이터 프라이버시, 간섭에 대한 윤리적 제약 조건을 강조하는 웰빙 AI 설계 원칙을 고려한다.

실험 결과

연구 질문

• RQ1 AI 보강된 에이전트는 어떻게 설계되어야 하며, 그룹 내 사회적 상호작용을 중재하고 개선하여 집단적 웰빙을 향상시킬 수 있는가?
• RQ2 실세계 사회적 환경에서 관계 기반 웰빙 간섭을 위한 AI를 구현할 때 발생하는 주요 기술적 및 윤리적 과제는 무엇인가?
• RQ3 성격 특성과 사회적 행동은 AI 중재 사회적 상호작용의 정신 건강 향상 효과에 어떻게 영향을 미치는가?
• RQ4 그룹 역학에서 AI 기반 분석 및 간섭은 고립감을 감소시키고 정서적 회복력을 향상시키는 데 어떻게 기여할 수 있는가?
• RQ5 사회 네트워크 간섭에서 사용자 자율성을 유지하고 공공의 이익과 일치시키기 위한 설계 원칙은 무엇인가?

주요 결과

• 긍정적인 사회적 유대관계는 정서적 웰빙에 중요한 요소이며, 외향성과 낮은 정서적 불안정성 등의 성격 특성이 삶의 만족도와 사회적 유대감 향상과 강하게 연관되어 있다.
• 특히 디지털 및 원격 환경에서 정신 건강에 핵심적인 역할을 하는 사회적 집단을 대상으로 한 웰빙 AI는 여전히 개발이 부족한 상태이다.
• AI 보강된 에이전트는 물리적 및 가상 환경 모두에서 인간 간 상호작용을 중재하여 웰빙과 팀 성과를 향상시킬 수 있다.
• 에이전트가 사회적 역학을 분석하고 간섭하는 웰빙 AI의 관계 기반 접근법은 큰 잠재력을 지니고 있지만, 개인정보 보호, 자율성, 데이터 소유권과 같은 윤리적 우려를 야기한다.
• AI가 지나치게 많은 데이터에 접근하거나 저장하거나 간섭할 경우 사용자 자율성이 약화되고 행동 제약이 발생할 수 있어, 엄격한 윤리적 보호 조치가 필요하다.
• 웰빙 AI의 성공은 기술 자체보다는 지지적인 사회적 환경에 더 크게 의존하며, 이는 환경 설계가 AI 구현만큼 중요하다는 것을 시사한다.