[논문 리뷰] Multi-Agent Causal Reasoning for Suicide Ideation Detection Through Online Conversations

Jun Li, Xiangmeng Wang외 7명|arXiv (Cornell University)|2026. 02. 27.

Mental Health via Writing인용 수 0

한 줄 요약

본 논문은 온라인 대화 트리에서 자살 위험을 예측하기 위해 반사실 추론과 프런트-도어 인과 조정을 활용하는 두 에이전트 프레임워크 MACR를 제시하며, 베이스라인보다 성능이 우수하다.

ABSTRACT

Suicide remains a pressing global public health concern. While social media platforms offer opportunities for early risk detection through online conversation trees, existing approaches face two major limitations: (1) They rely on predefined rules (e.g., quotes or relies) to log conversations that capture only a narrow spectrum of user interactions, and (2) They overlook hidden influences such as user conformity and suicide copycat behavior, which can significantly affect suicidal expression and propagation in online communities. To address these limitations, we propose a Multi-Agent Causal Reasoning (MACR) framework that collaboratively employs a Reasoning Agent to scale user interactions and a Bias-aware Decision-Making Agent to mitigate harmful biases arising from hidden influences. The Reasoning Agent integrates cognitive appraisal theory to generate counterfactual user reactions to posts, thereby scaling user interactions. It analyses these reactions through structured dimensions, i.e., cognitive, emotional, and behavioral patterns, with a dedicated sub-agent responsible for each dimension. The Bias-aware Decision-Making Agent mitigates hidden biases through a front-door adjustment strategy, leveraging the counterfactual user reactions produced by the Reasoning Agent. Through the collaboration of reasoning and bias-aware decision making, the proposed MACR framework not only alleviates hidden biases, but also enriches contextual information of user interactions with counterfactual knowledge. Extensive experiments on real-world conversational datasets demonstrate the effectiveness and robustness of MACR in identifying suicide risk.

연구 동기 및 목표

• 온라인 대화에서 로깅된 상호작용을 넘어선 강건한 자살 위험 탐지 동기화.
• 사용자의 순응도 및 모방 행위와 같은 관찰되지 않는 교란변수 완화.
• 반사실적 추론으로 맥락을 확장하는 확장 가능한 프레임워크 개발.
• 편향 없는 인과 추정을 제공하기 위해 프런트-도어 조정 활용.
• 실제 대화 데이터셋에서 효과를 입증.

제안 방법

• 두 에이전트 MACR 프레임워크 제안: Reasoning Agent는 Paul-Elder 비판적 사고 및 인지 평가 이론에 기반한 네 가지 하위 에이전트를 사용해 반사실 매개변수 M을 생성.
• Bias-aware Decision-Making Agent가 프런트-도어 조정을 수행하여 P(Y|do(X))를 P(m|X)와 P(Y|do(m))를 통해 추정.
• 프런트-도어 조정을 두 개의 계산 부분으로 분해하고 이를 전문 에이전트로 구현.
• 클러스터링(E5-large-v2 인코더 + K-means)을 사용해 반사실 추론을 대표 매개체 노드로 통합.
• 분포 편향을 완화하기 위해 샘플링 기반의 계층화된 인-컨텍스트 프롬프트 전략으로 P(Y|do(m))를 근사.
• PFA와 SCT의 두 실제 데이터셋에서 전통적 위험 모델, 편향 제거된 언어 모델, 대형 언어 모델, 그래프 신경망(GNN) 등 다양한 베이스라인과 비교.

실험 결과

연구 질문

• RQ1 온라인 자살 담론의 관찰되지 않는 교란변수는 매개변수를 통한 프런트-도어 조정으로 해결될 수 있는가?
• RQ2 반사실 심리적 매개변수로 맥락을 풍부하게 하면 로깅된 상호작용만으로도 자살 위험 예측이 향상되는가?
• RQ3 다중 에이전트 협업(추론과 편향 인식 의사결정)이 예측 성능과 견고성에 어떤 영향을 미치는가?
• RQ4 이 도메인에서 제안된 프런트-도어 접근이 표준 백도어 편향 제거 전략보다 우수한가?

주요 결과

• MACR은 두 데이터셋에서 최상위 가중치 F1 달성 (PFA: 0.3768; SCT: 0.5108).
• SCT 데이터셋에서 MACR이 두 번째로 우수한 모델보다 12.3% 포인트 더 높은 가중치 F1.
• 편향 제거된 언어 모델은 개선되나 MACR의 성능에 미치지 못하며, 단일 백도어 편향 제거의 한계를 강조.
• 제거(Ablation)에서 Reasoning Agent가 성능에 가장 크게 기여, 다중 에이전트 협업 및 프런트-도어 조정이 모두 필수적.
• 프런트-도어 기반 프롬프트가 이 작업에서 인-컨텍스트 학습 및 사고의 연쇄 프롬프트보다 우수하게 작동.