[논문 리뷰] Uncertainty Weighted Causal Graphs

Eduardo C. Garrido‐Merchán, Cristina Puente외 2명|arXiv (Cornell University)|2020. 02. 02.

Misinformation and Its Impacts참고 문헌 16인용 수 4

한 줄 요약

이 논문은 자연어 텍스트에서 인과 관계의 불확실성을 확률 분포를 사용해 표현하는 인과 그래프를 생성하는 방법을 제안한다. 이는 언어적 히드(예: '자주', '희귀하게')에 대한 베이지안 추론을 통해 구현되며, 부사 빈도와 사전 믿음에서 유도된 사후 분포를 기반으로 인과 관계의 강도를 후행 확률 분포로 모델링함으로써 불확실성과 신뢰 수준을 반영하는 가중치가 부여된 인과 그래프를 생성한다. 이 방법은 합성 데이터와 실제 폐암 텍스트 분석을 통해 검증되었으며, 일관되고 해석 가능한 불확실성 분포를 도출한다.

ABSTRACT

Causality has traditionally been a scientific way to generate knowledge by relating causes to effects. From an imaginery point of view, causal graphs are a helpful tool for representing and infering new causal information. In previous works, we have generated automatically causal graphs associated to a given concept by analyzing sets of documents and extracting and representing the found causal information in that visual way. The retrieved information shows that causality is frequently imperfect rather than exact, feature gathered by the graph. In this work we will attempt to go a step further modelling the uncertainty in the graph through probabilistic improving the management of the imprecision in the quoted graph.

연구 동기 및 목표

• 인과 그래프 간선 가중치의 점 추정치가 실제 인과 지식의 불확실성을 표현하지 못하는 한계를 해결하기 위해.
• 명확한 값이 아닌 확률 분포로 인과 관계를 모델링하여 자연어에서의 믿음 정도와 모호함을 반영하기 위해.
• 의료 문헌과 같은 도메인 특화 텍스트에서 이해할 수 있고 불확실성 인식이 가능한 인과 그래프를 생성하는 시스템을 개발하기 위해.
• 합성 데이터와 실제 의료 텍스트를 모두 사용하여 접근법을 검증하고, 일관된 불확실성 정량화를 보여주기 위해.
• 미래의 지식 시스템, 질의 응답 및 기계 의식 아키텍처에의 통합을 위한 기반을 마련하기 위해.

제안 방법

• 언어적 파싱을 사용해 텍스트에서 인과 관계를 추출하며, 원인, 영향, 그리고 불확실성 지표로 기능하는 부사(예: '빈번히', '희귀하게')를 식별한다.
• 부사의 의미적 의미와 언어적 맥락에 기반해 부사에 사전 확률 분포를 할당하여 인과 강도에 대한 초기 믿음을 모델링한다.
• 관측된 인과 관계 빈도를 사용해 사전을 업데이트하고, 인과 연결 강도에 대한 사후 분포를 계산하기 위해 베이지안 추론을 적용한다.
• KL 발산을 사용해 각 간선에 대해 가장 대표적인 부사를 선택함으로써 추론된 사후 분포와 실제 사후 분포 간의 차이를 최소화한다.
• 확률 단체 위에 이산 그리드를 사용해 사후 분포를 근사하며, 계산 복잡도는 O(NR)이다. 여기서 N은 인과 관계의 수이고 R은 그리드 크기이다.
• 간선 가중치를 확률 분포로 표현한 인과 그래프를 시각화하며, 간선의 크기는 관계 빈도를 반영하고 레이블은 가장 가능성이 높은 부사를 표시한다.

실험 결과

연구 질문

• RQ1 텍스트 내 인과 관계를 점 추정치가 아닌 불확실성으로 어떻게 모델링할 수 있는가?
• RQ2 언어적 히드(예: '자주', '희귀하게')를 사용해 인과 연결의 강도와 신뢰도를 얼마나 정량화할 수 있는가?
• RQ3 베이지안 추론이 희소하거나 모호한 텍스트 데이터에서 인과 연결 강도에 대한 사후 분포를 효과적으로 학습할 수 있는가?
• RQ4 다양한 사전 분포와 그리드 해상도는 학습된 불확실성의 정확도와 해석 가능성에 어떤 영향을 미치는가?
• RQ5 실제 의료 텍스트, 예를 들어 폐암 인과성에서 일관되고 도메인에 타당한 불확실성 표현을 생성할 수 있는가?

주요 결과

• 시스템은 인과 관계를 확률 분포로 성공적으로 모델링하여, 점 추정치가 표현할 수 없는 불확실성 특성(예: 비대칭성, 첨도)을 반영한다.
• 합성 실험에서 부사의 일관성이 높을 경우 뾰족한 사후 분포를 학습하여 높은 신뢰도를 나타내었고, 데이터가 희소할 경우 넓은 분포를 학습하여 높은 불확실성을 반영하였다.
• 실제 폐암 도메인 실험에서 흡연이 폐암을 유발할 가능성이 매우 높다는 것을 정확히 추론하였으며(근접한 1), 직장 노동 환경 노출는 높은 불확실성을 보여, 의학적 직관과 일치하였다.
• 흡입된 라돈 가스가 폐암의 원인일 가능성에 대한 사후 분포는 높은 확률에 집중되어 있었으며, 알려진 의학적 증거와 일치하였다.
• 시스템은 간선 가중치가 인과 관계의 빈도와 부사의 의미적 강도를 모두 반영함을 보여주었으며, 간선의 크기는 관계 수에 비례하였다.
• 계산 비용은 인과 관계 수와 그리드 크기의 제곱에 비례하여 중간 규모의 텍스트 코퍼스에 대해 실현 가능하다.