[논문 리뷰] SAVITR: A System for Real-time Location Extraction from Microblogs during Emergencies

Ritam Dutt, Kaustubh Hiware외 2명|arXiv (Cornell University)|2018. 01. 23.

Public Relations and Crisis Communication참고 문헌 8인용 수 7

한 줄 요약

SAVITR는 비정형 영어 마이크로블로그(트윗)에서 비상 상황 중에 비지도 학습 자연어 처리를 사용하여 지리적 위치를 실시간으로 추출하는 시스템으로, F-스코어 0.79를 기록하고 기존 도구보다 두 배 빠른 처리 속도를 확보하여 비상 모니터링을 위한 확장 가능한 배포가 가능하도록 라이브 웹 인터페이스를 제공한다.

ABSTRACT

We present SAVITR, a system that leverages the information posted on the Twitter microblogging site to monitor and analyse emergency situations. Given that only a very small percentage of microblogs are geo-tagged, it is essential for such a system to extract locations from the text of the microblogs. We employ natural language processing techniques to infer the locations mentioned in the microblog text, in an unsupervised fashion and display it on a map-based interface. The system is designed for efficient performance, achieving an F-score of 0.79, and is approximately two orders of magnitude faster than other available tools for location extraction.

연구 동기 및 목표

• 인도에서 지도 태깅된 트윗 비율이 0.36%에 불과한 점을 감안해 비상 상황 중 트윗 텍스트에서 위치를 유추함으로써 이의 부족을 보완하고자 한다.
• 시간 민감도가 높은 비상 상황에 적합한 실시간 위치 추출을 위한 빠르고 비지도 학습 기반의 방법을 개발하고자 한다.
• 지도 태깅 데이터를 초월해 커버리지와 정확도를 향상시켜 특히 표현이 부족한 지역의 위치 추출을 개선하고자 한다.
• 위기 상황 시 상황 인식을 위해 유추된 위치를 지도에 시각화하는 확장 가능하고 상호작용 가능한 시스템을 구축하고자 한다.
• 질병 유행과 같은 새로운 비상 상황을 조기에 경고할 수 있는 도구로서의 시스템의 유용성을 입증하고자 한다.

제안 방법

• 지도 태깅 필드에 의존하지 않고 트윗 텍스트에서 위치 언급어를 추출하기 위해 비지도 학습 기반 자연어 처리를 사용한다.
• GeoNames를 활용한 지명사전 기반의 룩업을 통해 추출된 어휘를 유효한 지리적 실체와 매칭한다.
• 일치 정확도 향상을 위해 명사구 추출 및 정규화 등의 텍스트 전처리를 수행한다.
• 동음이의어 및 겹치는 지명을 처리하기 위해 규칙 기반의 의미 해소 전략을 통합한다.
• 실시간 상호작용 지도 시각화를 위해 Dash 프레임워크와 Mapbox를 통합한다.
• 고속 트윗 스트림을 저지연으로 처리할 수 있도록 경량화되고 확장 가능한 아키텍처를 설계한다.

실험 결과

연구 질문

• RQ1 비지도 학습 기반 자연어 처리 기법이 비상 상황 중 비정형 마이크로블로그 텍스트에서 지리적 위치를 효과적으로 추출할 수 있는가?
• RQ2 제안된 방법의 성능은 기존 위치 추출 도구와 비교해 F-스코어, 재현율, 정밀도 측면에서 어떻게 다른가?
• RQ3 지도 태깅 데이터의 한계를 초월해 위치 커버리지를 얼마나 향상시킬 수 있는가?
• RQ4 시스템의 실시간 처리 효율성은 어떠한가? 실시간 배포에 적합한가?
• RQ5 시스템은 질병 유행과 같은 새로운 비상 상황을 조기에 경고하는 데 기여할 수 있는가?

주요 결과

• 제안된 방법은 트윗에서 위치 추출 시 정밀도와 재현율 측면에서 베이스라인 방법을 모두 능가하며 F-스코어 0.79를 기록했다.
• 시스템은 데이터셋의 약 26.15% 커버리지를 확보하여 총 239,276건의 트윗 중 68,793건에서 위치를 유추했으며, 이는 지도 태깅 기반 기준 0.36% 대비 뚜렷한 향상이다.
• 기존 도구보다 약 두 배 빠른 속도로 트윗을 처리하여 실시간 비상 모니터링에 적합한 성능을 확보했다.
• OpenStreetMap 기반 방법은 공통 어휘를 지명으로 과도하게 분류하면서도 가장 높은 재현율(85.7%)을 기록했지만 정밀도는 가장 낮은 44.4%를 기록했다.
• 2017년 뎅기 열 유행 기간 동안 SAVITR는 총 2,204건의 트윗에서 케랄라를 언급했으며, 이 중 88.92%는 '뎅기'라는 단어도 포함하고 있어 조기 경고 잠재력이 높음을 입증했다.
• 시스템은 인도의 주요 도시뿐 아니라 가트코파르, 검투르, 히피라 마을 등 원거리 또는 특수한 지역까지도 성공적으로 식별했다.