[논문 리뷰] Civique: Using Social Media to Detect Urban Emergencies

Diptesh Kanojia, Vishwajeet Kumar외 1명|arXiv (Cornell University)|2016. 10. 14.

Public Relations and Crisis Communication참고 문헌 7인용 수 3

한 줄 요약

Civique는 자연어 처리와 기계 학습을 사용하여 지리적 태그가 부여된 트위터 게시물을 분석함으로써 화재, 사고, 지진과 같은 도시 긴급 상황을 실시간으로 탐지하는 시스템입니다. 이 시스템은 90% 이상의 F-스코어로 트윗을 긴급 상황 카테고리로 분류하고, 웹 및 안드로이드 인터페이스를 통해 사용자와 관계 기관에 알림을 전송하며, 지도에 사고를 시각화합니다.

ABSTRACT

We present the Civique system for emergency detection in urban areas by monitoring micro blogs like Tweets. The system detects emergency related events, and classifies them into appropriate categories like "fire", "accident", "earthquake", etc. We demonstrate our ideas by classifying Twitter posts in real time, visualizing the ongoing event on a map interface and alerting users with options to contact relevant authorities, both online and offline. We evaluate our classifiers for both the steps, i.e., emergency detection and categorization, and obtain F-scores exceeding 70% and 90%, respectively. We demonstrate Civique using a web interface and on an Android application, in realtime, and show its use for both tweet detection and visualization.

연구 동기 및 목표

• 소셜 미디어, 특히 트위터를 통해 실시간으로 도시 긴급 상황을 탐지하는 시스템을 개발하여 더 빠른 긴급 대응을 지원하는 것.
• 자연어 처리와 기계 학습을 사용해 지리적 태그가 부여된 트윗을 화재, 사고, 지진 등의 특정 긴급 상황 카테고리로 분류하는 것.
• 검출된 긴급 상황을 상호작용 가능한 지도에 시각화하고 웹 및 모바일 인터페이스를 통해 사용자와 관계 기관에 알림을 전송하는 것.
• 소셜 미디어에서의 긴급 상황 탐지 과정에서의 도전 과제—비공식어, 오류 경고, 사용자 신뢰성 등을 해결하는 것.
• 네트워크 장애 발생 시에도 대응이 가능하도록 도시 기관에 대한 온라인 및 오프라인 연락 방법을 제공하는 것.

제안 방법

• 시스템은 트위터 스트림 API를 사용해 실시간 트위터 스트림을 수신하고, 사전 정의된 긴급 상황 관련 키워드 목록에 기반해 트윗을 필터링합니다.
• 텍스트 정제 파이프라인은 노이즈(예: 해시태그, URL, 과도한标점)를 제거하고, 규칙 기반 및 자연어 처리 기법을 사용해 철자 오류와 슬랭을 정규화합니다.
• 시스템은 두 단계 분류 모델을 사용합니다. 첫 번째 단계는 트윗이 긴급 상황과 관련이 있는지 탐지하고, 두 번째 단계는 화재, 사고, 지진 등의 특정 유형으로 분류합니다.
• 분류를 위해 단어, 두 단어 조합, 세 단어 조합, 품사 태그, 명명된 실체 인식 등의 특징 엔지니어링을 수행하고, 나이브 베이즈 및 서포트 벡터 머신 모델을 평가합니다.
• 청결한 트윗에서 시간과 장소의 시공간 데이터를 추출하고, 실시간 상황 인식을 위해 Google Maps 인터페이스에 시각화합니다.
• 사용자는 웹 및 안드로이드 앱을 통해 알림을 수신하며, 검출된 사건 유형에 따라 온라인 연락처와 오프라인 번호를 포함한 링크가 내장된 연락 정보가 제공됩니다.

실험 결과

연구 질문

• RQ1 지리적 태그가 부여된 트위터 게시물의 실시간 분석이 화재, 사고, 지진과 같은 도시 긴급 상황을 효과적으로 탐지할 수 있는가?
• RQ2 두 단계 기계 학습 파이프라인은 긴급 상황 관련 트윗을 특정 카테고리로 분류하는 데 얼마나 정확한가?
• RQ3 자연어 처리 기법은 소셜 미디어 게시물의 비공식어, 철자 오류, 슬랭을 얼마나 잘 처리하여 신뢰할 수 있는 긴급 상황 탐지에 기여하는가?
• RQ4 사용자 및 콘텐츠 검증을 통해 시스템은 오류 경고를 얼마나 효과적으로 줄이고 신뢰할 수 있는 알림을 보장하는가?
• RQ5 웹 및 모바일 인터페이스의 조합은 사용자에게 적시 알림을 제공하고 관련 긴급 기관과의 연락을 얼마나 효과적으로 지원하는가?

주요 결과

• 긴급 상황 탐지 분류기는 F-스코어가 70%를 초과하여 긴급 상황 관련 트윗을 식별하는 데 강력한 성능을 보였습니다.
• 분류 카테고리 분류기는 F-스코어가 90% 이상을 기록하여 화재나 사고와 같은 특정 유형의 검출된 긴급 상황에 대해 높은 정확도를 보였습니다.
• 시스템은 실시간으로 지도 인터페이스에 긴급 상황을 성공적으로 시각화하여 현재 발생 중인 사고의 공간적 인식을 가능하게 했습니다.
• 웹 및 안드로이드 애플리케이션을 통해 알림이 생성되고 전달되었으며, 관련 기관에 대한 온라인 및 오프라인 연락처 정보가 포함되었습니다.
• 워드 클라우드 분석을 통해 모델이 '화재', '지진', '사고', '응답'과 같은 의미적으로 관련된 긴급 상황 키워드로 훈련된 것을 확인할 수 있었습니다.
• 텍스트 정제와 기계 학습의 조합을 통해 시스템은 비공식어를 효과적으로 처리했으며, 노이즈를 줄이되 탐지 정확도를 손상시키지 않았습니다.