[논문 리뷰] A Deep Multi-View Learning Framework for City Event Extraction from Twitter Data Streams

Nazli Farajidavar, Şefki Kolozali외 1명|arXiv (Cornell University)|2017. 05. 28.

Complex Network Analysis Techniques참고 문헌 25인용 수 7

한 줄 요약

이 논문은 실시간 트위터 스트림에서 다중 레이블 도시 이벤트를 추출하기 위해 CNN 특징과 CRF 기반 명명된 실체 인식(NER)을 결합한 딥 다중 시각 학습 프레임워크를 제안한다. 이 모델은 이벤트 클래스 간 평균 정확도 81%를 달성하며 공식 보고보다 최대 5시간 일찍 교통 혼잡을 탐지하여 스마트 시티의 실시간 도시 감지 및 의사결정 지원 잠재력을 입증한다.

ABSTRACT

Cities have been a thriving place for citizens over the centuries due to their complex infrastructure. The emergence of the Cyber-Physical-Social Systems (CPSS) and context-aware technologies boost a growing interest in analysing, extracting and eventually understanding city events which subsequently can be utilised to leverage the citizen observations of their cities. In this paper, we investigate the feasibility of using Twitter textual streams for extracting city events. We propose a hierarchical multi-view deep learning approach to contextualise citizen observations of various city systems and services. Our goal has been to build a flexible architecture that can learn representations useful for tasks, thus avoiding excessive task-specific feature engineering. We apply our approach on a real-world dataset consisting of event reports and tweets of over four months from San Francisco Bay Area dataset and additional datasets collected from London. The results of our evaluations show that our proposed solution outperforms the existing models and can be used for extracting city related events with an averaged accuracy of 81% over all classes. To further evaluate the impact of our Twitter event extraction model, we have used two sources of authorised reports through collecting road traffic disruptions data from Transport for London API, and parsing the Time Out London website for sociocultural events. The analysis showed that 49.5% of the Twitter traffic comments are reported approximately five hours prior to the authorities official records. Moreover, we discovered that amongst the scheduled sociocultural event topics; tweets reporting transportation, cultural and social events are 31.75% more likely to influence the distribution of the Twitter comments than sport, weather and crime topics.

연구 동기 및 목표

• 비공식적인 트위터 텍스트 스트림에서 도시 관련 이벤트를 탐지하기 위한 확장 가능하고 실시간 시스템을 개발하기 위해.
• 도시 이벤트 탐지 과정에서 제한된 레이블 데이터와 노이즈가 많은 짧은 소셜 미디어 텍스트 문제를 해결하기 위해.
• 트위터, 교통 센서, 이벤트 캘린더 등의 다중 데이터 소스를 통합하여 이벤트 탐지 정확도와 시기성 향상시키기 위해.
• 딥 러닝을 통해 작업에 특화된 표현을 학습함으로써 수동적 특징 공학의 의존도를 줄이기 위해.
• 공공 및 행정 사용을 위한 상호작용 가능한 웹 인터페이스를 통해 도시 이벤트를 거의 실시간으로 시각화하기 위해.

제안 방법

• 딥 신경망 특징과 CRF 기반 명명된 실체 인식(NER) 태그를 융합하는 계층적 다중 시각 딥 러닝 아키텍처를 사용한다.
• 그래픽 모델 기반의 다중 시각 학습 설정을 통해 동일한 입력의 상호보완적 시각(딥 뉴럴 특징과 사전 기반 NER 출력)을 통합한다.
• 다양한 시각의 분류 결과를 후기 융합하여 이벤트 위치 및 클래스 예측 정확도를 향상시킨다.
• 트위터 스트림 및 공식 도시 데이터(예: Transport for London API 및 Time Out London 웹사이트)의 실시간 수신을 위한 데이터 워퍼를 설계한다.
• Google 지도, 실시간 교통 레이어, 60초 지연으로 실시간 트윗 표시 기능을 갖춘 웹 기반 시각화 인터페이스를 구현한다.
• 60분 이내 시간 창 내에서 매 60초마다 분류된 트윗을 스트리밍하고 업데이트하는 CSV 기반 데이터 파이프라인을 활용한다.

실험 결과

연구 질문

• RQ1 심층 다중 시각 학습 프레임워크는 작업에 특화된 특징 공학 없이도 짧고 비공식적인 트위터 텍스트에서 다중 레이블 도시 이벤트를 효과적으로 추출할 수 있는가?
• RQ2 CNN 특징과 CRF 기반 NER의 통합은 단일 시각 접근법에 비해 이벤트 분류 성능을 어떻게 향상시키는가?
• RQ3 트위터 데이터는 공식 도시 보고서보다 교통 혼잡 및 사회문화적 이벤트에 대해 얼마나 일찍 예측할 수 있는가?
• RQ4 예정된 사회문화적 이벤트는 시민이 보고하는 이벤트의 분포와 시기성에 어떤 영향을 미치는가?
• RQ5 실시간 상호작용 웹 인터페이스는 소셜 미디어 및 센서 데이터를 활용해 도시 모니터링을 효과적으로 시각화하고 지원할 수 있는가?

주요 결과

• 제안된 다중 시각 딥 러닝 모델은 모든 이벤트 클래스에서 평균 F1 점수 81%를 달성하여 단일 시각 기반 베이스라인보다 5% 높은 성능을 보였다.
• 공식 보고보다 약 5시간 일찍 49.5%의 트위터 기반 교통 혼잡을 탐지하여 강력한 조기 경고 잠재력을 보였다.
• 사회문화적 이벤트는 시민 보고 패턴에 크게 영향을 미친다: 교통, 문화, 사회 이벤트에 대한 트윗은 스포츠, 날씨, 범죄 주제보다 교통 관련 댓글 분포에 31.75% 더 큰 영향을 미쳤다.
• 트위터 데이터와 공식 보고의 통합은 강력한 시간적 상관관계를 보여주어 소셜 미디어를 도시 모니터링의 보완 데이터 소스로 활용할 수 있음을 검증했다.
• 웹 인터페이스는 60초 미만의 지연으로 Google 지도에 이벤트 요약을 거의 실시간으로 시각화하여 공공 및 행정 참여를 지원했다.
• 모델은 샌프란시스코 만 지역과 글래스고 더 그레이터 런던 지역 등 지리적으로 다른 도시에서도 우수한 일반화 성능을 보여, 교차 도시 적용 가능성을 확인했다.