[논문 리뷰] Collective Semi-Supervised Learning for User Profiling in Social Media

Richard J. Oentaryo, Ee‐Peng Lim외 3명|arXiv (Cornell University)|2016. 06. 24.

Spam and Phishing Detection참고 문헌 26인용 수 4

한 줄 요약

이 논문은 사회적 관계(예: 팔로우, 재트윗 등)와 미라벨 데이터를 동시에 모델링하여 소셜 미디어에서 사용자 프로파일링을 향상시키는 새로운 프레임워크인 집단적 준지도 학습(CSL)을 제안한다. 마르코프 무작위 필드를 통해 관계 특징을 통합하고, CD 정규화를 적용한 볼록 최적화를 통해 레이블이 부족한 환경에서도 높은 정확도, 높은 내구성, 해석 가능성을 확보한 사용자 속성(예: 계정 유형, 결혼 상태 등) 추론을 실현한다.

ABSTRACT

The abundance of user-generated data in social media has incentivized the development of methods to infer the latent attributes of users, which are crucially useful for personalization, advertising and recommendation. However, the current user profiling approaches have limited success, due to the lack of a principled way to integrate different types of social relationships of a user, and the reliance on scarcely-available labeled data in building a prediction model. In this paper, we present a novel solution termed Collective Semi-Supervised Learning (CSL), which provides a principled means to integrate different types of social relationship and unlabeled data under a unified computational framework. The joint learning from multiple relationships and unlabeled data yields a computationally sound and accurate approach to model user attributes in social media. Extensive experiments using Twitter data have demonstrated the efficacy of our CSL approach in inferring user attributes such as account type and marital status. We also show how CSL can be used to determine important user features, and to make inference on a larger user population.

연구 동기 및 목표

• 단일 데이터 유형과 레이블이 부족한 데이터에 의존하는 기존 사용자 프로파일링 방법의 한계를 해결하기 위해.
• 다양한 사회적 관계와 대규모의 미라벨 데이터를 통합하는 통합적이고 계산적으로 타당한 프레임워크를 개발하기 위해.
• 계정 유형과 결혼 상태와 같은 잠재 사용자 속성의 예측 정확도와 내구성을 향상시키기 위해.
• 학습된 모델을 사용해 이전에 본 적 없는 대규모 사용자 집단에 대한 추론을 가능하게 하기 위해.
• 핵심 기여 특징과 관계 유형을 식별함으로써 모델의 해석 가능성을 제공하기 위해.

제안 방법

• 다양한 유형의 사회적 관계(예: 팔로우, 재트윗 등)를 통합된 표현 방식으로 모델링하기 위해 MRF 기반 특징을 구축한다.
• 사용자 간 연결과 콘텐츠에서 파생된 관계 특징을 활용해 입력 공간을 확장한다.
• 레이블이 있는 데이터와 없는 데이터를 대상으로 CD 정규화를 적용한 볼록 최적화를 통해 준지도 학습을 수행한다.
• 다양한 관계 유형과 미라벨 인스턴스를 동시에 최적화하는 통합 학습 프레임워크를 사용한다.
• 관계적 사전 지식을 통해 사용자 간의 종속성을 포착하는 구조적 예측 방식을 채택한다.
• 미라벨 데이터를 활용해 결정 경계를 정밀하게 조정함으로써 레이블 데이터를 초월한 일반화 능력을 향상시킨다.

실험 결과

연구 질문

• RQ1 다양한 유형의 사회적 관계를 효과적으로 통합하여 사용자 속성 추론을 향상시킬 수 있는가?
• RQ2 원칙적인 방식으로 미라벨 데이터를 활용하여 모델의 내구성과 정확도를 향상시킬 수 있는가?
• RQ3 제안된 방법은 더 큰, 이전에 본 적 없는 사용자 집단에 대해 어떻게 일반화되는가?
• RQ4 예측 성능에 가장 크게 기여하는 특징과 관계 유형은 무엇인가?
• RQ5 모델은 레이블이 없는 학습 데이터에 존재하지 않는 새로운 유형의 사용자를 식별하고 예측할 수 있는가?

주요 결과

• CSL은 조직 계정 예측에서 상위 100개 예측 중 90%의 정밀도를 기록했으며, 개인 계정 예측에서는 100%의 정밀도를 확보했고, 개인 계정에 대해 오류 없는 예측(거짓 양성 없음)을 달성했다.
• 결혼 상태 예측에서는 상위 60개 예측에서 92.31%의 정밀도를 기록했으며, 상위 100개 예측 중 33%가 정확히 결혼한 것으로 분류되었다.
• 미라벨된 SGTwitter 사용자 집단에 대한 예측 레이블 분포(개인 88%, 조직 12%)는 레이블이 있는 데이터보다 현저히 불균형했으며, 이는 실제 세계 분포로의 일반화 가능성을 시사한다.
• CSL은 레이블 학습 세트에 존재하지 않는 새로운 도메인 접미사(예: ".sg")를 가진 조직 계정을 성공적으로 예측하여, 분포 외 데이터에 대한 강건성을 입증했다.
• 정성적 분석 결과, 키워드 매칭이 없는 사용자에 대해서도 콘텐츠와 관계적 신호를 기반으로 결혼 상태를 정확히 추론한 것으로 나타났다.
• 모델는 예측에 가장 크게 기여한 특징과 관계 유형을 식별함으로써 예측의 해석 가능성을 입증했다.