[논문 리뷰] The Secret Lives of Names? Name Embeddings from Social Media

Junting Ye, Steven Skiena|arXiv (Cornell University)|2019. 05. 12.

Epigenetics and DNA Methylation참고 문헌 33인용 수 10

한 줄 요약

이 논문은 트위터 데이터를 기반으로 훈련된 공개 가능한 이름 임베딩을 제안하며, 성별, 민족, 국적 분류 작업에서 사적 이메일 기반 임베딩과 동등하거나 이를 초월하는 성능을 보임을 입증한다. 주요 기여는 트위터 이름 임베딩(www.name-prism.com)의 공개 및 기존의 전통적 인구통계적 특성에서 포착되지 않는 잠재적 사회경제적 및 민족 집단 차이를 반영하는 이름 임베딩이 수명 예측 모델의 성능을 향상시킬 수 있음을 입증한 데 있다.

ABSTRACT

Your name tells a lot about you: your gender, ethnicity and so on. It has been shown that name embeddings are more effective in representing names than traditional substring features. However, our previous name embedding model is trained on private email data and are not publicly accessible. In this paper, we explore learning name embeddings from public Twitter data. We argue that Twitter embeddings have two key advantages: extit{(i)} they can and will be publicly released to support research community. extit{(ii)} even with a smaller training corpus, Twitter embeddings achieve similar performances on multiple tasks comparing to email embeddings. As a test case to show the power of name embeddings, we investigate the modeling of lifespans. We find it interesting that adding name embeddings can further improve the performances of models using demographic features, which are traditionally used for lifespan modeling. Through residual analysis, we observe that fine-grained groups (potentially reflecting socioeconomic status) are the latent contributing factors encoded in name embeddings. These were previously hidden to demographic models, and may help to enhance the predictive power of a wide class of research studies.

연구 동기 및 목표

• 사적 이메일 기반 임베딩의 한계를 극복하기 위해 트위터 데이터를 활용한 공개 가능한 이름 임베딩 개발
• 트위터 이름 임베딩이 인구통계적 분류 작업에서 이메일 기반 임베딩과 동등하거나 뛰어난 성능을 보이는지 평가하기
• 기존의 전통적 인구통계적 변수를 초월해 이름 임베딩이 수명 예측 모델의 예측력을 향상시키는지 입증하기
• 잔차 분 析를 통해 이름 임베딩에 포함된 잠재적 사회경제적 및 민족 집단 간의 차이를 밝혀내기

제안 방법

• 공개된 트위터 데이터를 기반으로 비지도 학습 기법을 사용해 이름 임베딩을 훈련하고, 의사소통 패턴을 활용해 문화적 및 사회적 유사성(호모필리)을 포착하기
• 트위터 상호작용에서 유도된 여러 임베딩 변형 구축: 언급, 팔로워, 팔로잉 및 집계된 임베딩을 통해 다양한 사회망 신호 탐색하기
• 생년, 주, 성별, 민족, 국적 등의 인구통계적 특성과 이름 임베딩을 기반으로 수명 예측을 위한 선형 회귀 모델 사용하기
• 수명 예측 모델의 잔차 분 析를 수행해 이름 임베딩이 기여하는 설명되지 않은 분산을 식별하기
• 155개의 단축어/공식 이름 쌍과 20개의 빈도가 높은 성을 분석해 공식 이름 또는 특정 민족 성에 대한 편향 탐지하기
• 통계적 가설 검정(p < 0.01)을 적용해 이름 형식과 성에 대한 편향이 실제로 유의미한지 검증하기

실험 결과

연구 질문

• RQ1 트위터에서 유도된 이름 임베딩은 인구통계적 분류 작업에서 사적 이메일 기반 임베딩과 동등한 성능을 달성할 수 있는가?
• RQ2 이름 임베딩은 기존의 전통적 인구통계적 특성 외에 수명 예측 모델의 정확도를 향상시키는가?
• RQ3 표준 인구통계적 변수에서 포착되지 않는 이름 임베딩에 포함된 잠재적 사회경제적 또는 민족 집단 간의 차이는 무엇인가?
• RQ4 공식 이름보다 단축어 이름에 더 큰 수명 이득이 유리하게 작용하는 체계적 편향이 존재하는가? 이는 사회경제적 지위와 관련이 있는가?
• RQ5 이름 임베딩은 아슈케나지 유대계, 노르만계 등과 같은 세분화된 집단 정체성을 포착하여 더 긴 수명과 관련이 있는가?

주요 결과

• 트위터 이름 임베딩은 훈련 코퍼스가 더 작음에도 불구하고 성별, 민족, 국적 분류 작업에서 이메일 기반 임베딩과 유사한 성능을 보였다.
• 언급 임베딩은 성별 인식에서 이메일 임베딩을 초월했으며, 트위터 언급에서 성별 유사성이 더 강하게 나타남을 시사한다.
• 집계된 트위터 임베딩이 전체적으로 가장 우수한 성능을 보였고, 공개적으로 www.name-prism.com에서 제공된다.
• 모든 32개의 테스트 구성에서 이름 임베딩을 통합함으로써 수명 예측 모델의 성능이 향상되었으며, p-값 < 0.01로 통계적으로 유의미함을 확인했다.
• 잔차 분 析를 통해 이름 임베딩이 표준 인구통계적 특성에서 포착되지 않는 세분화된 사회경제적 차이, 예를 들어 공식 이름이나 아슈케나지 유대계 성에 대한 편향을 반영하고 있음을 밝혀냈다.
• 통계적 검정을 통해 공식 이름에 대한 유의미한 편향이 확인되었으며(p < 0.01), 이메일 임베딩을 사용할 경우 155개의 이름 쌍 중 74%가 공식 형태에서 더 높은 수명 이득을 보였고, 트위터 임베딩을 사용할 경우 60%에서 유사한 경향을 보였다.