[논문 리뷰] $A^{4}NT$: Author Attribute Anonymity by Adversarial Training of Neural Machine Translation

Rakshith Shetty, Bernt Schiele외 1명|arXiv (Cornell University)|2017. 11. 06.

Authorship Attribution and Profiling참고 문헌 45인용 수 5

한 줄 요약

이 논문은 성별, 연령, 신원과 같은 저자 속성을 변형하여 대상 인구통계학적 작문 스타일을 모방하도록 하는 완전 자동, 엔드 투 엔드 신경망 A⁴NT를 제안한다. 이는 쌍화된 훈련 데이터가 필요 없이도 의미 그대로의 의미를 유지하면서도 속성 분류기를 속이는데 높은 성공률을 기록한다.

ABSTRACT

Text-based analysis methods allow to reveal privacy relevant author attributes such as gender, age and identify of the text's author. Such methods can compromise the privacy of an anonymous author even when the author tries to remove privacy sensitive content. In this paper, we propose an automatic method, called Adversarial Author Attribute Anonymity Neural Translation ($A^4NT$), to combat such text-based adversaries. We combine sequence-to-sequence language models used in machine translation and generative adversarial networks to obfuscate author attributes. Unlike machine translation techniques which need paired data, our method can be trained on unpaired corpora of text containing different authors. Importantly, we propose and evaluate techniques to impose constraints on our $A^4NT$ to preserve the semantics of the input text. $A^4NT$ learns to make minimal changes to the input text to successfully fool author attribute classifiers, while aiming to maintain the meaning of the input. We show through experiments on two different datasets and three settings that our proposed method is effective in fooling the author attribute classifiers and thereby improving the anonymity of authors.

연구 동기 및 목표

• 작문 스타일에서 성별, 연령 또는 신원을 추론할 수 있는 NLP 기반 저자 속성 분류기가 초래하는 프라이버시 위험을 해결하기 위해.
• 수작업 규칙이나 쌍화된 데이터에 의존하지 않고도 완전 자동으로 데이터 기반의 방법을 개발하여 저자 속성을 흐리게 하기 위해.
• 원본 텍스트의 의미적 내용을 유지하면서도 탐지 방지를 위해 최소한이지만 효과적인 스타일 변화를 가하기 위해.
• 다양한 속성과 예측 불가능한 분류기 아키텍처에 대한 일반화를 가능하게 하기 위해.

제안 방법

• 쌍화된 데이터 없이 스타일 전이를 위해 순서에서 순서로의 신경 기계 번역 모델이 핵심 아키텍처로 변형된다.
• 적대적 훈련이 적용되며, 생성자(A⁴NT)는 판별자(속성 분류기)가 출력을 대상 속성 클래스에 속한다고 잘못 분류하도록 훈련된다.
• 입력과 출력 텍스트 간의 의미 유사도를 유지하기 위해 재구성 가능성 손실이 도입된다.
• 생성자가 대상 클래스에서의 분류 오차와 재구성 손실을 모두 최소화하도록 GAN 유사 프레임워크를 사용해 엔드 투 엔드로 훈련된다.
• 세 가지 변형이 평가된다: CycML, CycML+Lang, 그리고 언어별 제약 조건을 적용한 변형으로 스타일 전이의 정확도를 향상시킨다.
• 시스템은 사용자가 원하는 균형을 설정할 수 있도록 프라이버시-의미 유사도 트레이드오프 곡선 상에서 작동한다.

실험 결과

연구 질문

• RQ1 쌍화된 훈련 데이터 없이도 완전히 엔드 투 엔드로 훈련 가능한 신경망이 성별, 연령, 신원과 같은 저자 속성을 효과적으로 익명화할 수 있는가?
• RQ2 적대적 훈련 프레임워크는 속성 분류기를 성공적으로 속일 뿐만 아니라 의미 그대로의 의미를 얼마나 잘 유지하는가?
• RQ3 모델은 예측 불가능한 분류기 아키텍처와 데이터셋으로 얼마나 잘 일반화되는가?
• RQ4 다양한 입력 난이도 수준에서 프라이버시 확보와 의미 유사도 간의 트레이드오프는 어떠한가?
• RQ5 강한 스타일적 차이를 보이는 정치 연설과 같은 도전적인 고위험 데이터에서 이 방법은 얼마나 효과적인가?

주요 결과

• A⁴NT 모델은 성별, 연령, 신원 세 가지 설정에서 모두 속성 분류기를 속이는 데 성공하여 예측 불가능한 모델에 대한 강력한 일반화 능력을 입증한다.
• 어려운 입력에서 A⁴NT는 평균적으로 속성 분류기 점수를 약 0.45 감소시켜 기준 모델보다 뚜렷이 뛰어난 성능을 보인다.
• CycML+Lang 변형이 가장 우수한 균형을 달성하여 모든 입력 난이도 수준에서 높은 METEOR 점수(의미 유사도)를 유지한다.
• 테스트 인스턴스의 90% 이상에서 긍정적인 프라이버시 이득을 기록했으며, 소수의 경우에만 프라이버시가 감소하는 결과를 보였다.
• 매우 스타일이 뚜렷한 정치 연설 데이터에서도 모델은 효과적으로 작동하지만, 이 경우 더 많은 의미적 수정이 필요하므로 프라이버시 확보와 의미 유지 간의 트레이드오프가 나타난다.