[논문 리뷰] TS-CNN: Text Steganalysis from Semantic Space Based on Convolutional Neural Network

Zhongliang Yang, Nan Wei외 3명|arXiv (Cornell University)|2018. 10. 18.

Advanced Steganography and Watermarking Techniques참고 문헌 25인용 수 20

한 줄 요약

이 논문은 스테고그래피 삽입 전후의 고수준 의미 공간에서의 미세한 분포 이탈을 분석함으로써 은닉 정보를 탐지하기 위해 컨볼루션 신경망을 활용하는 텍스트 스테고그래피 분석 방법인 TS-CNN을 제안한다. 이 모델은 새로 수집한 CT-Steg 데이터셋에서 거의 100%의 정밀도와 재현율을 달성했으며, 은닉 정보 용량을 70% 이상의 정확도로 추정할 수 있다.

ABSTRACT

Steganalysis has been an important research topic in cybersecurity that helps to identify covert attacks in public network. With the rapid development of natural language processing technology in the past two years, coverless steganography has been greatly developed. Previous text steganalysis methods have shown unsatisfactory results on this new steganography technique and remain an unsolved challenge. Different from all previous text steganalysis methods, in this paper, we propose a text steganalysis method(TS-CNN) based on semantic analysis, which uses convolutional neural network(CNN) to extract high-level semantic features of texts, and finds the subtle distribution differences in the semantic space before and after embedding the secret information. To train and test the proposed model, we collected and released a large text steganalysis(CT-Steg) dataset, which contains a total number of 216,000 texts with various lengths and various embedding rates. Experimental results show that the proposed model can achieve nearly 100\% precision and recall, outperforms all the previous methods. Furthermore, the proposed model can even estimate the capacity of the hidden information inside. These results strongly support that using the subtle changes in the semantic space before and after embedding the secret information to conduct text steganalysis is feasible and effective.

연구 동기 및 목표

• 기존의 통계적 스테고그래피 분석 방법으로는 탐지하기 어려운 자연어에서의 커버리스 스테고그래피 증가 문제에 대응한다.
• 텍스트 내에서 스테고그래피 삽입으로 인한 미세한 의미 분포 이탈을 식별함으로써 스테고그래피 콘텐츠를 탐지하는 딥러닝 기반 접근법을 개발한다.
• 다양한 길이와 삽입 비율을 가진 총 216,000개의 텍스트를 포함하는 대규모 공개 데이터셋(CT-Steg)을 구축하여 강력한 훈련과 평가를 지원한다.
• 스테고그래피 텍스트의 탐지뿐 아니라, 내장된 은닉 정보 용량의 추정도 가능하게 한다.

제안 방법

• 수동적인 특징 공학 없이도 입력 텍스트에서 고수준 의미 특징을 자동으로 추출하기 위해 컨볼루션 신경망(CNN)을 활용한다.
• 추출된 의미 특징을 고차원 의미 공간에 매핑하여 분포 분석을 수행한다.
• 커버텍스트와 스테고텍스트 간의 의미 공간 분포에서 미세한 통계적 차이를 식별함으로써 스테고그래피를 탐지한다.
• t-SNE 시각화를 적용하여 의미 공간 내에서 삽입 비율에 따라 텍스트가 군집화됨을 확인함으로써 탐지 가능한 분포 이탈을 입증한다.
• 삽입 비율이 0%에서 25%까지 다양하게 포함된 CT-Steg 데이터셋을 기반으로 모델을 훈련하고 평가한다.
• 국소적이고 전역적인 의미 변화를 모두 포착하기 위해 다중 척도 특징 추출 전략(TS-CNN (Multi))과 글로벌 의미 모델링 변형(TS-CNN (Single))을 구현한다.

실험 결과

연구 질문

• RQ1 수동으로 설계된 언어학적 특징에 의존하지 않고도 깊이 있는 의미 표현 학습이 텍스트 내 스테고그래피 콘텐츠를 효과적으로 탐지할 수 있는가?
• RQ2 자연어 텍스트에서 은닉 정보 삽입 수준이 다양해질수록 의미 공간 분포는 어떻게 변화하는가?
• RQ3 커버리스 스테고그래피의 맥락에서 깊이 있는 학습 모델이 높은 정밀도와 재현율로 스테고그래피 텍스트를 탐지할 수 있는가?
• RQ4 의미 공간 분포 패턴을 바탕으로 모델이 은닉 정보의 삽입 비율을 추정할 수 있는가?
• RQ5 제안된 방법은 다양한 텍스트 길이와 의미적 구조에 대해 강건한가?

주요 결과

• TS-CNN는 CT-Steg 데이터셋에서 거의 100%의 정밀도와 재현율을 달성하여 이전의 모든 텍스트 스테고그래피 분석 방법을 크게 능가한다.
• 낮은 삽입 비율에서도 스테고그래피 삽입으로 인한 고차원 의미 공간 내 의미 분포의 미세한 이탈을 성공적으로 탐지한다.
• t-SNE 시각화 결과, 동일한 삽입 비율을 가진 스테고텍스트들이 의미 공간 내에서 서로 뭉쳐 군집화되어 있으며, 삽입 비율이 높아질수록 커버텍스트와 명확히 분리됨을 확인할 수 있다.
• 모델은 은닉 정보 용량을 70% 이상의 정확도로 추정할 수 있으며, 이는 이전의 어떤 연구에서도 구현되지 않은 능력이다.
• TS-CNN (Multi)는 문장 수준의 의미 특징에 집중하는 반면, TS-CNN (Single)는 문장 간의 통일성에 중점을 두며, 둘 다 탐지 성능 향상에 기여한다.
• 결과적으로 의미 공간 분포의 차이가 현대의 커버리스 스테고그래피에서 신뢰할 수 있고 효과적인 신호임을 검증한다.