[논문 리뷰] Provably Secure Generative Linguistic Steganography

Siyu Zhang, Zhongliang Yang외 2명|arXiv (Cornell University)|2021. 06. 03.

Advanced Steganography and Watermarking Techniques참고 문헌 30인용 수 7

한 줄 요약

이 논문은 사전에 훈련된 언어 모델의 확률을 기반으로 토큰의 적응형 동적 그룹화를 사용하여 비밀 데이터를 텍스트에 삽입하는 증명 가능하게 안전한 생성형 언어 스테가노그래피 방법 ADG를 제안한다. 이 방법은 통계적으로 자연어와 구분되지 않도록 보장하여 거의 완벽한 미감지성과 높은 삽입 용량을 달성하며, 수학적 증명을 통한 보안성과 세 개의 문체 코퍼스에서의 강력한 실험 결과를 확보한다.

ABSTRACT

Generative linguistic steganography mainly utilized language models and applied steganographic sampling (stegosampling) to generate high-security steganographic text (stegotext). However, previous methods generally lead to statistical differences between the conditional probability distributions of stegotext and natural text, which brings about security risks. In this paper, to further ensure security, we present a novel provably secure generative linguistic steganographic method ADG, which recursively embeds secret information by Adaptive Dynamic Grouping of tokens according to their probability given by an off-the-shelf language model. We not only prove the security of ADG mathematically, but also conduct extensive experiments on three public corpora to further verify its imperceptibility. The experimental results reveal that the proposed method is able to generate stegotext with nearly perfect security.

연구 동기 및 목표

• 기존 생성형 언어 스테가노그래피 방법에서 언어 모델의 확률 분포에 통계적 왜곡을 유도하는 보안 취약점을 해결하기 위해.
• 스테고텍스트가 자연어와 통계적으로 구분되지 않도록 보장하여 통계적 스테가노그래피 분석에 저항하도록 하기 위해.
• 유창성과 미감지성을 유지하면서도 높은 삽입 용량을 달성하기 위해.
• 제안된 방법의 보안성을 정보 이론 기준에 따라 수학적으로 증명하기 위해.
• 다양한 공개 텍스트 코퍼스에서 미감지성, 삽입 용량, 스테가노그래피 분석에 대한 저항성 측면에서 방법의 성능을 경험적으로 검증하기 위해.

제안 방법

• ADG는 사전에 훈련된 언어 모델의 조건부 확률을 기반으로 각 생성 단계에서 토큰의 적응형 동적 그룹화를 사용한다.
• 비밀 정보는 언어 모델의 전체 확률 분포를 유지할 수 있도록 그룹화된 토큰 집합에서 선택하여 삽입한다.
• 토큰의 확률에 따라 그룹화를 동적으로 조정하여 자연어와의 통계적 이탈을 최소화한다.
• 삽입 과정은 정보 이론적 분석을 사용하여 수학적으로 보장되며, 언어 모델 기반으로 스테고텍스트 분포가 자연어와 구분되지 않음을 보여준다.
• 추출 과정은 결정적이고 손실이 없는 방식으로, 그룹화 전략과 언어 모델에 대한 공통 지식에 의존한다.
• 미세조정 없이 기존 사전 훈련된 언어 모델을 활용하여 호환성과 효율성을 확보한다.

실험 결과

연구 질문

• RQ1 통계적 스테가노그래피 분석에 대해 수학적으로 증명 가능한 보안성을 갖춘 생성형 언어 스테가노그래피 방법을 개발할 수 있는가?
• RQ2 언어 모델의 확률에 기반한 토큰의 적응형 동적 그룹화가 스테고텍스트의 통계적 왜곡을 줄이는가?
• RQ3 유창성이나 미감지성을 훼손하지 않으면서도 높은 삽입 용량을 달성할 수 있는가?
• RQ4 KLD, 탐지 정확도, 효율적 삽입 비율 측면에서 제안된 방법은 기존 베이스라인과 어떻게 비교되는가?
• RQ5 다양한 코퍼스에서 스테고텍스트는 자연어와 통계적으로 구분되지 않는가?

주요 결과

• ADG는 언어 모델의 자연 분포에 비해 극도로 낮은 KLD1 값을 확보하여 최소한의 왜곡을 보여준다.
• KLD2 결과는 스테고텍스트가 자연어와 통계적으로 일관됨을 확인하여 강력한 정보 이론 기반 보안성을 입증한다.
• 모든 코퍼스에서 스테가노그래피 분석 모델의 탐지 정확도가 거의 0.5에 가까워, 높은 미감지성을 나타낸다.
• ADG의 효율적 삽입 비율(EER)은 모든 베이스라인보다 유의미하게 높아, 보안성을 유지하면서도 강력한 용량을 확보함을 보여준다.
• 표 5의 정성적 예시는 생성된 스테고텍스트가 자연스럽고 문법적으로 올바르며 의미적으로 일관됨을 확인한다.
• ADG는 삽입 용량과 미감지성 측면에서 모든 베이스라인을 압도하며, EER 및 KLD 지표에서 종합적인 성능 우위를 확보한다.