[논문 리뷰] Graph-Stega: Semantic Controllable Steganographic Text Generation Guided by Knowledge Graph

Zhongliang Yang, Baitao Gong외 4명|arXiv (Cornell University)|2020. 06. 02.

Advanced Steganography and Watermarking Techniques참고 문헌 32인용 수 8

한 줄 요약

이 논문은 기존의 단어 수준의 확률 부호화에 의존하는 기존 텍스트 스테가노그래피 방법의 한계를 해결하기 위해 지식 그래프(KG)를 활용하여 스테가노그래픽 문장 생성을 안내하는 새로운 텍스트 생성 스테가노그래피 방법인 Graph-Stega를 제안한다. 이 방법은 비밀 데이터를 단어 수준의 확률 부호화가 아닌 지식 그래프 경로를 통해 인코딩함으로써 고임베딩 비율에서도 높은 품질의 의미적으로 제어 가능한 스테가노그래픽 텍스트를 보장한다. 이는 텍스트 품질과 의미적 관련성 측면에서 기존 방법들을 능가한다.

ABSTRACT

Most of the existing text generative steganographic methods are based on coding the conditional probability distribution of each word during the generation process, and then selecting specific words according to the secret information, so as to achieve information hiding. Such methods have their limitations which may bring potential security risks. Firstly, with the increase of embedding rate, these models will choose words with lower conditional probability, which will reduce the quality of the generated steganographic texts; secondly, they can not control the semantic expression of the final generated steganographic text. This paper proposes a new text generative steganography method which is quietly different from the existing models. We use a Knowledge Graph (KG) to guide the generation of steganographic sentences. On the one hand, we hide the secret information by coding the path in the knowledge graph, but not the conditional probability of each generated word; on the other hand, we can control the semantic expression of the generated steganographic text to a certain extent. The experimental results show that the proposed model can guarantee both the quality of the generated text and its semantic expression, which is a supplement and improvement to the current text generation steganography.

연구 동기 및 목표

• 고임베딩 비율에서 품질이 떨어지는 조건부 확률 부호화에 의존하는 기존 텍스트 스테가노그래피 방법의 한계를 해결한다.
• 기존 생성 기반 스테가노그래피 모델에서의 의미적 제어 부족 문제를 해결하여 탐지 위험을 감소시킨다.
• 임베딩 비율에 관계없이 높은 품질의 출력과 의미적 일관성을 유지하는 스테가노그래픽 프레임워크를 개발한다.
• 의미적 경로를 통해 비밀 정보를 인코딩하는 지식 그래프 가이드드 접근 방식을 도입함으로써 보안성과 강건성을 향상시킨다.

제안 방법

• 기존의 '언어 모델 + 조건부 확률 부호화' 프레임워크를 대체하여 지식 그래프에 기반한 생성 메커니즘을 도입하고, 비밀 데이터를 지식 그래프 내 경로를 통해 인코딩한다.
• 의미적 일관성을 유지하면서도 고정 또는 가변적인 수의 노드를 의미 체인에 사용하여 임베딩 비율을 제어한다.
• 선택된 경로를 따라 지식 그래프를 탐색함으로써 높은 확률을 가지며 자연스러운 언어 토큰을 사용하는 스테가노그래픽 문장을 생성한다.
• 표준 NLP 메트릭(BLEU, METEOR, CIDEr, ROUGE-L)과 퍼플렉서티를 활용하여 의미적 관련성과 텍스트 품질을 평가한다.
• 다양한 임베딩 비율에서 탐지 저항성을 테스트하기 위해 이전 연구에서 제안된 스테가노그래피 분석 모델을 적용한다.
• 특정 노드를 지식 그래프 하위그래프에서 고정시켜 의미적 표현을 제어함으로써 임베딩 용량을 희생시키지 않은 채 타겟팅된 생성을 가능하게 한다.

실험 결과

연구 질문

• RQ1 지식 그래프 기반 접근 방식은 낮은 확률의 단어 선택에 의존하지 않고도 고임베딩 비율에서도 높은 품질의 스테가노그래픽 텍스트 생성을 유지할 수 있는가?
• RQ2 지식 그래프 하위그래프를 활용할 경우 생성된 스테가노그래픽 문장의 의미적 내용을 어느 정도 제어할 수 있는가?
• RQ3 다양한 임베딩 비율에서 생성된 스테가노그래픽 문장과 입력 지식 그래프 하위그래프 간의 의미적 유사도는 어떻게 변화하는가?
• RQ4 제안된 방법은 기존의 신경망 기반 스테가노그래피 방법보다 더 강력한 스테가노그래피 분석에 대한 저항성을 보이는가?

주요 결과

• 2.49 비트/단어(bpw)의 임베딩 비율에서 모델은 BLEU-1 점수 0.365, METEOR 0.224, ROUGE-L 0.460를 기록하여 기준 텍스트와 강한 의미적 일치를 보였다.
• 2.49 bpw에서 생성된 스테가노그래픽 문장의 퍼플렉서티(186.05)는 훈련 문장의 퍼플렉서티(164.53)와 유사하여 고임베딩 비율에서도 높은 텍스트 품질을 유지함을 확인했다.
• 다양한 임베딩 비율에서 의미적 관련성 메트릭이 안정적으로 유지되었으며, 미미한 변동만을 보여, 다양한 조건에서도 일관된 성능을 발휘했다.
• 2.49 bpw에서 스테가노그래피 분석 모델의 F1 점수는 0.775를 기록하여 탐지에 대한 중간 수준의 저항성을 보였으며, 기준 방법 대비 향상된 보안성을 시사했다.
• 이 방법은 의미적 제어를 임베딩 비율에서 분리하여 성공적으로 구현하였으며, 특정 노드를 지식 그래프에서 고정함으로써 콘텐츠를 안내하면서도 높은 품질의 출력을 유지할 수 있었다.