[논문 리뷰] Towards Robust Data Hiding Against (JPEG) Compression: A Pseudo-Differentiable Deep Learning Approach

Chaoning Zhang, Adil Karjauv외 2명|arXiv (Cornell University)|2020. 12. 30.

Advanced Steganography and Watermarking Techniques참고 문헌 19인용 수 11

한 줄 요약

이 논문은 JPEG, JPEG2000, WebP 및 MPEG, XVID와 같은 비손실 압축 기반 비디오 코덱을 포함한 손실 압축에 강건한 데이터 은닉 모델의 엔드 투 엔드 훈련을 가능하게 하는 의사미분 가능 딥러닝 프레임워크를 제안한다. 비차별적 압축 연산을 통해 역전파하지 않고도 기울기 흐름을 가능하게 하는 차별적 의사노이즈 경로를 도입함으로써, 화이트박스 지식이나 복잡한 압축 단계 모의를 요구하지 않으면서도 여러 압축 표준에서 최신 기술 수준의 비트 오류율(BER) 성능을 달성한다.

ABSTRACT

Data hiding is one widely used approach for protecting authentication and ownership. Most multimedia content like images and videos are transmitted or saved in the compressed form. This kind of lossy compression, such as JPEG, can destroy the hidden data, which raises the need of robust data hiding. It is still an open challenge to achieve the goal of data hiding that can be against these compressions. Recently, deep learning has shown large success in data hiding, while non-differentiability of JPEG makes it challenging to train a deep pipeline for improving robustness against lossy compression. The existing SOTA approaches replace the non-differentiable parts with differentiable modules that perform similar operations. Multiple limitations exist: (a) large engineering effort; (b) requiring a white-box knowledge of compression attacks; (c) only works for simple compression like JPEG. In this work, we propose a simple yet effective approach to address all the above limitations at once. Beyond JPEG, our approach has been shown to improve robustness against various image and video lossy compression algorithms.

연구 동기 및 목표

• JPEG와 같은 비차별적 손실 압축 하에서 데이터 은닉을 위한 딥러닝 모델을 훈련하는 데 도전하는 것.
• JPEG에 대한 엔지니어링 중심의 압축 전용 차별적 근사치가 필요 없도록 하는 것.
• JPEG2000, WebP 및 비디오 코덱을 포함한 다양한 손실 압축 표준에 대해 강건한 데이터 은닉을 가능하게 하되, 압축 과정의 화이트박스 지식이 필요하지 않도록 하는 것.
• 비차별적 압축을 블랙박스로 간주하는 통합형, 즉시 사용 가능한 방법을 개발하여 새로운 또는 복잡한 압축 알고리즘에의 적응을 단순화하는 것.

제안 방법

• 정방향 전파 동안 압축 이미지 경로를 통해 기울기 계산이 가능하도록, 노이즈의 효과를 모방하는 의사노이즈 경로를 도입한다.
• 역전파 동안 기울기는 압축 이미지 경로에서만 계산되며, 비차별적 JPEG 연산을 건너뛰므로 엔드 투 엔드 훈련이 가능해진다.
• 정방향 전파에는 압축 이미지에 의사노이즈를 추가하고 제거하는 과정이 포함되며, 이는 출력 값에 영향을 주지 않지만 노이즈 경로를 통해 기울기 흐름을 가능하게 한다.
• 모든 비차별적 압축 연산을 블랙박스로 간주하며, 내부 메커니즘의 역공학적 분석이 필요 없이 정방향 실행만으로도 작동한다.
• 표준 역전파를 사용하여 엔드 투 엔드로 프레임워크를 훈련하며, 핵심 혁신은 기울기 흐름을 압축 연산에서 분리하는 것이다.
• 이 방법은 아키텍처 변경 없이 JPEG, JPEG2000, WebP, MPEG, XVID 등에 일반화하여 적용 가능하다.

실험 결과

연구 질문

• RQ1 JPEG와 같이 비차별적 압축 연산이 존재할 때 딥러닝 기반 데이터 은닉 모델을 엔드 투 엔드로 훈련할 수 있는가?
• RQ2 JPEG2000 및 WebP와 같은 다양한 손실 압축 표준에 대해, 복잡한 압축 전용 차별적 근사치가 필요 없이 단일 훈련 프레임워크로 강건한 성능을 달성할 수 있는가?
• RQ3 기존의 JPEG 압축을 차별적 함수로 근사하는 데 의존하는 방법보다 의사미분 접근법이 성능 면에서 뛰어나게 되는가?
• RQ4 제안된 방법은 아키텍처 수정 없이 MPEG 및 XVID와 같은 비디오 압축 코덱으로 확장 가능한가?
• RQ5 JPEG, JPEG2000, WebP 및 비디오 코덱을 동시에 고려한 여러 압축 유형에 대해 강건한 모델을 훈련시킬 수 있는가?

주요 결과

• 제안된 방법은 JPEG-90에서 BER 12.00%를 달성하여 이전 최신 기술 수준 방법(13.81%)을 능가하며, 모든 품질 요소에서 오류율을 크게 감소시켰다.
• JPEG2000에서는 품질 요소 900에서 BER 0.03%를 기록하여 고압축 수준에서도 강건함을 입증했다.
• WebP에서는 품질 요소 90에서 BER 12.14%를 기록하여 다양한 이미지 압축 형식에서 일관된 성능을 보였다.
• 비디오 압축에서는 MPEG4에서 BER 8.45%, XVID에서 13.59%를 기록하여 랜덤 추측(50%)보다 유의미하게 뛰어난 성능을 보였다.
• 여러 압축 유형을 동시에 고려해 훈련했을 때도, 평균 픽셀 차이가 8.54/255로 낮은 왜곡을 유지하여 비밀 정보와 복원된 이미지 간의 유사도가 높았다.
• 이 방법은 화이트박스 접근이나 복잡한 압축 모의가 필요 없이, JPEG2000 및 WebP를 포함한 여러 손실 압축 표준에서 엔드 투 엔드로 강건한 데이터 은닉을 처음으로 구현했다.