[논문 리뷰] JPEG Steganalysis Based on DenseNet

Jianhua Yang, Yun-Qing Shi외 2명|arXiv (Cornell University)|2017. 11. 26.

Advanced Steganography and Watermarking Techniques참고 문헌 26인용 수 21

한 줄 요약

이 논문은 32층의 DenseNet 기반 CNN 아키텍처를 제안하여 밀도 있는 연결을 통해 특징 재사용을 향상시키고, 정보 흐름을 개선하며 파라미터를 감소시킨다. 또한 CNN-SCA-GFR라는 앙상블 방법을 도입하여 기존의 SCA-GFR와 CNN을 결합함으로써, 0.1 및 0.4 bpnzAC에서 각각 5.67% 및 4.41% 낮은 오차율을 기록하며 최신 기술 수준의 검출 정확도를 달성하였고, XuNet 대비 파라미터 수의 17%만을 사용한다.

ABSTRACT

Different from the conventional deep learning work based on an images content in computer vision, deep steganalysis is an art to detect the secret information embedded in an image via deep learning, pose challenge of detection weak information invisible hidden in a host image thus learning in a very low signal-to-noise (SNR) case. In this paper, we propose a 32- layer convolutional neural Networks (CNNs) in to improve the efficiency of preprocess and reuse the features by concatenating all features from the previous layers with the same feature- map size, thus improve the flow of information and gradient. The shared features and bottleneck layers further improve the feature propagation and reduce the CNN model parameters dramatically. Experimental results on the BOSSbase, BOWS2 and ImageNet datasets have showed that the proposed CNN architecture can improve the performance and enhance the robustness. To further boost the detection accuracy, an ensemble architecture called as CNN-SCA-GFR is proposed, CNN-SCA- GFR is also the first work to combine the CNN architecture and conventional method in the JPEG domain. Experiments show that it can further lower detection errors. Compared with the state-of-the-art method XuNet [1] on BOSSbase, the proposed CNN-SCA-GFR architecture can reduce detection error rate by 5.67% for 0.1 bpnzAC and by 4.41% for 0.4 bpnzAC while the number of training parameters in CNN is only 17% of what used by XuNet. It also decreases the detection errors from the conventional method SCA-GFR by 7.89% for 0.1 bpnzAC and 8.06% for 0.4 bpnzAC, respectively.

연구 동기 및 목표

• 딥 러닝을 활용하여 저SNR의 JPEG 이미지 내 스테가노그래픽 신호를 향상된 검출 성능으로 탐지하고자 한다.
• 밀도 있는 연결을 활용하여 CNN의 특징 재사용과 정보 흐름을 향상시켜 스테가노그래피 분석 성능을 개선하고자 한다.
• 성능을 저하시키지 않은 채 모델 복잡도와 파라미터를 감소시키고자 한다.
• 딥 러닝과 기존의 JPEG 스테가노그래피 분석 방법(SGA-GFR)을 통합하여 더 높은 내성과 정확도를 확보하고자 한다.
• 통합형 아키텍처를 사용한 엔드 투 엔드 딥 러닝을 통해 JPEG 스테가노그래피 분석 분야에 새로운 최신 기술 수준의 기준을 설정하고자 한다.

제안 방법

• 제안된 CNN는 32층의 구조를 가지며, 동일한 공간 크기의 이전 모든 레이어의 특징을 연결하여 특징 재사용과 기울기 흐름을 향상시킨다.
• 사전 처리 단계에서는 압축 해제된 JPEG 이미지의 고역통과 필터링 및 절단을 수행하여 스테고 관련 특징을 추출한다.
• 각 합성곱 레이어 이후 배치 정규화와 ReLU 활성화 함수를 적용하여 학습 안정성 향상과 수렴 속도 향상을 도모한다.
• 분류기는 완전 연결 레이어와 Softmax를 차용하여 커버/스테고 확률을 출력한다.
• 앙상블 방법인 CNN-SCA-GFR는 9개의 훈련된 CNN 모델(각각 160D 특징 출력)과 SCA-GFR(17,000D 특징)를 특징 연결 및 최종 확률 평균화를 통해 통합한다.
• 앙상블는 최종 Softmax 출력 뿐 아니라, CNN의 평균 풀링 레이어의 중간 특징을 활용하여 다양성과 정확도를 향상시킨다.

실험 결과

연구 질문

• RQ1 CNN에서의 밀도 있는 연결이 저SNR의 JPEG 스테가노그래피 분석에서 특징 전파와 검출 정확도 향상에 기여하는가?
• RQ2 딥 러닝과 기존의 스테가노그래피 분석 방법(SGA-GFR)을 융합한 하이브리드 앙상블이 단독으로 구동되는 딥 러닝 모델을 능가하는가?
• RQ3 XuNet과 같은 최신 기술 수준의 방법 대비 제안된 CNN의 파라미터 효율성과 성능은 어떠한가?
• RQ4 제안된 아키텍처는 BOSSbase, BOWS2, ImageNet과 같은 다양한 데이터셋에 대해 잘 일반화되는가?
• RQ5 CNN 프레임워크 내에서 선택 채널 인식 특징을 통합할 경우 스테가노그래피 분석의 내성은 더욱 향상되는가?

주요 결과

• 제안된 CNN-SCA-GFR 앙상블은 0.1 bpnzAC에서 XuNet 대비 5.67% 낮은 오차율을 기록하였고, 0.4 bpnzAC에서는 4.41% 낮은 오차율을 기록하였다.
• 기존의 SCA-GFR 대비 0.1 bpnzAC에서 7.89% 낮은 오차율을 기록하였고, 0.4 bpnzAC에서는 8.06% 낮은 오차율을 기록하였다.
• 제안된 CNN는 XuNet의 파라미터 수(5.48M)의 17%에 해당하는 0.88M의 파라미터만을 사용하여 모델 효율성을 크게 향상시켰다.
• BOWS2 데이터셋에서, 제안된 방법은 모든 페이로드 수준에서 XuNet과 SCA-GFR보다 낮은 오차율을 기록하여 내성의 우수성을 입증하였다.
• ImageNet에서 제안된 CNN는 0.4 bpnzAC에서 15.34%의 오차율을 기록하여 XuNet(22.28%)를 능가하였고, 대규모 데이터에서의 뛰어난 확장성도 입증하였다.
• ImageNet에서의 검증 오차 곡선을 분석한 결과, 제안된 CNN는 XuNet 대비 더 빠른 수렴 속도와 낮은 오차율을 보였다.