[논문 리뷰] Learning to Protect Communications with Adversarial Neural Cryptography

Martı́n Abadi, David G. Andersen|arXiv (Cornell University)|2016. 10. 21.

Adversarial Robustness in Machine Learning참고 문헌 19인용 수 119

한 줄 요약

이 논문은 신경망(Alice, Bob, Eve)을 엔드투엔드로 학습시켜 암호화 및 정보를 선택적으로 보호하는 것을 적대적 목표를 통해 배우되, 미리 정의된 암호 알고리즘 없이 수행합니다.

ABSTRACT

We ask whether neural networks can learn to use secret keys to protect information from other neural networks. Specifically, we focus on ensuring confidentiality properties in a multiagent system, and we specify those properties in terms of an adversary. Thus, a system may consist of neural networks named Alice and Bob, and we aim to limit what a third neural network named Eve learns from eavesdropping on the communication between Alice and Bob. We do not prescribe specific cryptographic algorithms to these neural networks; instead, we train end-to-end, adversarially. We demonstrate that the neural networks can learn how to perform forms of encryption and decryption, and also how to apply these operations selectively in order to meet confidentiality goals.

연구 동기 및 목표

• 신경망이 적대적 관찰자에게서 통신을 보호하는 방법을 학습할 수 있는지 조사한다.
• 신경망이 학습한 암호화 및 복호화를 이끄는 엔드-투-엔드 학습을 입증한다.
• 데이터의 특정 측면만 보호하는 선택적 정보 보호를 탐구한다.
• 신경망 설정에서 학습된 암호시스템을 전통적 암호학적 보장과 비교한다.

제안 방법

• 공유 키를 사용하는 대칭 암호화를 위한 세 네트워크 시스템(Alice, Bob, Eve)을 제안한다.
• Eve가 평문 재구성을 최소화하고, Alice/Bob이 보안 통신을 최대화하는 목적을 형식화한다.
• L1 기반 재구성 손실과 Eve의 이점을 차감하는 복합 Alice/Bob 목표를 정의한다.
• 평문과 키의 학습된 혼합을 허용하는 mix & transform 신경망 구조를 사용하고 이어서 합성곱 층을 배치한다.
• Alice/Bob과 Eve 사이를 적대적이고 교대적으로 학습하는 SGD(Adam)으로 학습한다.
• Eve를 여러 차례 재학습시키고 Bob이 낮은 재구성 오차를 유지하는지, Eve가 무작위 추측에 근접하지 않는지 평가하여 강건성을 평가한다.

실험 결과

연구 질문

• RQ1 신경망이 손으로 만든 알고리즘 없이 암호화 및 복호화 스킴을 발견할 수 있는가?
• RQ2 그들이 특정 구성요소를 추론할 수 없게 하면서 유용성을 보존하도록 선택적으로 암호화하도록 학습할 수 있는가?
• RQ3 학습된 암호시스템은 적대자 재학습에 얼마나 강건한가?
• RQ4 엔드투엔드 적대적 학습에서 나타나는 암호화 패턴의 특징은 무엇인가?

주요 결과

• 신경망은 암호화 및 복호화의 형태를 학습하고, 기밀성 목표를 달성하기 위해 이러한 연산을 선택적으로 적용할 수 있다.
• 학습된 암호시스템은 비밀키와 평문에 의존하며, 암호문은 단순 XOR가 아니라 다수의 출력 요소에 걸쳐 확산(diffusion)된다.
• 적대적 학습은 Bob의 재구성 정확도를 낮추고 Eve의 재구성 오차를 무작위 추측 쪽으로 높일 수 있지만 매 실행마다 성공을 보장하지는 않는다.
• 학습 역학은 진화적 과정에 비유되며 불안정할 수 있다; 성공률은 미니배치 크기 같은 하이퍼파라미터에 따라 다르다.
• 선택적 보호 실험은 엔드투엔드 학습을 통해 데이터의 특정 구성요소를 숨기고 다른 구성요소에 대한 유용한 누출을 허용하는 것이 가능함을 보여준다.