[논문 리뷰] Enhancing Quantum Adversarial Robustness by Randomized Encodings

Weiyuan Gong, Dong Yuan외 2명|arXiv (Cornell University)|2022. 12. 05.

Advancements in Semiconductor Devices and Circuit Design인용 수 5

한 줄 요약

이 논문은 랜덤화된 유니타리 또는 양자 오류 정정(QEC) 인코더를 사용하여 양자 분류기의 적대적 공격에 대비한 방어 전략을 제안한다. 랜덤 유니타리 인코더가 적대적 변분 양자 회로에서 쇠잔 평원(바렌 플레이트오우)을 유도하여 적대적 편향을 지수적으로 억제함을 증명하며, 연결된 QEC 인코더는 양자 미분 보안성의 향상으로 인해 강건성을 높여, 오직 O(log log n) 수준의 오류 정정으로도 적대적 위험을 지수적으로 억제함을 보장한다.

ABSTRACT

The interplay between quantum physics and machine learning gives rise to the emergent frontier of quantum machine learning, where advanced quantum learning models may outperform their classical counterparts in solving certain challenging problems. However, quantum learning systems are vulnerable to adversarial attacks: adding tiny carefully-crafted perturbations on legitimate input samples can cause misclassifications. To address this issue, we propose a general scheme to protect quantum learning systems from adversarial attacks by randomly encoding the legitimate data samples through unitary or quantum error correction encoders. In particular, we rigorously prove that both global and local random unitary encoders lead to exponentially vanishing gradients (i.e. barren plateaus) for any variational quantum circuits that aim to add adversarial perturbations, independent of the input data and the inner structures of adversarial circuits and quantum classifiers. In addition, we prove a rigorous bound on the vulnerability of quantum classifiers under local unitary adversarial attacks. We show that random black-box quantum error correction encoders can protect quantum classifiers against local adversarial noises and their robustness increases as we concatenate error correction codes. To quantify the robustness enhancement, we adapt quantum differential privacy as a measure of the prediction stability for quantum classifiers. Our results establish versatile defense strategies for quantum classifiers against adversarial perturbations, which provide valuable guidance to enhance the reliability and security for both near-term and future quantum learning technologies.

연구 동기 및 목표

• 근접한 NISQ 장치에서 양자 분류기의 적대적 공격에 대한 취약성을 해결하기 위해.
• 양자 머신 러닝에서의 적대적 편향에 대비한 일반적이고 증명 가능한 안전한 방어 메커니즘을 개발하기 위해.
• 예측의 안정성 측도로 양자 미분 보안성(QDP)을 사용하여 강건성을 정량화하기 위해.
• 랜덤 유니타리 인코더와 블랙박스 양자 오류 정정(QEC) 인코더가 적대적 위험 억제에 얼마나 효과적인지 조사하기 위해.
• 국소 유니타리 및 일반적인 적대적 노이즈 모델 하에서 적대적 강건성의 이론적 한계를 설정하기 위해.

제안 방법

• 입력 데이터를 분류하기 전에 2-디자인을 이루는 랜덤 유니타리 인코더를 사용하여 데이터를 인코딩함으로써 적대적 최적화를 방해한다.
• 이러한 인코더가 입력이나 회로 구조와 무관하게 어떤 적대적 변분 양자 회로에서도 기하급수적으로 감소하는 기울기(쇠잔 평원)를 유도함을 증명한다.
• 예측의 안정성을 측정하기 위해 양자 미분 보안성(QDP)을 사용하며, ε-QDP를 공식적인 강건성 지표로 활용한다.
• 국소 적대적 노이즈를 완화하기 위해 연결된 양자 오류 정정(QEC) 코드를 블랙박스 인코더로 적용한다.
• 적대적 공격을 받는 분류기에서 ε(O(1/√n))-QDP를 달성하기 위해 O(log log n) 수준의 QEC가 충분함을 보여주는 경계를 유도한다.
• NISQ 장치에서 클러스터드-아이징 해밀토니안의 위상적 위상을 분류하기 위한 수치 시뮬레이션을 수행하여 접근법의 타당성을 검증한다.

실험 결과

연구 질문

• RQ1 랜덤 유니타리 인코더는 변분 양자 회로에서 적대적 편향을 일반적으로 억제할 수 있는가?
• RQ2 국소 유니타리 공격 하에서 양자 분류기의 적대적 위험에 대한 이론적 경계는 무엇인가?
• RQ3 블랙박스 양자 오류 정정 인코더는 국소 적대적 노이즈에 대해 강건성을 향상시킬 수 있는가?
• RQ4 양자 분류기에서 ε(O(1/√n))-QDP를 달성하기 위해 QEC의 몇 단계가 필요한가?
• RQ5 제안된 방어 전략은 악성 적대적 노이즈 상황에서도 효과를 유지하며 NISQ 장치에서 실행 가능할까?

주요 결과

• 2-디자인을 이루는 랜덤 유니타리 인코더는 적대적 변분 양자 회로에서 기하급수적으로 감소하는 기울기(쇠잔 평원)를 유도하여 효과적인 적대적 공격 생성을 방지한다.
• 국소 유니타리 공격 하에서 양자 분류기의 적대적 위험은 경계되어 있으며, 충분한 랜덤 인코딩으로 이 경계를 임의로 작게 만들 수 있다.
• 블랙박스 양자 오류 정정 인코더는 양자 미분 보안성을 향상시켜 적대적 위험을 감소시키며, 코드 연결에 따라 강건성이 증가한다.
• 적대적 공격을 받는 양자 분류기에서 ε(O(1/√n))-QDP를 보장하기 위해 오직 O(log log n) 수준의 QEC가 필요하며, 이는 고확률 강건성을 보장한다.
• 수치 시뮬레이션은 이 방어 전략이 클러스터드-아이징 해밀토니안의 위상적 위상을 분류하기 위해 NISQ 장치에서 실행 가능하고 효과적임을 확인한다.
• 제안된 방어 전략은 일반적이며 근접한 양자 학습 시스템과 미래의 고장내성 양자 학습 시스템 모두에 적용 가능하며 강력한 이론적 보장을 제공한다.