[논문 리뷰] Counterfactual Explanations & Adversarial Examples - Common Grounds, Essential Differences, and Potential Transfers.

Timo Freiesleben|arXiv (Cornell University)|2020. 09. 11.

Adversarial Robustness in Machine Learning참고 문헌 16인용 수 10

한 줄 요약

이 논문은 반사적 설명(CEs)과 적대적 예제(AEs) 사이의 개념적 및 수학적 연결을 수립하며, 둘 다 동일한 최적화 문제에서 유래함을 보여준다. 타당성 있는 CEs와 도전적인 CEs의 구분을 도입하여, AEs가 도전적인 CEs의 특정 부분집합임을 증명함으로써, CEs가 더 광범위한 개념적·실용적 함의를 지닌 더 일반적인 프레임워크임을 위치한다.

ABSTRACT

The same optimization problem underlies counterfactual explanations (CEs) and adversarial examples (AEs). While this is well known, the relationship between the two at the conceptual level remains unclear. The present paper provides exactly the missing conceptual link. We compare CEs and AEs with respect to their philosophical basis, aims, and modeling techniques. We argue that CEs are a more general object-class than AEs. In particular, we introduce the conceptual distinction between feasible and contesting CEs and show that AEs correspond to the latter.

연구 동기 및 목표

• 반사적 설명(CEs)과 적대적 예제(AEs) 사이의 개념적 관계를 명확히 하며, 둘 다 동일한 최적화 문제에서 유래하지만 개념적으로 분리되어 있다는 점을 다루는 것.
• CEs와 AEs 사이의 철학적, 목적 기반, 모델링적 차이를 식별하고 체계화하는 것.
• CEs가 더 일반적인 설명의 클래스이며, AEs가 특정하고 제한적인 하위집합임을 보여주는 것.
• 타당성 있는 CEs와 도전적인 CEs의 구분을 도입하고, 적대적 예제를 이해하는 데 새로운 개념적 시각을 제공하는 것.

제안 방법

• CEs와 AEs가 공유하는 최적화 문제를 통합된 수학적 프레임워크로 체계화하는 것.
• 타당성 있는 CEs—실제 세계 맥락에서 현실적이고 실행 가능한 반사적 설명—개념을 도입하는 것.
• 최소한의 변형으로 모델의 결정에 도전하는 CEs를 '도전적인 CEs'로 정의하여, 적대적 예제와 일치시키는 것.
• 이 분류를 통해 AEs가 최소화되고 눈에 띄지 않는 변형을 갖는 도전적인 CEs의 특수한 경우임을 보여주는 것.
• CEs와 AEs의 철학적 기초를 분석하고, 그 목적을 대조하는 것: 해석 가능성 대 모델의 강건성.
• CEs가 AEs를 특정한 제약 조건을 갖는 하위클래스로 포함하는 개념적 계층을 수립하는 것.

실험 결과

연구 질문

• RQ1 공통된 최적화 기반을 공유하고도, 반사적 설명과 적대적 예제 사이의 개념적 관계는 무엇인가?
• RQ2 동일한 수학적 문제에서 유도되더라도, CEs와 AEs의 철학적 목적과 모델링 목표는 어떻게 다를까?
• RQ3 타당성 있는 CEs와 도전적인 CEs의 구분이 적대적 예제를 이해하는 데 왜 필수적인가?
• RQ4 어떤 방식으로 적대적 예제가 반사적 설명의 특수한 경우인가?
• RQ5 CEs의 통찰이 기계 학습 모델의 강건성을 향상시키는 데 기여할 수 있는가, 또는 그 반대의 경우일까?

주요 결과

• 반사적 설명은 적대적 예제보다 더 일반적인 클래스이며, AEs는 최소화되고 눈에 띄지 않는 변형을 갖는 특정 부분집합으로 정의된다.
• 타당성 있는 CEs와 도전적인 CEs의 구분은, 적대적 예제가 실질적으로 실행 불가능한 극단적인 반사적 설명임을 설명하는 개념적 프레임워크를 제공한다.
• 적대적 예제는 실생활 맥락에서 타당하지 않은 도전적인 CEs에 정확히 해당되며, 이는 실용적인 해석 가능성 부족을 강조한다.
• 공통된 최적화 문제로 CEs와 AEs를 통합할 수 있지만, 그 개념적 역할은 크게 다릅니다: CEs는 해석 가능성과 실행 가능성에 초점이 맞춰져 있는 반면, AEs는 모델의 취약성에 초점이 맞춰져 있습니다.
• 이 논문은 AEs가 수학적 형태로는 CEs와 본질적으로 다를 바가 없지만, 실용적이고 철학적 의도에서 근본적으로 다름을 수립한다.