[논문 리뷰] Interpreting Deep Learning: The Machine Learning Rorschach Test?

Adam S. Charles|arXiv (Cornell University)|2018. 06. 01.

Advanced Statistical Modeling Techniques참고 문헌 90인용 수 8

한 줄 요약

이 논문은 딥 뉴럴 네트워크(DNNs)의 해석 가능성에 대해 '기계 학습 루르샤흐 테스트'로 간주하는 방식으로 접근한다. 여기서 모델의 행동은 주관적인 해석을 겪는다. DNNs의 경험적 성공에도 불구하고 그 내부 메커니즘은 일반화, 적대적 로버스트니, 최적화의 역할 등 여전히 잘 이해되지 않으며, 실용적 성능와 이론적 통찰 사이에 중요한 격차가 존재한다고 주장한다.

ABSTRACT

Theoretical understanding of deep learning is one of the most important tasks facing the statistics and machine learning communities. While deep neural networks (DNNs) originated as engineering methods and models of biological networks in neuroscience and psychology, they have quickly become a centerpiece of the machine learning toolbox. Unfortunately, DNN adoption powered by recent successes combined with the open-source nature of the machine learning community, has outpaced our theoretical understanding. We cannot reliably identify when and why DNNs will make mistakes. In some applications like text translation these mistakes may be comical and provide for fun fodder in research talks, a single error can be very costly in tasks like medical imaging. As we utilize DNNs in increasingly sensitive applications, a better understanding of their properties is thus imperative. Recent advances in DNN theory are numerous and include many different sources of intuition, such as learning theory, sparse signal analysis, physics, chemistry, and psychology. An interesting pattern begins to emerge in the breadth of possible interpretations. The seemingly limitless approaches are mostly constrained by the lens with which the mathematical operations are viewed. Ultimately, the interpretation of DNNs appears to mimic a type of Rorschach test --- a psychological test wherein subjects interpret a series of seemingly ambiguous ink-blots. Validation for DNN theory requires a convergence of the literature. We must distinguish between universal results that are invariant to the analysis perspective and those that are specific to a particular network configuration. Simultaneously we must deal with the fact that many standard statistical tools for quantifying generalization or empirically assessing important network features are difficult to apply to DNNs.

연구 동기 및 목표

• 딥 뉴럴 네트워크(DNNs)의 경험적 성공과 그 행동에 대한 이론적 이해 부족 사이의 근본적 갈등을 분석하기 위해.
• DNNs가 높은 용량과 과도한 파rameter화에도 불구하고 잘 일반화되는 이유를 탐구하기 위해, 이는 고전적 일반화 이론에 어긋나는 현상이다.
• 작은, 눈에 띄지 않는 변형이 큰 예측 오차를 일으키는 적대적 예제에 대한 DNNs의 취약성을 탐색하기 위해.
• 고차원적이고 비볼록인 손실 곡면에서 최적화 역학과 학습 알고리즘의 역할이 DNN 행동에 어떻게 영향을 주는지 고려하기 위해.
• 현재 이론적 프레임워크가 DNN 성능, 로버스트니, 고장 모드를 신뢰성 있게 설명하거나 예측할 수 있는지 평가하기 위해.

제안 방법

• 통계적 학습 이론, 함수 근사, 최적화 곡면 분석 등 기존 DNN 이론적 접근을 검토한다.
• 기저 추적 제거(BPDN)와 같은 반복 최적화 알고리즘과 DNN 간의 연결을 분석하여, DNNs가 가중치 공유와 비선형성 설계를 통해 프록시 알고리즘을 구현할 수 있음을 보여준다.
• 비선형성과 가중치 초기화의 역할을 분석하여, DNNs가 복잡한 함수를 근사하는 데 어떻게 기여하는지, 희박 코딩과 압축 측정과의 유사성을 도출한다.
• 프록시 투영 프레임워크를 사용하여 DNNs가 LASSO와 같은 정규화된 최적화 문제를 반복적이고 계층 기반 계산을 통해 어떻게 해답을 복구할 수 있는지 수학적으로 기술한다.
• 가중치 공유와 잔여 연결이 반복 알고리즘의 효율적 근사화를 가능하게 하는 잠재적 영향을 고려한다.
• 최근 DNN 일반화 이해의 진전을 검토하며, 정보 버블론 이론과 SGD에서의 암묵적 정규화의 역할을 다룬다.

실험 결과

연구 질문

• RQ1 왜 DNNs는 높은 용량과 과도한 파rameter화에도 불구하고 잘 일반화되는가?
• RQ2 DNNs가 BPDN이나 LASSO와 같은 알려진 최적화 알고리즘을 어느 정도로 구현할 수 있는가?
• RQ3 DNNs의 아키텍처 선택(예: 비선형성, 깊이, 가중치 공유)은 희박 코딩이나 압축 측정 문제의 해법과 어떻게 관련되는가?
• RQ4 왜 DNNs는 적대적 예제에 매우 취약한가, 그리고 이는 내부 결정 메커니즘에 대해 무엇을 드러내는가?
• RQ5 현재 이론적 프레임워크는 DNN 행동, 특히 로버스트니와 일반화를 안정적으로 예측하거나 설명할 수 있는가?

주요 결과

• DNNs는 기저 추적 제거(BPDN)와 같은 반복 최적화 알고리즘을 구현하는 것으로 볼 수 있으며, 각 계층이 프록시 알고리즘의 단계에 해당한다.
• 특정 비선형성과 가중치 공유를 갖춘 DNNs가 정규화된 최적화 문제를 해결할 수 있음을 프록시 연산자를 통해 수학적으로 공식화하였다.
• 이러한 이론적 연결이 있음에도 불구하고, DNNs의 일반화와 로버스트니는 여전히 고차원적이고 비볼록적인 환경에서 잘 이해되지 않는다.
• 적대적 예제는 DNNs의 근본적인 취약성을 드러내며, 눈에 띄지 않는 작은 입력 변형이 큰 예측 오차를 일으킬 수 있음을 보여주며, 신뢰할 수 있는 내부 표현의 개념을 도전한다.
• 정보 버블론 이론과 SGD에서의 암묵적 정규화와 같은 이론적 프레임워크는 부분적인 설명을 제공하지만, DNN 행동에 대한 완전한 이해에는 부족하다.
• 이 논문은 DNNs가 '기계 학습 루르샤흐 테스트'로 작용한다고 결론 내리며, 그 해석 가능성은 관찰자의 이론적 렌즈에 크게 의존한다. 이는 더 강력하고 통합된 이론이 필요하다는 점을 강조한다.