[논문 리뷰] Learning with Algorithmic Supervision via Continuous Relaxations

Felix Petersen, Christian Borgelt외 2명|arXiv (Cornell University)|2021. 10. 11.

Machine Learning in Healthcare참고 문헌 41인용 수 5

한 줄 요약

이 논문은 로지스틱 편향과 기대값 근사화를 통해 이산 알고리즘 구성요소—조건문, 반복문, 인덱싱 등—을 연속적으로 근사화함으로써 종단간 미분 가능한 신경망을 위한 일반적 프레임워크를 제안한다. 이 방법은 알고리즘 감독 하에서 효과적인 학습을 가능하게 하여, 정렬 및 레벤슈타인 거리 작업에서 최신 기준 성능을 초월하면서도, 최단경로 및 실루엣 감독 작업에서도 경쟁 가능한 성능을 유지한다.

ABSTRACT

The integration of algorithmic components into neural architectures has gained increased attention recently, as it allows training neural networks with new forms of supervision such as ordering constraints or silhouettes instead of using ground truth labels. Many approaches in the field focus on the continuous relaxation of a specific task and show promising results in this context. But the focus on single tasks also limits the applicability of the proposed concepts to a narrow range of applications. In this work, we build on those ideas to propose an approach that allows to integrate algorithms into end-to-end trainable neural network architectures based on a general approximation of discrete conditions. To this end, we relax these conditions in control structures such as conditional statements, loops, and indexing, so that resulting algorithms are smoothly differentiable. To obtain meaningful gradients, each relevant variable is perturbed via logistic distributions and the expectation value under this perturbation is approximated. We evaluate the proposed continuous relaxation model on four challenging tasks and show that it can keep up with relaxations specifically designed for each individual task.

연구 동기 및 목표

• 이산 알고리즘 구성요소를 미분 가능하게 하여 알고리즘 감독 하에서 종단간 신경망 학습을 가능하게 하기.
• 조건문, 반복문, 인덱싱과 같은 이산 제어 구조에서의 기울기 추정 문제 해결하기.
• 정렬, 최단경로 계산, 미분 가능한 렌더링 등 다양한 알고리즘 감독 작업을 하나의 연속적 근사 프레임워크로 통합하기.
• 이 프레임워크의 효과성을 정렬, 경로 탐색, 시퀀스 정렬 등 다양한 알고리즘 작업에 대해 입증하기, 특히 레벤슈타인 거리 감독과 같은 신규 응용 분야 포함.
• 특수 작업에 맞춘 근사화(예: 미분 가능한 정렬, 렌더링)의 대안으로서 확장 가능하고 일반적인 솔루션 제공하기.

제안 방법

• 접근 시점에 변수에 로지스틱 편향을 적용하여 이산 알고리즘 구성요소를 연속적으로 근사화함으로써 부드러운 기울기를 가능하게 하기.
• 조건문 블록 이후 계산 경로 병합을 통한 복잡도 감소와 함께, 중첩된 조건문의 정확한 기대값 계산 유지하기.
• 로지스틱 편향 하에서 폐쇄형 기대값 근사화를 통한 기울기 추정으로 몬테카를로 샘플링 방지하기.
• 모든 경로 조합을 추적할 필요 없이 접근 시점에 변수의 편향을 독립적으로 모델링하기.
• 백프로파게이션을 통해 유연한 알고리즘 논리에 대한 유연한 통합을 통한 신경 아키텍처 통합하기.
• 연속적 근사의 매끄러움을 제어하기 위해 역온도 β를 사용하며, 학습 시 β = 9를 사용한다.

실험 결과

연구 질문

• RQ1 일반적인 목적의 연속적 근사 프레임워크가 특수 작업에 맞춘 근사화를 넘어서 다양한 알고리즘 감독 작업을 효과적으로 처리할 수 있는가?
• RQ2 성능 및 학습 안정성 측면에서 최신의 연속적 근사화와 비교해 본다면, 제안된 방법은 어떠한가?
• RQ3 이 프레임워크는 동적 프로그래밍이나 최단경로 계산과 같은 복잡한 중첩된 알고리즘 논리도 성공적으로 처리할 수 있는가?
• RQ4 경로 병합 전략은 대규모 알고리즘 실행에서 계산 오버헤드를 줄이면서도 정확도를 유지하는가?
• RQ5 특수 아키텍처 재설계 없이도 레벤슈타인 거리 감독과 같은 새로운 알고리즘 감독 작업에 일반화 가능한가?

주요 결과

• EMNIST 문자열 분류 작업에서 ℓ1 거리 기반 베이스라인을 초월하여, OX 조합에서 Top-1 정확도 96.0%를 달성하고, 도전적인 IL 조합에서는 57.0%를 기록했다.
• 레벤슈타인 거리 감독 작업에서, 네 글자 조합(ACGT 및 OSXL)에서 Top-1 정확도 84.7%를 달성하여 베이스라인을 크게 앞서갔다.
• 최단경로 감독 및 실루엣 감독 작업에서도 경쟁 가능한 성능 유지를 하여, 최신 기준 성능과 유사하거나 略로 뛰어났다.
• 최단경로 알고리즘 및 미분 가능한 렌더러와 같은 복잡한 알고리즘도 성공적으로 근사화하여 광범위한 적용 가능성을 입증했다.
• 로지스틱 편향 하에서 폐쇄형 기대값 근사화를 사용함으로써 몬테카를로 샘플링 없이도 효율적인 학습이 가능해져 계산 비용을 감소시켰다.