[논문 리뷰] Learning Model Bias

Jonathan Baxter|arXiv (Cornell University)|2019. 11. 14.

Machine Learning and Algorithms참고 문헌 5인용 수 24

한 줄 요약

이 논문은 여러 관련 작업을 통해 훈련함으로써 도메인 특화된 편향을 자동으로 학습하는 방법을 제안하며, 더 많은 작업을 통해 일반화 성능이 크게 향상됨을 보여준다. 핵심 이론적 결과는 좋은 일반화를 위해 필요한 작업당 예제 수가 $O(a + \frac{b}{n})$로 스케일링됨을 보여주며, 여기서 $n$은 작업 수이며, 이는 작업 간 공유되는 표현 학습이 샘플 복잡도를 감소시킴을 나타낸다.

ABSTRACT

In this paper the problem of {\em learning} appropriate domain-specific bias is addressed. It is shown that this can be achieved by learning many related tasks from the same domain, and a theorem is given bounding the number tasks that must be learnt. A corollary of the theorem is that if the tasks are known to possess a common {\em internal representation} or {\em preprocessing} then the number of examples required per task for good generalisation when learning $n$ tasks simultaneously scales like $O(a + \frac{b}{n})$, where $O(a)$ is a bound on the minimum number of examples required to learn a single task, and $O(a + b)$ is a bound on the number of examples required to learn each task independently. An experiment providing strong qualitative support for the theoretical results is reported.

연구 동기 및 목표

• 기계 학습에서 수동적으로 편향을 설계하는 데 도전하는 것 — 이는 전문 지식과 이식 가능성의 한계에 빗나가기 때문이다.
• 공유 환경 내에서 여러 관련 작업으로부터 자동으로 편향을 학습하기 위한 형식적 프레임워크를 개발하는 것.
• 여러 관련 작업을 학습함으로써 공유되며 일반화 가능한 표현을 발견할 수 있으며, 이는 작업 간 일반화 성능을 향상시킴을 보여주는 것.
• 여러 작업을 동시에 학습할 때 작업당 필요한 예제 수에 대한 이론적 경계를 도출하는 것.

제안 방법

• 학습 환경을 쌍 $({\cal P}, Q)$로 모델링하며, $\cal P$는 작업의 집합이고 $Q$는 그들에 대한 분포이다.
• 공유 표현 네트워크 $f$와 작업별 출력 네트워크 $g_i$를 갖는 신경망 아키텍처를 사용하여 여러 작업을 동시에 학습한다.
• 작업 $n$개에 대한 경험적 오차를 $\hat{E}^*(\cal H, D_1, \dots, D_n) = \frac{1}{n} \sum_{i=1}^n \inf_{h \in \cal H} \hat{E}(h, D_i)$로 정의하고, 가설 공간 전체에서 이를 최소화한다.
• 일반화 오차를 두 가지 지표로 측정한다: $E^n$은 $n$개의 훈련 작업에 대한 것이고, $E^*(\cal H, Q)$는 환경에서 샘플링된 새로운 작업에 대한 것이다.
• 백프로파게이션 알고리즘을 사용하여 $n$개의 훈련 세트 $D_1, \dots, D_n$에 대해 네트워크를 훈련하며, 각각은 $Q$에서 추출된 작업 $P_i$에서 샘플링된다.
• 훈련 후 공유 표현 네트워크 $f$를 추출하고, 환경 내 모든 함수에 대해 성능을 평가하여 진짜 오차 $E^*(\cal H, Q)$를 측정한다.

실험 결과

연구 질문

• RQ1 전문가가 제공하는 힌트에 의존하는 대신, 여러 관련 작업에서 자동으로 편향을 학습할 수 있는가?
• RQ2 작업 수 $n$이 좋은 일반화를 위해 필요한 작업당 예제 수에 어떤 영향을 미치는가?
• RQ3 여러 작업을 학습하면 동일한 환경 내 새로운 작업에 잘 일반화되는 공유 표현이 도출되는가?
• RQ4 여러 작업을 동시에 학습할 때 샘플 복잡도에 대해 유도할 수 있는 이론적 경계는 무엇인가?

주요 결과

• 좋은 일반화를 위해 필요한 작업당 예제 수는 $O(a + \frac{b}{n})$로 스케일링되며, 여기서 $a$는 단일 작업에 필요한 최소 예제 수이고 $b$는 작업별 복잡도를 캡처한다.
• 13개의 작업을 학습했을 때, 표현 네트워크는 각 작업당 31개의 예제로 모든 대칭 부울 함수에서 완벽한 일반화를 달성했다.
• $n=1$일 경우, 표현은 대칭성을 포착하지 못했고, 2개, 3개, 또는 4개의 1을 가진 입력을 구분하지 못해 편향 학습이 열악했다.
• $n=5$일 경우, 표현은 입력의 1의 개수에 따라 입력을 분리하기 시작했으며, 더 많은 작업을 통해 점진적인 향상이 이루어짐을 보였다.
• 공유 표현의 진짜 오차 $E^*(\cal H, Q)$는 $n$이 증가함에 따라 단조 감소했으며, 이는 이론적 예측을 확인하는 데 성공했다.
• 실험은 여러 작업에서 학습된 표현이 새로운 작업으로 잘 일반화됨을 확인했으며, 새로운 학습 작업에 대한 샘플 부담을 줄임을 보여주었다.