[논문 리뷰] Gradual Tuning: a better way of Fine Tuning the parameters of a Deep Neural Network

Guglielmo Montone, J. Kevin Ο’Regan외 1명|arXiv (Cornell University)|2017. 11. 28.

Neural Networks and Applications참고 문헌 4인용 수 5

한 줄 요약

이 논문은 전이 학습 중에 치명적인 잊음 현상을 크게 줄이고 새로운 작업에서 성능을 유지하거나 향상시키면서, 출력에서 역순으로 네트워크 계층을 점진적으로 업데이트하는 Gradual Tuning이라는 파인튜닝 방법을 소개한다. 표준 파인튜닝과 달리 급격한 파rameter 업데이트를 방지함으로써 초기 작업의 특징을 더 잘 유지한다.

ABSTRACT

In this paper we present an alternative strategy for fine-tuning the parameters of a network. We named the technique Gradual Tuning. Once trained on a first task, the network is fine-tuned on a second task by modifying a progressively larger set of the network's parameters. We test Gradual Tuning on different transfer learning tasks, using networks of different sizes trained with different regularization techniques. The result shows that compared to the usual fine tuning, our approach significantly reduces catastrophic forgetting of the initial task, while still retaining comparable if not better performance on the new task.

연구 동기 및 목표

• 새로운 작업에서의 파인튜닝이 이전에 학습한 작업의 성능을 떨어뜨리는 치명적인 잊음 현상을 해결하기 위해.
• 점진적이고 계층별로 파arameter를 업데이트하는 전략이 잊음 현상을 완화하면서도 새로운 작업에서의 성능을 유지할 수 있는지 탐색하기 위해.
• 유사하거나 다름없는 작업을 포함한 다양한 전이 학습 시나리오에서 Gradual Tuning과 표준 파인튜닝을 비교하기 위해.
• 초기 특징 품질과 다중 작업 사전학습이 Gradual Tuning의 효과성에 미치는 영향을 평가하기 위해.

제안 방법

• Gradual Tuning은 Task-A에서 사전학습된 네트워크를 초기화하고, Task-B를 위한 랜덤 가중치로 초기화된 새로운 출력 계층을 추가한다.
• Task-B에서의 학습은 출력 계층만 업데이트하는 것으로 시작하며, 성능이 정체될 때까지 진행된다. 이후 가장 가까운 은닉 계층이 업데이트 대상으로 활성화된다.
• 이 과정은 입력 방향으로 순차적으로 계층 간에 반복되어 모든 계층이 업데이트될 때까지 진행된다.
• 이 방법은 처음부터 모든 파arameter를 동시에 업데이트하는 표준 파인튜닝과 대비된다.
• 실험은 MNIST와 합성 이진 분류 작업에서 다양한 아키텍처와 정규화 기법(L1, 드롭아웃, 정규화 없음)을 사용한 전방향 신경망을 활용한다.
• 성능 평가를 위해 여러 런과 하이퍼파rameter 설정에서 Task-A(잊음)와 Task-B(학습) 모두에서 평가한다.

실험 결과

연구 질문

• RQ1 Gradual Tuning은 표준 파인튜닝 대비 전이 학습에서 치명적인 잊음 현상을 줄이는가?
• RQ2 Gradual Tuning과 표준 파인튜닝 간에 새로운 작업(Task-B)에서의 성능는 어떻게 비교되는가?
• RQ3 Gradual Tuning의 효과성은 Task-A와 Task-B 간 유사성에 따라 달라지는가?
• RQ4 여러 초기 작업에서 사전학습을 하면 잊음 정도와 Gradual Tuning의 이점은 어떻게 영향을 받는가?
• RQ5 Gradual Tuning은 더 나은 초기 작업 특징을 유지함으로써 성능 유지에 기여하는가?

주요 결과

• 모든 실험에서 Gradual Tuning은 치명적인 잊음 현상을 크게 줄였으며, 표준 파인튜닝 대비 잊음 정도가 1.5배에서 5배까지 감소했다.
• MNIST 작업(0–4 숫자 대 5–9 숫자)에서 정규화 없이 사용할 경우, Gradual Tuning은 Task-B에서 표준 파인튜닝보다 높은 성능(에러 3.46 ± 0.12)을 달성했다.
• Task-B가 Task-A와 매우 다른 합성 작업에서(예: atl 작업), 정규화 없이 Gradual Tuning은 Task-A(acl)에서의 잊음 정도를 파인튜닝의 17.6 ± 0.7에서 Gradual Tuning의 11.8 ± 0.1로 감소시켰다.
• 다섯 개의 초기 작업에서 사전학습한 경우, Gradual Tuning으로 학습한 네트워크는 단일 작업에서 사전학습한 네트워크보다 Task-A(acl)에서 더 적은 잊음을 겪었으며, 이는 더 나은 특징 유지 능력을 시사한다.
• 특히 유사도가 높고 정규화가 없는 경우, Task-B에서의 성능은 Gradual Tuning이 표준 파인튜닝과 유사하거나 略적으로 더 좋았다.
• 새로운 작업이 초기 작업과 다를수록 Gradual Tuning의 이점이 두드러져 다양한 전이 학습 시나리오에서의 강건성을 입증했다.