[논문 리뷰] Arbitrary Style Transfer in Real-time with Adaptive Instance Normalization

Xun Huang, Serge Belongie|arXiv (Cornell University)|2017. 03. 20.

Generative Adversarial Networks and Image Synthesis참고 문헌 46인용 수 200

한 줄 요약

이 논문은 재훈련이 필요 없이 임의의 스타일 전이를 가능하게 하는 실시간 신경 스타일 전이 방법을 소개한다. 이 방법은 적응형 인스턴스 정규화(AdaIN)를 사용하여 콘텐츠 특징을 스타일 통계와 정렬함으로써, 재훈련 없이도 임의의 스타일 전이가 가능하다. 이 접근법은 피드포워드 네트워크 수준의 빠른 추론 속도를 달성하면서도 동적 스타일 제어, 스타일 보간, 콘텐츠-스타일 트레이드오프를 단일 모델로 지원한다.

ABSTRACT

Gatys et al. recently introduced a neural algorithm that renders a content image in the style of another image, achieving so-called style transfer. However, their framework requires a slow iterative optimization process, which limits its practical application. Fast approximations with feed-forward neural networks have been proposed to speed up neural style transfer. Unfortunately, the speed improvement comes at a cost: the network is usually tied to a fixed set of styles and cannot adapt to arbitrary new styles. In this paper, we present a simple yet effective approach that for the first time enables arbitrary style transfer in real-time. At the heart of our method is a novel adaptive instance normalization (AdaIN) layer that aligns the mean and variance of the content features with those of the style features. Our method achieves speed comparable to the fastest existing approach, without the restriction to a pre-defined set of styles. In addition, our approach allows flexible user controls such as content-style trade-off, style interpolation, color & spatial controls, all using a single feed-forward neural network.

연구 동기 및 목표

• Gatys 등이 제안한 원래의 스타일 전이 방법에서의 느린 반복 최적화 문제를 해결하기 위해.
• 새로운 스타일을 적용할 때마다 재훈련이 필요 없도록 하여 임의의 스타일 전이를 가능하게 하기 위해.
• 피드포워드 네트워크 수준의 실시간 추론 속도를 달성하면서도 유연성을 유지하기 위해.
• 사용자 제어 가능한 스타일 보간, 콘텐츠-스타일 균형 조정, 공간적/색상 조정을 통합한 프레임워크를 지원하기 위해.

제안 방법

• 콘텐츠 특징의 통계를 스타일 이미지의 통계와 일치시켜주는 레이어인 적응형 인스턴스 정규화(AdaIN)를 도입한다.
• 스타일 특징의 평균과 분산을 사용하여 콘텐츠 특징을 정규화함으로써 단일 순방향 전파로 스타일 전이를 구현한다.
• 피드포워드 네트워크의 각 합성곱 레이어 뒤에 AdaIN을 적용하여 엔드 투 엔드 학습을 가능하게 한다.
• 콘텐츠를 유지하면서 스타일을 전이하기 위해 콘텐츠 및 스타일 복원 손실을 사용하여 네트워크를 학습시킨다.
• 추론 중 스타일 특징 통계를 수정함으로써 다양한 스타일 제어를 가능하게 한다.
• 여러 개의 스타일 이미지에서 유도된 통계를 혼합하여 스타일 보간을 지원한다.

실험 결과

연구 질문

• RQ1 고정된 스타일 집합에 모델을 고정하지 않고도 실시간 스타일 전이를 달성할 수 있는가?
• RQ2 단일 피드포워드 네트워크가 높은 품질과 빠른 속도로 임의의 스타일 전이를 지원할 수 있는가?
• RQ3 스타일 보간 및 콘텐츠-스타일 균형 조정과 같은 사용자 제어 기능을 통합된 프레임워크에 통합할 수 있는가?
• RQ4 적응형 인스턴스 정규화가 고정된 정규화 레이어보다 더 나은 스타일 전이를 가능하게 하는가?

주요 결과

• 제안된 방법은 기존의 가장 빠른 피드포워드 네트워크 수준의 실시간 추론 속도를 달성한다.
• 재훈련 없이도 어떤 입력 스타일 이미지도 지원하는 임의의 스타일 전이가 가능하다.
• 간단한 통계 조작을 통해 스타일 보간 및 콘텐츠-스타일 트레이드오프와 같은 다양한 사용자 제어 기능을 지원한다.
• 적응형 인스턴스 정규화는 정성적 및 정량적 평가를 통해 스타일을 효과적으로 전이하면서 콘텐츠를 유지함을 입증했다.