[논문 리뷰] Generalised Implicit Neural Representations

Daniele Grattarola, Pierre Vandergheynst|arXiv (Cornell University)|2022. 05. 31.

Neural Networks and Applications인용 수 4

한 줄 요약

이 논문은 유클리드가 아닌 도메인에서 신호를 모델링하기 위해 좌표계에 의존하지 않는 일반화된 암묵적 신경망 표현(GINRs)을 제안한다. 그래프 라플라시안의 스펙트럼 임베딩을 신경망의 좌표계에 의존하지 않는 입력으로 사용함으로써, GINRs는 다양한 그래프 실현 방식에 일반화되는 연속적인 신호 표현을 학습하며, 초해상도 및 조건부 모델링을 가능하게 한다. 생물학적, 사회적, 기상학적 데이터에 대한 실험을 통해 고해상도 재구성과 단백질 전기적 신호에서 R² > 0.9의 성능을 입증하였다.

ABSTRACT

We consider the problem of learning implicit neural representations (INRs) for signals on non-Euclidean domains. In the Euclidean case, INRs are trained on a discrete sampling of a signal over a regular lattice. Here, we assume that the continuous signal exists on some unknown topological space from which we sample a discrete graph. In the absence of a coordinate system to identify the sampled nodes, we propose approximating their location with a spectral embedding of the graph. This allows us to train INRs without knowing the underlying continuous domain, which is the case for most graph signals in nature, while also making the INRs independent of any choice of coordinate system. We show experiments with our method on various real-world signals on non-Euclidean domains.

연구 동기 및 목표

• 기존의 암묵적 신경망 표현(INRs)이 유클리드 좌표계에 의존하여 비유클리드 도메인(예: 그래프 및 다양체)에서는 실패하는 한계를 해결하기 위해.
• 어떤 좌표계에 의존하지 않는 신호 표현을 학습하는 방법을 개발하여, 동일한 기저 도메인의 다양한 그래프 실현 방식 간에 일반화할 수 있도록 하기 위해.
• 일관된 신경망 하나로 비정규적인 비유클리드 도메인에서 고해상도 신호 재구성과 조건부 모델링을 가능하게 하기 위해.

제안 방법

• 그래프 라플라시안의 고유벡터에서 유도된 스펙트럼 임베딩을 사용하여 알려지지 않은 위상공간 상의 샘플링된 노드의 위치를 근사한다.
• 각 노드의 스펙트럼 임베딩을 해당 신호 값으로 매핑하는 신경망을 훈련시켜, 효과적으로 신호의 암묵적 표현을 학습한다.
• 스펙트럼 임베딩을 좌표계에 의존하지 않는 입력으로 사용함으로써, INR이 임의의 좌표계 선택에 대해 불변이 되도록 한다.
• 그래프 라플라시안 고유벡터가 라플라스-베르트라미 연산자의 연속 고유함수를 근사한다는 사실을 활용하여, 동일한 도메인의 새로운 점으로의 일반화를 가능하게 한다.
• 푸리에 특징 또는 위치 인코딩을 스펙트럼 임베딩을 통해 암묵적으로 적용함으로써, 유클리드 INRs에서의 위치 인코딩 사용을 일반화한다.
• 잠재 벡터를 네트워크에 조건부로 제공하여 동일하거나 다른 도메인에서 다수의 신호를 모델링할 수 있도록 조건부 GINRs를 훈련시킨다.

실험 결과

연구 질문

• RQ1 좌표계에 의존하지 않고도 비유클리드 도메인(예: 그래프 및 다양체)의 신호에 대해 암묵적 신경망 표현을 일반화할 수 있는가?
• RQ2 그래프 라플라시안의 스펙트럼 임베딩은 유클리드 좌표계의 대체로 어떤 방식으로 INR 훈련에 사용될 수 있는가?
• RQ3 동일한 기저 신호에 대해 다양한 그래프 실현 방식 간에 단일 GINR 모델이 얼마나 일반화되는가?
• RQ4 GINRs는 낮은 해상도의 그래프 샘플로부터 초해상도 및 정확한 재구성 신호를 가능하게 하는가?
• RQ5 조건부 GINRs는 공유된 아키텍처를 사용하여 동일하거나 다른 비정규 도메인에서 다양한 신호를 모델링할 수 있는가?

주요 결과

• 단일 네트워크 가중치와 크기가 8인 잠재 벡터를 사용하여, 500개의 다른 단백질 표면에서 전기적 신호를 예측하는 데 R² ≥ 0.9의 성능을 달성하였다.
• 1시간의 훈련 데이터에서 30분 간격의 고해상도 예측을 생성함으로써, 구형 지구 도메인에서 기상 신호의 초해상도 복원에 성공하였다.
• 한 번의 그래프 실현에서 훈련된 GINRs가 동일한 기저 도메인의 다른 그래프 실현으로도 일반화되었으며, 구조적 변동에 대한 강건성을 입증하였다.
• 동일한 비정규 도메인에서 온도, 흐림, 바람 세기 등의 다수의 신호를 조건부 모델링할 수 있도록 지원하였다.
• 스펙트럼 임베딩 기반 접근법을 통해 원래의 도메인이 알려지지 않거나 비정규일지라도 도메인 상의 임의의 점에서 연속적이고 미분 가능한 신호 근사가 가능했다.
• 기상 모델의 애니메이션 고해상도 출력 결과는 학습된 신호 역학의 현실성과 시간적 일관성을 확인시켰다.