[논문 리뷰] Modality-free Graph In-context Alignment

Wei Zhuo, Siqiang Luo|arXiv (Cornell University)|2026. 03. 13.

Advanced Graph Neural Networks인용 수 0

한 줄 요약

MF-GIA는 그래프의 미리 인코딩된 특징과 도메인별 라벨을 통합 공간에서 정렬하여, 파라미터 업데이트 없이 서로 다른 이질적 도메인 간에 그래프 컨텍스트 학습을 가능하게 한다. gradient fingerprints와 도메인 조건 변환을 사용.

ABSTRACT

In-context learning (ICL) converts static encoders into task-conditioned reasoners, enabling adaptation to new data from just a few examples without updating pretrained parameters. This capability is essential for graph foundation models (GFMs) to approach LLM-level generality. Yet current GFMs struggle with cross-domain alignment, typically relying on modality-specific encoders that fail when graphs are pre-vectorized or raw data is inaccessible. In this paper, we introduce Modality-Free Graph In-context Alignment (MF-GIA), a framework that makes a pretrained graph encoder promptable for few-shot prediction across heterogeneous domains without modality assumptions. MF-GIA captures domain characteristics through gradient fingerprints, which parameterize lightweight transformations that align pre-encoded features and indexed labels into unified semantic spaces. During pretraining, a dual prompt-aware attention mechanism with episodic objective learns to match queries against aligned support examples to establish prompt-based reasoning capabilities. At inference, MF-GIA performs parameter-update-free adaptation using only a few-shot support set to trigger cross-domain alignment and enable immediate prediction on unseen domains. Experiments demonstrate that MF-GIA achieves superior few-shot performance across diverse graph domains and strong generalization to unseen domains.

연구 동기 및 목표

• 파라미터를 업데이트하지 않고 새로운 그래프 도메인에서 초샷 예측을 수행하도록 사전 학습된 그래프 인코더에 프롬프트를 제시한다.
• 모달리티 특화 인코더나 원시 데이터 접근을 필요로 하지 않고 교차 도메인 정렬을 달성한다.
• 도메인 조건화 특성 및 라벨 정렬을 주도하기 위해 그래디언트 기반 도메인 핑거프린트를 도입한다.
• 에피소딕 사전학습을 통해 프롬프트 기반 추론을 학습하여 보지 못한 도메인에서도 즉시 추론이 가능하게 한다.

제안 방법

• 도메인 조건 변환을 통해 도메인 특화 특징과 라벨 ID를 통합 공간으로 매핑하는 모달리티-프리 얼라인먼트를 정의한다.
• 그래디언트 핑거프린트(일단계 업데이트)를 사용하여 FiLM 기반 특징 및 라벨 얼라인너를 매개하는 도메인 임베딩을 도출한다.
• 에피소딕 사전학습 중에 정렬된 지원 샘플에 대해 쿼리를 매칭하기 위해 Dual Prompt-Aware Attention(DPAA)를 활용한다.
• 프롬프트만으로 인-컨텍스트 추론을 수행하도록 모델을 학습시키기 위해 m-way k-shot 에피소드를 사용해 사전 학습한다.
• 추론 시 보지 못한 그래프에 대해 도메인 임베딩을 계산하고 얼라인너를 적용한 뒤, 사전 학습된 파라미터를 업데이트하지 않고 예측한다.

Figure 1: Overview of MF-GIA. (Left) Modality-free Alignment: The pretraining graphs are mapped to a unified space via domain-conditioned transformations. Domain descriptors $e$ ensure similar domains occupy neighboring subspaces. (Middle) Episodic Pretraining: The model learns from $m$ -way $k$ -sh

실험 결과

연구 질문

• RQ1 그래프 기반 파운데이션 모델이 모달리티 가정 없이 이질적인 그래프 도메인에서 진정한 인-컨텍스트 학습을 수행할 수 있는가?
• RQ2 그래디언트 핑거프린트와 도메인 조건화 정렬이 보지 않은 그래프에 대해 교차 도메인, 사후 학습 없이 추론을 가능하게 하는가?
• RQ3 DPAA를 활용한 에피소딕 사전학습이 도메인 간의 노드 및 엣지 분류를 위한 효과적인 프롬프트 기반 추론을 촉진하는가?

주요 결과

• MF-GIA는 다양한 그래프 도메인에서 우수한 초샷 성능을 달성한다.
• 이 방법은 추가 학습 없이 완전히 보지 못한 도메인에 일반화된다.
• 노드 작업뿐만 아니라 엣지 수준 작업으로도 효과적으로 일반화된다.
• 도메인 조건화 FiLM 기반 특징 및 라벨 정렬은 도메인 내 의미를 보존하면서 교차 도메인 전이를 가능하게 한다.

Figure 2: Domain embedder.