[論文レビュー] Ensuring Semantics in Weights of Implicit Neural Representations through the Implicit Function Theorem

Qiu, Tianming, Christos Sonis+1 more|arXiv (Cornell University)|Jan 30, 2026

Domain Adaptation and Few-Shot Learning被引用数 0

ひとこと要約

要約: 本論文はImplicit Function Theoremを用いて、データの意味論がHyperINRフレームワークの潜在重み空間でどのように保持され得るかを分析し、ハイパーネットワークと潜在埋め込みの軽量な共同最適化により2D/3D分類性能で競争力を示す。

ABSTRACT

Weight Space Learning (WSL), which frames neural network weights as a data modality, is an emerging field with potential for tasks like meta-learning or transfer learning. Particularly, Implicit Neural Representations (INRs) provide a convenient testbed, where each set of weights determines the corresponding individual data sample as a mapping from coordinates to contextual values. So far, a precise theoretical explanation for the mechanism of encoding semantics of data into network weights is still missing. In this work, we deploy the Implicit Function Theorem (IFT) to establish a rigorous mapping between the data space and its latent weight representation space. We analyze a framework that maps instance-specific embeddings to INR weights via a shared hypernetwork, achieving performance competitive with existing baselines on downstream classification tasks across 2D and 3D datasets. These findings offer a theoretical lens for future investigations into network weights.

研究の動機と目的

• WSLをデータモダリティとして動機づけ、データ意味論がINR重みにエンコードされる条件を探る。
• 潜在埋め込みをINR重みに写像しデータサンプルを再構成するハイパーネットワークを用いたHyperINR設定をモデル化する。
• Implicit Function Theoremによる数学的解析を提供し、意味論を保持するデータ→重み写像の条件を確立する。
• 2D（MNIST、FashionMNIST）および3D（ModelNet40、ShapeNet10、ScanNet10）データセットで経験的に検証し、下流分類で競争力／最先端を示す。

提案手法

• 潜在zをINR重みwへ写像する共有ハイパーネットワークφ(v, z)を用いてHyperINRを定式化する。
• INR主ネットワークf(w, p)を定義し、座標pをデータ値xへ写像する。
• 座標全体での再構成誤差を測る残差損失ℓ(v, z, X)を使用する。
• ℓのzに対する勾配ξ_{v*}(z, X)を導入し、Implicit Function Theoremを用いてそのヤコビ行列を解析する。
• ヤコビ行列の全階数（およびnc ≥ l）が成り立つと、意味論を保持する局所的なデータ→重み写像g(X)が得られることを示す。
• 再構成、勾配ノルム、ヘシアン条件付け、潜在空間/重み空間のクラスタリングを経験的に評価する。

実験結果

リサーチクエスチョン

• RQ1 HyperINRの学習がImplicit Function Theoremを介してデータからINR重みへの定義済み・一意的な写像をどの条件で implying するか？
• RQ2 ヤコビアン・ヘッセ条件付けは潜在重み空間におけるデータ意味論の保持にどのように影響するか？
• RQ3 潜在埋め込みzと生成された重みwは、2Dおよび3Dデータセットでデータクラスと整合する意味的クラスタリングを示すか？
• RQ4 軽量なHyperINR設定は大規模なデータ拡張や大規模アーキテクチャを用いずに競争力のある下流分類を達成できるか？

主な発見

• 潜在埋め込みzは、訓練時およびテスト時のいずれでも意味クラス別に明確なクラスタを形成する（例: ShapeNet10）。
• PCAは潜在空間と重み空間のいずれにも明確なクラスタリングを示し、意味構造が保持されていることを示す。
• zまたはwを入力とする分類は高い精度を達成し、著者のプロトコルでFashionMNIST、ModelNet40、ShapeNet10の最先端に相当する。
• ヘッセ conditioningは概ね良好であり、ほとんどのサンプルで全階数・良好な条件数のヤコビ行列を持ち、IFT適用性を支持する。
• 最小限の共同最適化HyperINR（約1Mパラメータ）は迅速に収束し（約30分）、同等のプロトコル下でより大きなベースラインに対抗する。
• 滑らかな潜在空間補間は形状間の意味論的モーフィングを生み出し、連続的な潜在空間を示す。