[論文レビュー] Getting aligned on representational alignment

Ilia Sucholutsky, Lukas Muttenthaler+31 more|arXiv (Cornell University)|Oct 18, 2023

Bioinformatics and Genomic Networks被引用数 34

ひとこと要約

この論文は、認知科学、神経科学、機械学習にまたがる表現整合性を統一的に扱うフレームワークを提案し、既存の研究をこの観点から整理し、横断的な協力を促進する開かれた問題を概説する。

ABSTRACT

Biological and artificial information processing systems form representations of the world that they can use to categorize, reason, plan, navigate, and make decisions. How can we measure the similarity between the representations formed by these diverse systems? Do similarities in representations then translate into similar behavior? If so, then how can a system's representations be modified to better match those of another system? These questions pertaining to the study of representational alignment are at the heart of some of the most promising research areas in contemporary cognitive science, neuroscience, and machine learning. In this Perspective, we survey the exciting recent developments in representational alignment research in the fields of cognitive science, neuroscience, and machine learning. Despite their overlapping interests, there is limited knowledge transfer between these fields, so work in one field ends up duplicated in another, and useful innovations are not shared effectively. To improve communication, we propose a unifying framework that can serve as a common language for research on representational alignment, and map several streams of existing work across fields within our framework. We also lay out open problems in representational alignment where progress can benefit all three of these fields. We hope that this paper will catalyze cross-disciplinary collaboration and accelerate progress for all communities studying and developing information processing systems.

研究の動機と目的

• 認知科学、神経科学、および機械学習に跨る表現整合性研究を記述する共通の言語を提供する。
• 先行研究が5つの主要な構成要素を持つ単一のフレームワークにどのように適合するかを要約する。
• 複数の分野に利益をもたらす進展が期待できる未解決問題と課題を特定・明確化する。
• 表現の整合性の研究における学際的な交流と協力を促進する。
• システム間の測定、ブリッジング、整合性の向上を受け入れられるベースラインフレームワークを提供する。

提案手法

• 認知科学、神経科学、および機械学習の文献を調査し、既存の研究を提案フレームワークに対応づける。
• 表現空間、データ、測定、埋め込み、および整合関数を統一的な表記体系で形式化する。
• 測定、ブリッジング、および表現整合性の向上を三つの中心的な課題として特徴づける。
• 整合関数の特性（類似性 vs 不類似性、記述的 vs 微分可能、対称 vs 方向性）を区別する。
• 代表的な例を用いてフレームワークを明示し、分野横断の未解決問題を議論する。

実験結果

リサーチクエスチョン

• RQ1 多様なドメインにおいて、二つのシステム間の表現整合性の程度を一貫して測定するにはどうすればよいか？
• RQ2 異なるシステムからの表現を共有空間にブリッジして、直接比較と統合を可能にするにはどうすればよいか？
• RQ3 新しいデータへの一般化を保証しつつ、変換や学習によって表現整合性を高めるにはどうすればよいか？
• RQ4 どのデータ、埋め込み、測定選択といった意思決定基準が、分野を超えた整合性の推論に影響を与えるか？
• RQ5 認知科学、神経科学、機械学習を超える表現整合性の未解決課題とリスクとは何か？

主な発見

• 統一的なフレームワークは、データ、システム、測定、埋め込み、そして整合関数という5つのコア要素で、認知科学、神経科学、機械学習にまたがる表現整合性を説明できる。
• 表現整合性研究は、整合性の測定、表現空間のブリッジ、整合性の向上の三つの課題に分類できる。
• 整合測度は、類似性ベースか不類似性ベース、記述的か微分可能、対称か方向性のいずれかであり、それぞれ異なる推論を可能にする。
• 異なる分野はさまざまな整合関数を用いる（例：神経科学の表象類似性分析、記述的分析ではピアソン/コサイン類似性、方向性分析ではKLダイバージェンス）。
• このフレームワークは、過去の研究の学際的解釈を促進し、協力のための未解決問題を浮き彫りにする。