[論文レビュー] Paper-author bipartite graph from Semantic Scholar

Michaël Defferrard, Stefania Ebli+1 more|arXiv (Cornell University)|Oct 7, 2020

Topological and Geometric Data Analysis参考文献 27被引用数 57

ひとこと要約

シンプリシャル・ニューラルネットワーク（SNN）はグラフニューラルネットワークをシンプレシアル複合体上のデータへ一般化し、局所的な畳み込みを行う低次数多項式スペクトルフィルタを用いる。共著者ネットワークの複合体における欠損引用を補完する実験を行う。

ABSTRACT

Paper-author bipartite graph created from Semantic Scholar's Open Research Corpus, version 2018-05-03. Vertices are papers (39,219,709 of them) in one part and authors (12,862,455 of them) in the other. A paper is connected to all its co-authors, and an author is connected to all the papers they wrote, leading to 139,268,795 edges. A citation count (the number of times the paper was cited) is available for each paper (from 0 to 37,230 citations per paper).

研究の動機と目的

• 高次の関係を含むデータ上での学習を動機づける。
• シンプレシアル複合体上の局所畳み込みを定義する共境界/ラプラシアン演算子を活用したシンプレシアルニューラルネットワークフレームワークを提案する。
• Semantic Scholarデータから構築された共著者複合体における欠損データ補完でアプローチを実証する。
• 異なる共著者複合体間で学習済みフィルターの転移性を探る。

提案手法

• 有限シンプレシアル複合体K上のデータをp-コーチ onto としてモデル化し、共境界写像δ^pを定義する。
• δとその随伴を用いて次数-pのシンプレシアルラプラシアンL_i = L_i^up + L_i^downを構成する。
• F_pはL_pの固有ベクトルに基づくもので、シンプレシアル畳み込みをF_p^{-1}(F_p(c) F_p(c'))として定義する。
• ラプラシアン固有値の低次数多項式に畳み込みフィルターを制限し、局所性と効率的・疎な計算を保証する（sum W_i L_p^i）。
• ネットワークを複数層（例: 3層、30フィルター、N=5）で実装し、Adamで訓練してコーチオンコーチェンの値を欠損補完する。
• Semantic Scholar Open Research Corpusから導出されたCC1およびCC2の共著者複合体を対象に、欠搭k-コーチオン（k=0,1,2）の補完を、欠損率を変化させて実験する。

実験結果

リサーチクエスチョン

• RQ1 シンプレシアルニューラルネットワークはシンプレシアル複合体にエンコードされた高次の関係から効果的に学習できるか？
• RQ2 低次数の多項式スペクトルフィルタはシンプレシアル複合体上で有効で局所的な畳み込みを提供するか？
• RQ3 SNNは共著者複合体における欠損データをどの程度補完でき、単純なベースラインと比較してどうか？
• RQ4 学習済みフィルターは異なる共著者複合体間で転移可能か？
• RQ5 データのトポロジー構造をグラフを超えて捉えるSNNのポテンシャルはどこにあるか？

主な発見

• SNNは欠損値を単純な手法や近傍平均で補完するベースラインを上回る。
• CC1で30%の欠損引用がある場合、報告されたベースラインはSNNsよりもはるかに高いエラーを示す（表1に要約）。
• CC2で学習したSNNはCC1で学習したSNNの性能にほぼ匹敵しうる転移性を示し、類似する共著構造間で学習フィルターの転用が可能であることを示唆。
• スペクトルベースの局所畳込みをシンプレシアル複合体上で学習・適用できることを実証。
• ゼロ誤差に近い補完がSNNの予測でゼロ近傍に集中することを定性的・定量的に示す。