[논문 리뷰] Modeling multi-scale data via a network of networks

Shawn Gu, Meng Jiang외 2명|arXiv (Cornell University)|2021. 05. 25.

Bioinformatics and Genomic Networks참고 문헌 42인용 수 6

한 줄 요약

이 논문은 단일 수준의 네트워크 모델이 복잡한 시스템 내 계층적이고 다중 척도적 관계를 포착하는 데 한계가 있음을 고려하여, 높은 수준의 네트워크(예: 단백질-단백질 상호작용 네트워크)와 낮은 수준의 네트워크(예: 단백질 구조 네트워크)를 통합함으로써 다중 척도 데이터를 모델링하기 위한 네트워크의 네트워크(NoN) 프레임워크를 제안한다. 합성 및 실제 생물학적 NoN을 사용하여, 단일 수준의 노드 또는 그래프 레이블 예측보다 NoN 기반 모델을 통한 다중 수준 예측이 특히 단일 수준 방법이 실패하는 복잡한 단백질 기능에 대해 우수한 성능을 보임을 입증한다.

ABSTRACT

Prediction of node and graph labels are prominent network science tasks. Data analyzed in these tasks are sometimes related: entities represented by nodes in a higher-level (higher-scale) network can themselves be modeled as networks at a lower level. We argue that systems involving such entities should be integrated with a "network of networks" (NoN) representation. Then, we ask whether entity label prediction using multi-level NoN data via our proposed approaches is more accurate than using each of single-level node and graph data alone, i.e., than traditional node label prediction on the higher-level network and graph label prediction on the lower-level networks. To obtain data, we develop the first synthetic NoN generator and construct a real biological NoN. We evaluate accuracy of considered approaches when predicting artificial labels from the synthetic NoNs and proteins' functions from the biological NoN. For the synthetic NoNs, our NoN approaches outperform or are as good as node- and network-level ones depending on the NoN properties. For the biological NoN, our NoN approaches outperform the single-level approaches for just under half of the protein functions, and for 30% of the functions, only our NoN approaches make meaningful predictions, while node- and network-level ones achieve random accuracy. So, NoN-based data integration is important.

연구 동기 및 목표

• 복잡한 시스템 내 계층적이고 다중 척도적 관계를 포착하는 데에 단일 수준 네트워크 모델의 한계를 해결하기 위해.
• 높은 수준의 네트워크와 낮은 수준의 네트워크 엔티티를 통합하는 새로운 네트워크의 네트워크(NoN) 표현을 제안하기 위해.
• NoN 내에서 다중 수준에 걸쳐 공동으로 레이블 예측을 수행할 경우, 고립된 노드 수준 또는 그래프 수준의 예측보다 정확도가 향상되는지 평가하기 위해.
• 벤치마킹을 위해 첫 번째로 합성된 NoN 생성기와 실제 생물학적 NoN(PIN-PSN)을 개발 및 구축하기 위해.
• 다중 수준 NoN 통합이 복잡한 생물학적 기능에 대한 예측 성능을 향상시킨다는 가설을 검증하기 위해.

제안 방법

• 레벨 2 노드(예: 단백질)가 레벨 2 엣지로 연결되어 있고, 각 레벨 2 노드가 레벨 1 네트워크(예: 단백질 구조 네트워크)에 대응하는 이중 수준의 NoN 모델을 설계하기 위해.
• 평가를 위해 조절 가능한 구조적 특성을 가진 다중 척도 데이터를 생성할 수 있는 합성 NoN 생성기를 개발하기 위해.
• PDB 데이터에서 유도한 인간 단백질-단백질 상호작용 네트워크(PPI)와 단백질 구조 네트워크(PSN)를 사용하여 실제 생물학적 NoN을 구축하기 위해.
• 다양한 레이블 예측 모델을 구현: L1 GDVM(레벨 1에서의 그래프 오토에코더), L2 GDV(레벨 2에서의 그래프 오토에코더), L1 DiffPool(차별 가능 풀링), L2 SIGN(서브그래프 기반 그래프 신경망).
• 다중 수준 표현을 활용하기 위해 앙상블 학습을 통해 모델을 통합(예: '모든 조합' = L1 GDVM + L2 GDV + L1 DiffPool + L2 SIGN)하기 위해.
• 표준 평가 지표(AUPR, 정밀도, 재현도, F-score)를 사용하여 모델을 훈련 및 평가하고, 무작위 기반 베이스라인과의 통계적 유의성 검정을 수행하기 위해.

실험 결과

연구 질문

• RQ1 네트워크의 네트워크(NoN) 표현이 단일 수준 네트워크 모델보다 다중 척도적 관계를 더 잘 포착할 수 있는가?
• RQ2 NoN 내에서 레벨 1과 레벨 2 네트워크를 모두 사용한 공동 레이블 예측이 단일 수준만을 사용하는 경우보다 정확도가 향상되는가?
• RQ3 합성 및 실제 생물학적 데이터에서 NoN 기반 모델의 성능은 단일 수준의 노드 및 그래프 레이블 예측 방법과 비교해 어떻게 되는가?
• RQ4 다중 수준 NoN 통합이 단일 수준 접근 방식보다 가장 뚜렷한 향상을 이끌어내는 단백질 기능의 유형은 무엇인가?
• RQ5 단일 수준 방법이 무작위 성능을 달성하는 반면, 오직 NoN 접근 방식만 의미 있는 예측을 내는 경우가 존재하는가?

주요 결과

• 합성 NoN에서는 NoN 기반 접근 방식이 NoN의 구조적 특성에 따라 단일 수준 방법보다 우수하거나 동등한 성능을 보였다.
• 실제 생물학적 NoN에서는 단백질 기능의 약 48.5%에서 NoN 기반 접근 방식이 단일 수준 방법보다 뛰어난 성능을 보였다.
• GO 용어의 30%에서는 오직 NoN 기반 접근 방식만 의미 있는 예측을 내었고, 노드 수준 및 그래프 수준 방법은 무작위 성능을 달성했다.
• 앙상블 NoN 모델('모든 조합')이 모든 지표에서 가장 높은 성능을 보였으며, 많은 기능에서 AUPR, 정밀도, 재현도, F-score가 무작위 기반 베이스라인을 유의미하게 상회했다.
• DiffPool를 포함한 NoN 모델의 훈련 시간은 상당히 길었음(예: '모든 조합'의 경우 약 522.5초)을 고려하더라도, 이는 예측 정확도에 악영향을 주지 않았다.
• 본 연구는 단일 수준 모델이 실패하는 복잡한 시스템에서 정확한 레이블 예측을 위해 다중 수준 네트워크 데이터를 NoN 프레임워크를 통해 통합하는 것이 필수적임을 확인했다.