[논문 리뷰] Semi-Supervised Learning using Differentiable Reasoning

Emile van Krieken, Erman Acar외 1명|arXiv (Cornell University)|2019. 08. 13.

Semantic Web and Ontologies인용 수 18

한 줄 요약

이 논문은 이미지 이해 작업에서 일반화 성능을 향상시키기 위해 미분 가능한 손실 함수를 통해 일阶논리 배경 지식을 신경망에 통합하는 반감독 학습 방법인 Differentiable Reasoning(DR)을 소개한다. 이는 모드 펜텐스(Modus Ponens)와 모드 톨렌스(Modus Tollens)의 기울기 업데이트 간 심각한 불균형을 드러내며, 레이븐 역설과 연관되어 있으며, 이를 보정하기 위해 정규화 기법을 제안함으로써 감독 기반 보다 뛰어난 성능 향상을 이룬다.

ABSTRACT

We introduce Differentiable Reasoning (DR), a novel semi-supervised learning technique which uses relational background knowledge to benefit from unlabeled data. We apply it to the Semantic Image Interpretation (SII) task and show that background knowledge provides significant improvement. We find that there is a strong but interesting imbalance between the contributions of updates from Modus Ponens (MP) and its logical equivalent Modus Tollens (MT) to the learning process, suggesting that our approach is very sensitive to a phenomenon called the Raven Paradox. We propose a solution to overcome this situation.

연구 동기 및 목표

• 비감독 데이터로부터의 관계적 배경 지식을 활용하여 모델 일반화 능력을 향상시키는 반감독 학습 프레임워크를 개발하는 것.
• 모드 펜텐스(MP)와 모드 톨렌스(MT) 업데이트가 모델 학습 동역학에 미치는 비균형적 영향을 조사하는 것.
• 논리적 추론에서 레이븐 역설과 관련된 감정에 기인한 MP와 MT 기여도의 불균형을 해결하는 것.
• 긍정적 추론과 대우 추론의 균형을 맞추기 위한 정규화 기법을 제안하고 평가하는 것.

제안 방법

• 비감독 데이터셋에 대해 파arameterized 신경망 모델을 사용해 일阶논리 공식의 진리도를 평가하는 미분 가능한 손실 함수를 도입한다.
• 논리 원소의 확률을 모델링하기 위해 허브란 월드 위에서 베르누이 분포를 사용하며, 신경망이 술어의 진리값을 파arameterize한다.
• 논리적 추론 규칙인 모드 펜텐스와 모드 톨렌스를 기반으로, 논리적 일관성에 따라 모델 파라미터를 업데이트하는 기울기를 계산한다.
• 백프로파게이션 동안의 영향력을 균형 맞추기 위해 하이퍼파rameter μ를 사용해 MP와 MT 기울기 기여도를 정규화한다.
• 감독 데이터의 가능도와 비감독 데이터의 논리적 일관성을 동시에 모델링하기 위해 베이지안 네트워크 구조를 활용한다.
• 감독 및 비감독 구성 요소 간에 공통된 파라미터 벡터 θ를 사용해 일관된 표현 학습을 보장한다.

실험 결과

연구 질문

• RQ1 다양한 추론 방식을 통해 관계적 배경 지식를 통합하는 미분 가능한 추론이 이미지 이해 작업에서 반감독 학습 성능에 어떤 영향을 미치는가?
• RQ2 왜 모드 톨렌스가 모드 펜텐스의 기울기 업데이트를 지배하는가? 이 불균형의 원인은 무엇인가?
• RQ3 이 불균형은 논리적 추론에서의 레이븐 역설과 얼마나 관련이 있는가?
• RQ4 MP와 MT 기울기 기여도를 정규화하면 모델 성능과 안정성 향상에 기여하는가?
• RQ5 제안된 방법은 VisualGenome 및 ImageNet과 같은 실제 데이터셋에 일반화 가능한가?

주요 결과

• 모드 톨렌스(MT)의 기울기 업데이트가 모드 펜텐스(MP)의 기울기 업데이트를 크게 지배함으로써 추론 기여도에 심각한 불균형이 있음을 확인했다.
• 이 불균형은 논리적으로 동치인 대우 형태(MT)가 학습에 비례적으로 더 큰 영향을 미치는 레이븐 역설과 관련되어 있다.
• 하이퍼파rameter μ를 사용해 MP와 MT의 기여도를 정규화하면 감독 기반 보다 가장 뚜렷한 성능 향상을 이룬다.
• μ = 1(즉, MT 비활성화)로 설정할 경우 학습이 불안정해지고 검증 정확도가 감소함으로써, 대우 추론이 안정적 학습에 필수적임을 입증한다.
• 간단한 데이터셋에서 성능 향상이 이루어졌으며, 예측이 잘못되었더라도 올바른 추론 패턴(예: 참인 함의에 대해 높은 예측)이 긍정적인 기여를 했다.
• 이 방법은 일반적이며, 의미 분석이나 지식 그래프 완성과 같은 인도적 추론을 포함한 다른 작업에도 적용 가능할 수 있다.