[논문 리뷰] Visual Explanations of Image-Text Representations via Multi-Modal Information Bottleneck Attribution

Ying Wang, Tim G. J. Rudner외 1명|arXiv (Cornell University)|2023. 12. 28.

Topic Modeling인용 수 4

한 줄 요약

이 논문은 시각-언어 표현을 설명하기 위해 관련 없는 특징을 압축하면서도 관련 있는 시각적 및 텍스트 정보를 유지하는 정보이론적 방법인 다중모달 정보 블로킹(M2IB) 속성 기반 기법을 제안한다. M2IB는 기존의 기울기 기반, 펌지션 기반, 주의 기반 방법들을 능가하는 속성 정확도와 해석 가능성 성능을 보이며, 특히 라벨이 없는 경우에도 감시되지 않은 안전 중심 분야인 의료 분야에서 유의미한 성능을 발휘한다.

ABSTRACT

Vision-language pretrained models have seen remarkable success, but their application to safety-critical settings is limited by their lack of interpretability. To improve the interpretability of vision-language models such as CLIP, we propose a multi-modal information bottleneck (M2IB) approach that learns latent representations that compress irrelevant information while preserving relevant visual and textual features. We demonstrate how M2IB can be applied to attribution analysis of vision-language pretrained models, increasing attribution accuracy and improving the interpretability of such models when applied to safety-critical domains such as healthcare. Crucially, unlike commonly used unimodal attribution methods, M2IB does not require ground truth labels, making it possible to audit representations of vision-language pretrained models when multiple modalities but no ground-truth data is available. Using CLIP as an example, we demonstrate the effectiveness of M2IB attribution and show that it outperforms gradient-based, perturbation-based, and attention-based attribution methods both qualitatively and quantitatively.

연구 동기 및 목표

• 의료와 같은 안전 중심 응용 분야에서 CLIP와 같은 시각-언어 사전학습 모델(VLPM)의 해석 가능성을 향상시키기 위해.
• 지도 레이블에 의존하지 않는 다중모달 속성 기반 기법을 개발하여, 레이블이 제공되지 않을 경우에도 표현의 감사 가능성을 확보하기 위해.
• 정보 블로킹 원리를 적용해 시각 및 언어 모달리티에서의 관련 없는 특징을 동시에 압축하면서도 작업에 관련된 정보는 유지하기 위해.
• 정성적 및 정량적 평가를 통해 M2IB가 기울기 기반, 펌지션 기반, 주의 기반 속성 기반 방법들보다 뛰어난 성능을 보임을 실증적으로 검증하기 위해.

제안 방법

• 한 모달리티의 특징이 다른 모달리티의 특징에 의해 주어졌을 때의 가능도를 최대화하는 다중모달 정보 블로킹 원리를 수립하기 위해.
• 정보 블로킹 원리에서 유도된 실용적인 최적화 목표를 도출하기 위해 변분 근사법을 사용하기 위해.
• 속성 기반 파라미터에 대해 최적화하여 관련 없는 특징을 식별하고 억제함으로써 이미지 및 텍스트에 대한 시각화 지도를 생성하기 위해.
• 특정 레이어(예: 레이어 9) 이후에 정보 블로킹을 삽입하여 각 모달리티에 특화된 속성 기반 기법을 가능하게 하기 위해.
• CLIP에 적용한 후, ImageBind와 같은 다른 모델로 확장하여 다양한 다중모달 아키텍처와의 호환성을 입증하기 위해.
• 최적의 초모수를 체계적으로 선택하고 강건성 평가를 위해 ROAR+ 점수를 사용하기 위해.

실험 결과

연구 질문

• RQ1 지도 레이블이 필요 없이도 정보이론적 속성 기반 기법이 시각-언어 모델의 해석 가능성을 향상시킬 수 있는가?
• RQ2 M2IB는 기울기 기반, 펌지션 기반, 주의 기반 속성 기반 방법들과 비교해 이미지 및 텍스트의 관련 특징을 얼마나 정확히 국소화하는가?
• RQ3 M2IB는 모델 가중치 변화에 민감하게 반응하는 시각화 지도를 생성하는가? 이는 신뢰할 수 있는 속성 기반 기법임을 시사한다.
• RQ4 M2IB는 시각과 언어 외의 다중모달 모델, 예를 들어 음성, 깊이, 열화상 데이터를 사용하는 모델로 일반화될 수 있는가?
• RQ5 초모수 설정이 M2IB 속성 기반 지도의 품질과 일관성에 어떤 영향을 미치는가?

주요 결과

• M2IB는 이미지-텍스트 속성 기반 작업에서 정성적 및 정량적 평가 모두에서 기울기 기반, 펌지션 기반, 주의 기반 방법들을 뛰어넘는 성능을 보였다.
• 기존 기준 방법들과 비교해 M2IB는 더 정확하고 국소화된 시각화 지도를 생성하였으며, 특히 이미지 내 전체 관련 객체를 식별하는 데 뛰어난 성능을 보였다.
• 합리성 검증을 통과했다: 모델 가중치의 변형에 따라 속성 점수가 의미 있게 변화함으로써, 모델 행동에 민감한 민감도를 확인하였다.
• 미세조정된 모델에 대해 M2IB는 사전학습된 모델보다 더 높은 품질의 속성 기반 지도를 생성하였으며, 이는 최종 작업 특징과의 개선된 일치를 반영한다.
• M2IB는 시각-언어 외의 다중모달 모델에도 효과적이며, 음성 및 열화상 데이터를 포함한 6개의 다양한 모달리티를 갖춘 ImageBind에서도 성공적으로 적용됨을 입증하였다.
• 초모수 선택은 속성 기반 지도의 품질에 큰 영향을 미치며, ROAR+ 점수는 최적의 설정을 식별하는 데 효과적이다.