[논문 리뷰] Causality-Inspired Taxonomy for Explainable Artificial Intelligence

Pedro C. Neto, Tiago Gonçalves외 5명|arXiv (Cornell University)|2022. 08. 19.

Explainable Artificial Intelligence (XAI)인용 수 15

한 줄 요약

이 논문은 생체인식 시스템에서 설명 가능한 인공지능(XAI)을 위한 원인론적 접근의 분류 체계를 제안하며, 인과 추론을 통합하여 딥러닝 모델의 편향과 투명성 부족 문제를 해결한다. 상관관계와 인과관계를 구분함으로써 모델의 정확성과 공정성을 향상시키며, 내재적 해석 가능성과 후행 해석 방법을 통해 신뢰할 수 있고 해석 가능한 생체인식 기술로 나아가는 체계적인 길을 제시한다.

ABSTRACT

As two sides of the same coin, causality and explainable artificial intelligence (xAI) were initially proposed and developed with different goals. However, the latter can only be complete when seen through the lens of the causality framework. As such, we propose a novel causality-inspired framework for xAI that creates an environment for the development of xAI approaches. To show its applicability, biometrics was used as case study. For this, we have analysed 81 research papers on a myriad of biometric modalities and different tasks. We have categorised each of these methods according to our novel xAI Ladder and discussed the future directions of the field.

연구 동기 및 목표

• 딥러닝 기반 생체인식 시스템의 투명성 부족과 잠재적 편향 문제를 해결하여 신뢰도와 공정성을 향상시키기 위해.
• 인과적 사고에 기반한 생체인식 분야의 설명 가능한 AI(XAI)에 대한 체계적 분류 체계를 개발하기 위해.
• 사람의 인지와 일치하고 임의의 상관관계에 대한 의존도를 줄이는 인과적으로 타당한 해석 가능한 모델로 향후 연구를 이끌기 위해.
• 후행 해석 방법을 내재적 해석 가능한 아키텍처와 통합하여 강력한 모델 해석 가능성 확보를 위해.
• 임의의 상관관계가 아닌 인과적 요인을 식별하고 수정함으로써 생체인식 시스템의 인구 통계적 편향을 완화하기 위해.

제안 방법

• 상관관계가 아닌 인과관계에 중점을 두어 생체인식 분야의 XAI를 체계화하는 원인론적 접근의 분류 체계를 제안한다.
• 훈련 데이터에서 기인하는 잘못된 상관관계에 기인한 편향을 식별하고 완화하기 위해 인과 추론 기법을 통합한다.
• 초기 설계 단계부터 투명성을 확보하기 위해 내재적 해석 가능한 모델의 사용을 권장한다.
• 모델 아키텍처와 후행 해석 방법을 결합하여 더 나은 해석 가능성 확보를 위한 피드백 루프를 제공한다.
• 모델의 투명성 증가를 방지하기 위해 다중 모odal 데이터 통합은 호환성과 해석 가능성 확보 시에만 허용한다.
• 사용자의 인지와 기존 지식과 일치시키기 위해 설명을 설계함으로써 신뢰도 향상과 인지적 불일치 감소를 위해 노력한다.

실험 결과

연구 질문

• RQ1 어떻게 인과성이 생체인식 시스템의 설명 가능한 AI에 체계적으로 통합되어 모델의 신뢰성 향상에 기여할 수 있는가?
• RQ2 생체인식 의사결정에서 임의의 상관관계와 진정한 인과적 요인 간의 핵심 차이점은 무엇이며, 어떻게 이를 구분할 수 있는가?
• RQ3 어떻게 해석 방법을 인간의 인지와 일치시켜 사용자 신뢰도와 수용도를 높일 수 있는가?
• RQ4 다중 모달 데이터는 어떻게 융합할 수 있으며, 이 과정에서 모델의 해석 가능성은 어떻게 유지할 수 있는가?
• RQ5 내재적 해석 가능한 모델은 생체인식 분야에서 딥러닝의 블랙박스 성격을 어떻게 줄이는 데 기여하는가?

주요 결과

• 논문은 많은 생체인식 시스템이 인종과 관련된 배경 특성 등 임의의 상관관계에 의존하고 있어 불공정한 예측을 초래하며, 이러한 문제는 인과 분석을 통해 완화될 수 있음을 밝혔다.
• 후행 해석 방법만으로는 블랙박스 문제를 해결할 수 없으며, 강력한 해석 가능성 확보를 위해서는 내재적 해석 가능한 모델과 함께 사용되어야 한다.
• 특히 제시 공격 탐지 및 얼굴 인식 분야에서 생체인식 시스템의 인구 통계적 편향을 탐지하고 수정하기 위해 인과 추론이 필수적이다.
• 사용자의 기존 믿음이나 인지와 어긋나는 설명은 신뢰를 떨어뜨리므로, 사용자 중심의 설명 설계가 필요하다는 점을 강조한다.
• 다중 모달 데이터 통합은 설명의 완전성을 향상시킬 수 있지만, 인과적 호환성 검사를 철저히 하지 않을 경우 투명성 저하 위험이 있다.
• 제안된 분류 체계는 향후 공정하고 투명하며 신뢰할 수 있는 생체인식 시스템 개발을 위한 구조적인 연구 로드맵을 제공한다.