[논문 리뷰] Towards a Praxis for Intercultural Ethics in Explainable AI

Chinasa T. Okolo|arXiv (Cornell University)|2023. 04. 24.

Explainable Artificial Intelligence (XAI)인용 수 6

한 줄 요약

이 논문은 설명 가능한 인공지능(XAI)을 위한 다문화 윤리 프레임워크를 제안하여 글로벌 남부 지역 사용자를 중심으로 포용성과 문화적 관련성을 향상시킨다. 문화적 가치, 현지 지식, 참가자 중심 설계를 통합함으로써 사용자 이해도와 신뢰도를 제고하며, 단순히 기술 중심의 XAI를 넘어 윤리적으로 기반을 두고 맥락에 민감한 설명으로 전환함으로써 다양한 인구 집단에 공정하게 기여한다.

ABSTRACT

Explainable AI (XAI) is often promoted with the idea of helping users understand how machine learning models function and produce predictions. Still, most of these benefits are reserved for those with specialized domain knowledge, such as machine learning developers. Recent research has argued that making AI explainable can be a viable way of making AI more useful in real-world contexts, especially within low-resource domains in the Global South. While AI has transcended borders, a limited amount of work focuses on democratizing the concept of explainable AI to the "majority world", leaving much room to explore and develop new approaches within this space that cater to the distinct needs of users within culturally and socially-diverse regions. This article introduces the concept of an intercultural ethics approach to AI explainability. It examines how cultural nuances impact the adoption and use of technology, the factors that impede how technical concepts such as AI are explained, and how integrating an intercultural ethics approach in the development of XAI can improve user understanding and facilitate efficient usage of these methods.

연구 동기 및 목표

• 기존 XAI 시스템이 주로 서양의 기술적 숙련도를 가진 사용자에게만 적합하여 문화적 포용성이 부족한 문제를 해결한다.
• 문화적 편향과 맥락 이해 부족이 저자원 및 글로벌 남부 환경에서 효과적인 AI 설명을 방해하는 방식을 부각한다.
• 설계 및 평가 과정에서 현지 가치, 세계관, 인지 전통을 중심에 두는 다문화 윤리 접근법을 통해 XAI에 응용한다.
• 기술적 XAI 개발과 다양한 사회문화적 맥락에서의 실제 사용 가능성 사이의 격차를 메운다.
• 공정한 접근과 의미 있는 사용자 주도성을 보장하기 위해 윤리적, 참가자 중심적, 탈식민적 실천 방식을 XAI에 정착시킨다.

제안 방법

• 다문화 윤리 이론을 XAI 개발과 융합하여 문화적으로 민감한 설명 설계를 이끌어내는 가이드라인을 제공한다.
• 다양한 문화적 배경과 지역적 배경을 가진 이해관계자들과의 참가자 중심 설계 및 공동 창작 방법을 활용하여 설명 프레임워크를 구성한다.
• 후행적 및 사전적 해석 가능성 기법과 같은 XAI 기법들을 문화적으로 관련 있는 비유, 은유, 시각화 수단을 통해 조정한다.
• 탈식민적 및 비판적 기술 연구 시각을 적용하여 AI 설명 설계에서 발생하는 권력 불균형을 분석한다.
• 모델의 설명 가능성 외에도 문화적 적합성과 다양한 맥락에서의 사용자 신뢰도를 평가할 수 있는 평가 기준을 개발한다.
• 계산, 인류학, 사회학, 디지털 인문학 분야 간의 융합적 협업을 통해 XAI를 실제 생활 경험에 기반한 문화적 경험에 뿌리내리게 한다.

실험 결과

연구 질문

• RQ1 문화적 차이가 AI 설명의 인식, 해석, 신뢰성에 어떤 영향을 미치는가?
• RQ2 기존 XAI 기법들이 저자원, 비서양, 다문화적 맥락에서 효과적이거나 접근 가능하지 않은 이유는 무엇인가?
• RQ3 다문화 윤리적 접근법을 XAI 시스템의 설계 및 평가에 어떻게 실천할 수 있는가? 이를 통해 사용성과 포용성을 향상시킬 수 있는가?
• RQ4 역사적 및 식민지적 권력 구조는 현재의 XAI 실천 방식을 어떻게 형성하고 있으며, 이를 어떻게 도전하고 파기할 수 있는가?
• RQ5 다양한 문화적 및 지역적 맥락에서 다문화 XAI를 어떻게 의미 있게 평가할 수 있는가?

주요 결과

• 기존 XAI 기법들은 서양의 인지 체계와 전문 용어에 의존함으로써 글로벌 남부의 비기술적 사용자들에게 거의 접근 불가능한 편이다.
• 문화적 뉘앙스는 설명 수용 방식에 중대한 영향을 미치며, 다양한 배경을 가진 사용자들이 서로 다른 가치 체계와 세계관을 통해 AI 결정을 해석한다.
• 다문화 윤리 접근법을 통해 설명을 현지 문화적 규범, 은유, 의사결정 방식과 일치시킴으로써 사용자 신뢰도와 이해도가 향상된다.
• 다양한 인지 체계와 권력 구조를 존중하는 문화적으로 기반을 둔 설명 가능성으로의 전환은 절실한 필요성이 있다.
• 다문화 XAI는 망각된 공동체의 목소리와 가치를 AI 설계에 중심에 두어 문화적 피해를 줄이고 사용자 주도성을 증진시킬 수 있다.
• XAI 평가의 범위는 모델 성능을 넘어서, 문화적 관련성, 윤리적 일치성, 실제 맥락에서의 사용자 중심적 결과를 포함해야 한다.