[논문 리뷰] Cultural Incongruencies in Artificial Intelligence

Vinodkumar Prabhakaran, Rida Qadri외 1명|arXiv (Cornell University)|2022. 11. 19.

Language and cultural evolution인용 수 37

한 줄 요약

본 논문은 AI 시스템이 문화적으로 형성된 인간 행동을 반영한다고 주장하고, 문화적 부조화에서 발생하는 다섯 가지 해를 강조하며 문화적으로 인지된 AI를 위한 연구 의제를 제안한다.

ABSTRACT

Artificial intelligence (AI) systems attempt to imitate human behavior. How well they do this imitation is often used to assess their utility and to attribute human-like (or artificial) intelligence to them. However, most work on AI refers to and relies on human intelligence without accounting for the fact that human behavior is inherently shaped by the cultural contexts they are embedded in, the values and beliefs they hold, and the social practices they follow. Additionally, since AI technologies are mostly conceived and developed in just a handful of countries, they embed the cultural values and practices of these countries. Similarly, the data that is used to train the models also fails to equitably represent global cultural diversity. Problems therefore arise when these technologies interact with globally diverse societies and cultures, with different values and interpretive practices. In this position paper, we describe a set of cultural dependencies and incongruencies in the context of AI-based language and vision technologies, and reflect on the possibilities of and potential strategies towards addressing these incongruencies.

연구 동기 및 목표

• 문화가 AI의 개발과 사용에 어떠한 영향을 미치는지 식별한다.
• AI 시스템에서 문화적 불일치로부터 발생하는 해를 특성화한다.
• 문화적으로 인지된 AI를 발전시키기 위한 연구 의제를 제안한다.
• AI 연구 및 배치에서 학제간 협력과 다양한 관점을 촉진한다.

제안 방법

• 문화, 의사소통, AI에 관한 기존 문헌을 종합하여 AI 시스템의 개발과 사용에서의 문화적 의존성을 식별한다.
• 문화적 불일치에서 발생하는 다섯 가지 구체적 해를 기술한다: 문화적 장벽, 지배적 분류, 안전 격차, 문화 가치의 침해, 그리고 말소.
• AI에서 문화적 불일치를 완화하기 위한 고수준 연구 방향과 질문을 제안한다.
• AI 설계 및 평가에서 학제간 협력과 참여적 프로세스를 옹호한다.

실험 결과

연구 질문

• RQ1 AI 시스템의 어떤 측면이 문화에 의존하며 이것이 다른 생태계에서의 적합성에 어떻게 영향을 미치는가?
• RQ2 AI 시스템의 내재된 문화적 성향이 목표 문화 생태계와 충돌할 때 어떤 불일치와 해가 나타나는가?
• RQ3 AI 기술에서 문화적 해를 어떻게 식별하고 측정하며 완화할 수 있는가?
• RQ4 문화적으로 위치화된 평가와 다양한 관점을 AI 개발 및 배치에 어떻게 통합할 수 있는가?
• RQ5 AI 파이프라인에 더 넓은 문화적 관점과 공동 창조를 통합하는 실용적 경로는 무엇인가?

주요 결과

• AI의 문화적 의존성은 데이터, 자원, 개발자 및 연구자의 문화적 규범을 통해 개발과 사용 과정에서 모두 발생한다.
• 문화적 불일치에서 비롯된 다섯 가지 해를 식별한다: 문화적 장벽, 지배적 분류의 강요, 안전 격차, 문화 가치의 침해, 그리고 문화 말소.
• 안전성, 공정성 및 성능을 보장하려는 노력은 목표 문화 맥락과 지역 규범을 고려하지 않으면 실패할 수 있다.
• 문화 말소는 사전학습 모델을 통해 확산될 수 있어 다양한 문화의 동질화와 잘못된 표현으로 이어진다.
• 문화적 해의 측정, 문화적으로 위치화된 평가 및 AI 파이프라인에 다양한 관점을 통합하는 것에 초점을 맞춘 연구 의제가 제안된다.