[논문 리뷰] Decolonial AI Alignment: Openness, Viśe\d{s}a-Dharma, and Including Excluded Knowledges

Kush R. Varshney|arXiv (Cornell University)|2023. 09. 10.

Anthropological Studies and Insights인용 수 5

한 줄 요약

이 논문은 대규모 언어모델의 정렬을 위한 탈식민적 접근을 제안하며, 개방성, 맥락에 특화된 도덕 체계(비셰샤담라), 그리고 배제된 지식 체계—특히 힌두도덕철학에서 유래한 것—를 통합한다. 모델, 사회, 인식론적 개방성을 주장함으로써, LoRA 행렬을 활용한 매개변수 효율적인 피지터링을 통해 맥락에 민감하고 비보편적인 도덕적 가치를 실현하는 기술적으로 실현 가능한 아키텍처를 제공함으로써, AI 내 도덕적 절대주의를 극복한다.

ABSTRACT

Prior work has explicated the coloniality of artificial intelligence (AI) development and deployment through mechanisms such as extractivism, automation, sociological essentialism, surveillance, and containment. However, that work has not engaged much with alignment: teaching behaviors to a large language model (LLM) in line with desired values, and has not considered a mechanism that arises within that process: moral absolutism -- a part of the coloniality of knowledge. Colonialism has a history of altering the beliefs and values of colonized peoples; in this paper, I argue that this history is recapitulated in current LLM alignment practices and technologies. Furthermore, I suggest that AI alignment be decolonialized using three forms of openness: openness of models, openness to society, and openness to excluded knowledges. This suggested approach to decolonial AI alignment uses ideas from the argumentative moral philosophical tradition of Hinduism, which has been described as an open-source religion. One concept used is viśe\d{s}a-dharma, or particular context-specific notions of right and wrong. At the end of the paper, I provide a suggested reference architecture to work toward the proposed framework.

연구 동기 및 목표

• AI 정렬에서 지식의 식민주의를 다스리기 위해, 특히 닫힌 LLM을 통해 서양 도덕 보편주의가 강제되는 방식을 해결하기 위해.
• 비서양의 맥락에 특화된 윤리 체계를 배제하는 정렬 관행에서 지배적인 도덕적 절대주의에 도전하기 위해.
• 다양하고 현지 기반의 도덕적 가치를 LLM에 통합하기 위한 기술적으로 실현 가능한 프레임워크를 개발하기 위해.
• 응용 개발자와 공동체가 자신의 가치와 인식론을 기반으로 모델을 정렬할 수 있도록 하는 기준 아키텍처를 제안하기 위해.
• 모델 제공자가 지배적인 중심지처럼 작동하는 관행에서 벗어나, 공동체 중심의, 인식론적으로 다원적인 정렬으로 산업 관행를 전환하기 위해.

제안 방법

• 세 가지 형태의 개방성 제안: 모델의 개방성(예: 가중치와 아키텍처), 사회에 대한 개방성(다양한 공동체의 포함), 배제된 지식에 대한 개방성(비서양 지식 체계).
• 힌두도덕철학에서 유래한 맥락에 특화된 도덕 의무인 비셰샤담라를 도입하여 정렬에서 보편주의적 도덕 체계에 대비한다.
• 지식 공학 기법을 활용해 현지 및 자주적 도덕 체계를 LoRA(저랭크 적응) 행렬에 인코딩함으로써 매개변수 효율적인 피지터링을 수행한다.
• 사회적 및 상황적 입력을 기반으로 맥락에 적합한 LoRA 행렬을 선택하는 밴딧 오케스트레이터를 활용해 동적으로 정렬된 행동을 적용한다.
• LoRA 매트릭스를 저장하고 버전 관리를 할 수 있는 모듈러한 LoraHub 유사 라이브러리를 포함한 기준 아키텍처를 구성한다.
• 공동체의 피드백과 평가를 기반으로 정렬된 도덕성을 반복적으로 수정하고 개선하는 피드백 루프를 통합한다.

Figure 1. System diagram of proposed decolonial AI alignment architecture.

실험 결과

연구 질문

• RQ1 현재 LLM 정렬 관행이 도덕적 절대주의를 통해 어떤 방식으로 지식의 식민주의를 재생산하는가?
• RQ2 정렬 과정에서 비서양 도덕 체계가 배제되는 것은 어떤 방식으로 지식 폭력의 형태를 띄는가?
• RQ3 비서양 전통의 맥락에 특화된 도덕성(비셰샤담라)을 통합할 수 있는 기술적으로 실현 가능한 정렬 프레임워크를 구축할 수 있는가?
• RQ4 모델의 개방성은 코드와 가중치를 넘어서, 배제된 지식 체계에 대한 인식론적 개방성으로 어떻게 확장될 수 있는가?
• RQ5 모델 성능나 안전성을 훼손하지 않으면서도 동적으로 맥락에 민감한 정렬을 가능하게 하는 아키텍처 패턴은 무엇인가?

주요 결과

• 논문은 AI 정렬에서 도덕적 절대주의가 지식의 식민주의의 핵심 메커니즘이라고 밝히며, 오직 보편주의적 서양 도덕 체계만이 우선시되는 것을 지적한다.
• 닫힌 LLM은 공동체의 참여 없이 제공자에 의해 정해진 가치를 강제로 적용함으로써, 식민지 중심지와 유사한 착취적 권력 구조를 강화한다.
• 제안된 아키텍처는 LoRA 매트릭스를 통해 맥락에 특화된 도덕적 정렬을 동적으로 선택할 수 있게 하여, 다양한 배포 맥락에서 다른 가치를 적용할 수 있도록 한다.
• 지식 공학 기법과 매개변수 효율적인 피지터링을 통해 배제된 지식을 통합함으로써, 전체 재학습이 필요 없이도 다원적인 도덕적 정렬을 지원한다.
• 시스템은 피드백 기반의 정렬 개선을 지원하여 반복적인 개선과 공동체가 윤리적 행동을 소유할 수 있도록 한다.
• 이 접근법은 탈식민적 정렬이 철학적으로 타당할 뿐 아니라, LoRA 및 모듈러 모델 관리와 같은 기존 기술을 통해 기술적으로 실현 가능하다는 점을 입증한다.