[논문 리뷰] Why we need biased AI -- How including cognitive and ethical machine biases can enhance AI systems

Sarah Fabi, Thilo Hagendorff|arXiv (Cornell University)|2022. 03. 18.

Psychology of Moral and Emotional Judgment인용 수 3

한 줄 요약

이 논문은 불확실하고 실제 세계적인 환경에서의 의사결정을 향상시키기 위해 인지적 편향과 윤리적 편향을 의도적으로 AI 시스템에 통합할 것을 주장한다. 인간과 유사한 인지 히ュ리스틱을 통합하고 윤리적으로 선택된 학습 데이터를 활용함으로써 AI 모델은 더 나은 일반화와 공정성을 달성할 수 있으며, 이는 기존의 '편향 제거' 패러다임을 뛰어넘어 책임감 있고 가치 중심의 기계 학습을 위한 새로운 프레임워크를 제시한다.

ABSTRACT

This paper stresses the importance of biases in the field of artificial intelligence (AI) in two regards. First, in order to foster efficient algorithmic decision-making in complex, unstable, and uncertain real-world environments, we argue for the structurewise implementation of human cognitive biases in learning algorithms. Secondly, we argue that in order to achieve ethical machine behavior, filter mechanisms have to be applied for selecting biased training stimuli that represent social or behavioral traits that are ethically desirable. We use insights from cognitive science as well as ethics and apply them to the AI field, combining theoretical considerations with seven case studies depicting tangible bias implementation scenarios. Ultimately, this paper is the first tentative step to explicitly pursue the idea of a re-evaluation of the ethical significance of machine biases, as well as putting the idea forth to implement cognitive biases into machines.

연구 동기 및 목표

• 모든 AI 편향이 해로운 것으로 보는 지배적인 관점을 도전하고, 인지적·윤리적 편향이 AI 성능을 향상시킬 수 있음을 주장한다.
• 윤리적으로 바람직한 특성을 우선시하는 의도적인 데이터 선택이 '중립성'을 추구하는 것보다 더 윤리적인 AI를 만들어낼 수 있음을 논증한다.
• 알고리즘적 편향이 결함이 아니라 안정적이고 실제 세계적 적용을 위한 설계적 특성인 새로운 패러다임을 제안한다.
• 이론적 근거와 사례 연구를 바탕으로 편향이 기계 학습에서 방법론적·윤리적으로 유익할 수 있음을 제시한다.

제안 방법

• 불확실한 환경에서의 적응력을 향상시키기 위해 인간의 인지 편향(예: 만족성, 가용성 히ュ리스틱 등)을 기계 학습 모델에 통합하는 것을 제안한다.
• 윤리적 데이터 편향의 개념을 도입—도덕적으로 바람직한 사회적 또는 행동적 특성을 반영하는 학습 데이터를 체계적으로 우선순위에 둔다.
• 인지 과학과 윤리학의 통찰을 바탕으로 학습 모델 아키텍처 설계를 하며, 테이블라 라사 학습을 뛰어넘는다.
• 제한된 합리성과 생태적 합리성 이론 프레임워크를 AI 의사결정에 적용한다.
• 실제 세계의 AI 응용에 있어서 인지적·윤리적 편향을 어떻게 적용할 수 있는지 보여주는 일곱 개의 사례 연구를 제시한다.
• '편향 제거'에서 '편향 공학'으로의 전환을 주장—의도적이고 가치 기반의 학습 시스템 설계

실험 결과

연구 질문

• RQ1 인간의 의사결정에서의 인지적 편향은 어떻게 기계 학습 알고리즘에 유익하게 이행될 수 있는가?
• RQ2 AI 학습 데이터의 '중립성'을 추구하는 것이 왜 실현 불가능할 뿐 아니라 잠재적으로 해로운가?
• RQ3 윤리적 편향은 어떻게 체계적으로 학습 데이터에 통합되어 AI의 공정성과 도덕적 행동을 증진시킬 수 있는가?
• RQ4 AI 시스템은 어떻게 체계적 편향을 통해 불안정한 환경에서 더 나은 일반화와 강건성을 달성할 수 있는가?
• RQ5 '편향 제거'를 '편향 공학'으로 대체할 경우 AI 개발에 미치는 실용적·윤리적 영향은 무엇인가?

주요 결과

• 학습 알고리즘에 인지적 편향을 의도적으로 포함시키면 복잡하고 불확실한 환경에서 의사결정의 속도와 정확도가 향상된다.
• 알고리즘 중립성의 신화는 지속 가능하지 않으며, 모든 모델은 본질적으로 가치 기반의 가정을 반영하므로 '편향 제거'는 오해의 소지가 있는 목표이다.
• 윤리적인 기계 행동은 데이터 중립성을 추구하는 것보다 바람직한 사회적 특성을 반영하는 학습 데이터 선택을 통해 더 잘 달성된다.
• 사례 연구는 편향 구현이 실제 응용에서 모델의 일반화 능력과 윤리적 일치도 향상시킬 수 있음을 보여준다.
• 논문은 편향의 역할을 재평가할 근거를 마련하며, 편향 공학 분야의 새로운 연구 방향을 제안한다.
• 저자들은 인지적·윤리적 편향이 결함이 아니라 안정적이고 윤리적으로 책임감 있는 AI 시스템을 구축하기 위한 필수 구성 요소임을 결론짓는다.