[논문 리뷰] Humans' Assessment of Robots as Moral Regulators: Importance of Perceived Fairness and Legitimacy

Boyoung Kim, Elizabeth Phillips|arXiv (Cornell University)|2021. 10. 10.

Psychology of Moral and Emotional Judgment참고 문헌 13인용 수 6

한 줄 요약

이 논문은 로봇이 공정하고 정당시된다고 인식될 경우 효과적인 도덕적 규제자로 기능할 수 있다고 제안하며, 특히 비례한 처벌을 통한 공정성 인식이 정당성과 준수도를 높인다. 저자들은 인간의 피드백을 기반으로 처벌 결정을 동적으로 업데이트함으로써 다양한 사회적 규범에 걸쳐 공정성을 확보하는 개념적 프레임워크를 제시한다.

ABSTRACT

Previous research has shown that the fairness and the legitimacy of a moral decision-maker are important for people's acceptance of and compliance with the decision-maker. As technology rapidly advances, there have been increasing hopes and concerns about building artificially intelligent entities that are designed to intervene against norm violations. However, it is unclear how people would perceive artificial moral regulators that impose punishment on human wrongdoers. Grounded in theories of psychology and law, we predict that the perceived fairness of punishment imposed by a robot would increase the legitimacy of the robot functioning as a moral regulator, which would in turn, increase people's willingness to accept and comply with the robot's decisions. We close with a conceptual framework for building a robot moral regulator that successfully can regulate norm violations.

연구 동기 및 목표

• 인간이 로봇이 부과하는 제재에 대해 준수할 의사가 어떻게 영향을 받는지, 특히 인식된 공정성과 정당성의 영향을 조사한다.
• 도덕적 규제에서 AI 편향 문제를 해결하기 위해 로봇의 결정을 보복 정의 이론과 비례 원칙에 기반하게 한다.
• 다양한 사회 집단에서 범죄의 심각도에 따라 처벌 강도를 조정할 수 있는 개념적 프레임워크를 개발한다.
• 제3자 피드백이 로봇 도덕적 규제자의 공정성과 정당성 캘리브레이션에 어떤 역할을 하는지 조사한다.
• 윤리적이고 인간이 수용할 수 있는 자율 도덕적 규제자를 설계하기 위해 인공지능, 심리학, 법학 분야 간 격차를 메운다.

제안 방법

• 제3자 평가를 통해 처벌의 공정성 여부를 평가함으로써 로봇이 비례성 추정 체계를 제3자 평가 기반으로 업데이트하는 피드백 기반 프레임워크를 제안한다.
• 보복 정의 이론의 비례 원칙을 적용하여 처벌 강도를 범죄의 심각도에 맞추도록 한다.
• 인간 평가자(제3자)를 통해 처벌이 과도하거나 부족하거나 적절한지 범죄의 심각도에 비해 평가한다.
• 시간이 지남에 따라 변화하는 집단 규범과 문화적 맥락을 반영하여 처벌 결정을 동적으로 조정하는 시스템을 설계한다.
• 타일러의 절차적 정의 이론 등 공정성과 정당성에 관한 심리학 이론을 로봇 의사결정 아키텍처에 통합한다.
• 반복적이고 일관되며 비례적인 개입을 통해 공정성에 대한 증거를 축적하는 시스템으로 로봇 도덕적 규제자를 모델링한다.

실험 결과

연구 질문

• RQ1 로봇이 부과한 처벌의 인식된 공정성이 인간이 로봇의 도덕적 규제자로서의 정당성을 어떻게 평가하는지에 영향을 미치는가?
• RQ2 처벌의 비례성과 인간이 로봇의 결정을 준수할 의사에 대한 관계는 어떠한가?
• RQ3 로봇 도덕적 규제자는 다양한 사회 집단에서 서로 다른 규범 기준을 가진 집단 간에 처벌 결정을 어떻게 적응시킬 수 있는가?
• RQ4 제3자 피드백이 로봇 도덕적 규제의 인식된 공정성과 정당성에 얼마나 기여하는가?
• RQ5 예를 들어, 범죄의 심각도에 따라 과도한 처벌이나 과소 처벌이 인간 관찰자에게 공정하게 인식되는가?

주요 결과

• 심각한 규범 위반의 경우, 참가자들은 과도한 처벌을 과소 처벌보다 더 공정하게 인식했으며, 피해가 클수록 엄격한 처벌이 더 정당화된다는 것을 시사한다.
• 경미한 위반의 경우, 과도한 처벌과 과소 처벌 간의 공정성 인식에 유의미한 차이가 없었으며, 이는 처벌 강도의 경미한 차이가 덜 중요하다는 것을 의미한다.
• 비례한 처벌에 반복적으로 노출된 참가자들은 로봇이 공정하고 정당한 도덕적 규제자로 더 잘 인식하게 되었다.
• 처벌의 공정성 인식이 처벌 비례성과 인간의 로봇 결정 준수 의사 간의 관계를 매개했다.
• 제3자 평가자를 포함한 피드백 루프는 로봇의 처벌 시스템을 캘리브레이션하는 데 기여했으며, 피해자나 가해자와 같은 단일 관점에 의존하는 것을 줄였다.
• 개념적 프레임워크는 집단별 규범에 맞게 처벌을 동적으로 적응시킬 수 있게 하여, 공정성이 맥락에 따라 달라지고 문화적으로 다양함을 인정한다.