[논문 리뷰] Mathematicians and Ethical Engagement

Maurice Chiodo, Dennis Müller|arXiv (Cornell University)|2022. 12. 22.

Epistemology, Ethics, and Metaphysics인용 수 4

한 줄 요약

이 논문은 수학 분야에서 윤리적 참여를 위한 사례 수준의 프레임워크를 제안하며, 수학자들이 자신의 일에서 윤리적 영향을 사전에 인지하고, 이를 공유하며, 조치를 취해야 한다고 주장한다. 이는 금융, 감시, 인공지능 분야에서의 모델이 초래하는 사회적 피해를 해결하기 위해 윤리를 수학 교육에 통합할 것을 주장하며, 수학자들이 자신의 전문성 덕분에 자신의 일과 타인의 일에 대해 윤리적 검토를 이끌어야 한다고 강조한다.

ABSTRACT

Building on Chiodo and Bursill-Hall (2018), we outline that mathematicians can demonstrate what we term the "four levels of ethical engagement."

연구 동기 및 목표

• 금융, 감시, 인공지능 분야의 응용으로 인해 발생하는 점점 커지는 수학 분야의 윤리적 과제를 다루기 위해, 기존의 표절이나 출판 윤리와 같은 전통적 문제를 초월한다.
• 수학자들이 자신의 일로 사회에 직접적인 영향을 미치기 때문에, 특히 알고리즘 기반 의사결정과 같은 고위험 분야에서 윤리적으로 중립을 유지할 수 없다고 주장한다.
• 수학자들이 자신의 일에서 발생하는 윤리적 문제를 인지하고 대응할 수 있도록 도와주는 네 단계의 윤리적 참여 프레임워크를 제안한다.
• 법률, 의학, 공학 분야에서와 유사하게 수학 교육에 윤리 교육을 통합할 것을 주장한다.
• 복잡한 수학적 시스템의 타당성, 신뢰성, 사회적 영향을 의미 있게 평가할 수 있는 유일한 사람은 수학적으로 훈련된 사람이라는 점을 강조한다.

제안 방법

• 케임브리지 대학교에서 열린 윤리 세미나와 컨퍼런스의 관찰 기반으로 사례 수준의 윤리적 참여 모델을 개발했다.
• 샐리 클락 사건과 캐임브리지 애널리티카 사례를 통해 잘못된 수학적 추론이나 수학의 오용이 실제 세계에 해를 끼치는 방식을 설명했다.
• 수학자들이 수동적인 인식을 넘어서 동료 간 대화, 정책 참여, 공적 책임성에 적극적으로 참여해야 한다고 제안했다.
• 정치인, 규제 기관 등 비수학적 이해관계자들과의 소통을 위해 수학자들이 커뮤니케이션 능력과 정책 역량을 기르는 것이 필요하다고 강조했다.
• 공학, 의학, 법학 분야의 전문 윤리 교육과 유사하게, 기관 차원에서 윤리를 수학 교육에 통합할 것을 주장했다.
• 수학자들이 자신의 일에 대해 방어적 태도를 취하는 것 외에도, 유해하거나 오해의 소지가 있는 수학적 사용을 사전에 식별하고 도전해야 한다고 강조했다.

실험 결과

연구 질문

• RQ1 수학자들이 표절과 같은 전통적 문제를 초월해 자신의 일에서 발생하는 윤리적 문제를 체계적으로 어떻게 다룰 수 있는가?
• RQ2 수학자들이 자신의 일의 사회적 영향에 대응해 취할 수 있는 윤리적 책임의 구체적인 수준은 무엇인가?
• RQ3 특히 인공지능과 감시 분야에서, 수학자들이 자신의 모델이 초래하는 사회적 결과에 대해 윤리적으로 책임져야 하는 이유는 무엇인가?
• RQ4 수학적 모델의 한계와 위험을 법원 판사, 정치인, 일반 대중 같은 비전문가 대상으로 효과적으로 어떻게 전달할 수 있는가?
• RQ5 수학 교육에서 윤리 교육이 차지해야 할 역할은 무엇이며, 산업, 정부, 학문 분야에서의 윤리적 과제에 대비한 학생들을 준비시키는 데 어떤 기여를 할 수 있는가?

주요 결과

• 모든 수학적 작업은 사회적·정치적 맥락 속에서 이루어지며, 심지어 비용 최적화를 환경 영향력보다 우선시하는 등의 기본적 선택조차도 윤리적 함의를 지닌다.
• 윤리적 참여의 네 단계는 다음과 같다: (1) 윤리적 영향에 대한 개인적 인식, (2) 동료 간 대화 및 집단적 인식, (3) 정책 및 의사결정 과정 참여, (4) 해로운 또는 잘못된 수학적 관행에 대한 사전 검토.
• 샐리 클락 사건에서의 통계 오용은 '나쁜 수학'의 사례로, 수학적으로 타당하지 않은 추론이 잘못된 유죄 판결로 이어졌으며, 이는 왕립 통계학회에서 비판받았다.
• 수학자들이 윤리 전문가에게 위임하거나 중립을 주장할 수는 없으며, 경찰 및 금융 분야와 같은 고위험 분야에서 사용되는 모델의 타당성과 공정성을 평가하는 데 그 전문성이 필수적이다.
• 엔지니어와 의사가 전문 기준을 유지하듯이, 수학자들도 피해를 초래할 수 있는 잘못된 적용이나 과도한 신뢰를 받는 모델을 방지하기 위해 자신의 윤리 기준을 수립하고 유지해야 한다.
• 인공지능, 머신러닝, 감시 알고리즘과 같은 복잡한 시스템의 신뢰성과 사회적 영향을 의미 있게 평가할 수 있는 사람은 오직 수학적으로 훈련된 사람 뿐이며, 이들의 윤리적 경각심은 필수적이다.