[논문 리뷰] Socially Responsible AI Algorithms: Issues, Purposes, and Challenges

Lu Cheng, Kush R. Varshney외 1명|arXiv (Cornell University)|2021. 01. 01.

Ethics and Social Impacts of AI참고 문헌 211인용 수 35

한 줄 요약

이 설문 조사는 AI의 사회적 책임을 정의하고, AI 책임의 네 단계 피라미드를 제안하며, 윤리, 투명성, 안전성, 사회적 영향 등을 다루는 SRAs의 체계적 프레임워크를 제시한다.

ABSTRACT

In the current era, people and society have grown increasingly reliant on artificial intelligence (AI) technologies. AI has the potential to drive us towards a future in which all of humanity flourishes. It also comes with substantial risks for oppression and calamity. Discussions about whether we should (re)trust AI have repeatedly emerged in recent years and in many quarters, including industry, academia, healthcare, services, and so on. Technologists and AI researchers have a responsibility to develop trustworthy AI systems. They have responded with great effort to design more responsible AI algorithms. However, existing technical solutions are narrow in scope and have been primarily directed towards algorithms for scoring or classification tasks, with an emphasis on fairness and unwanted bias. To build long-lasting trust between AI and human beings, we argue that the key is to think beyond algorithmic fairness and connect major aspects of AI that potentially cause AI's indifferent behavior. In this survey, we provide a systematic framework of Socially Responsible AI Algorithms that aims to examine the subjects of AI indifference and the need for socially responsible AI algorithms, define the objectives, and introduce the means by which we may achieve these objectives. We further discuss how to leverage this framework to improve societal well-being through protection, information, and prevention/mitigation.

연구 동기 및 목표

• 원칙, 수단, 및 목표에 걸쳐 AI의 사회적 책임을 정의한다.
• 기능적, 법적, 윤리적, 자선적의 네 가지 책임으로 구성된 AI 책임 피라미드를 제안한다.
• SRAs 및 그 역할에 대한 체계적 프레임워크를 개발한다.
• 사회적으로 무심한 AI의 원인과 주체를 식별하고 SRAs를 달성하기 위한 메커니즘을 개략한다.

제안 방법

• AI의 사회적 책임을 원칙(principles), 수단(means), 목표(objectives)의 세 차원으로 형식적으로 정의한다.
• Carroll의 CSR 피라미드를 AI에 맞춰 기능적, 법적, 윤리적, 자선적의 네 가지 책임으로 적용한다.
• SRAs 프레임워크를 제안하고 그 핵심 요소, 역할, 사용자로부터의 피드백 루프를 상세히 설명한다.
• 공정성, 투명성, 책임성, 안전성 등 주제를 통합된 SRAs 관점 아래 조사하고 통합한다.
• 무관심의 원인 분석(형식화, 측정오류, 편향, 데이터 오용, 상관관계와 인과 관계의 구분).
• 해석가능성, 적대적 ML, 인과 학습, 불확실성 정량화를 통해 SRAs를 달성하기 위한 수단을 제시한다.

실험 결과

연구 질문

• RQ1 AI의 사회적 책임이 무엇이며 이를 어떻게 형식화할 수 있는가?
• RQ2 기능적, 법적, 윤리적, 자선적의 네 가지 피라미드가 AI 개발을 어떻게 이끄나?
• RQ3 SRAs의 체계적 프레임워크는 무엇이며 그 구성 요소들이 어떻게 상호 작용하여 부정적 AI 영향으로부터 보호하고 정보를 제공하며 완화하는가?
• RQ4 사회적으로 무심한 AI의 근본 원인은 무엇이며 SRAs가 이를 어떻게 해결할 수 있는가?

주요 결과

• 우리는 원칙, 수단, 및 목표에 걸친 AI의 사회적 책임에 대한 형식적 정의를 제시한다.
• AI 책임의 네 수준 피라미드를 도입한다: 기능적, 법적, 윤리적, 그리고 자선적.
• 필수 요소, 역할, 사용자 피드백을 사회적 결과와 연결하는 포괄적인 SRAs 프레임워크를 제안한다.
• AI의 사회적 무관심의 주요 원인(형식화, 측정오류, 편향, 데이터 오용, 상관관계와 인과의 구분)을 식별하고 이를 해결하기 위한 전략을 논의한다.
• SRAs를 위한 목표(공정성, 투명성, 안전) 및 수단(해석가능성, 적대적 ML, 인과 학습, 불확실성 정량화)을 논의한다.
• 이 연구는 새로운 AI 윤리 원칙과 정책의 필요성을 포함한 열린 문제와 도전 과제를 강조한다.