[논문 리뷰] EU regulations on algorithmic decision-making and a "right to explanation".

Bryce Goodman, Seth Flaxman|arXiv (Cornell University)|2016. 06. 28.

Artificial Intelligence in Healthcare and Education인용 수 137

한 줄 요약

이 논문은 기계 학습 알고리즘에 대한 EU의 일반 데이터 보호 규정(GDPR)의 영향을 분석하며, 특히 자동 개인 결정 부여를 제한하고 '설명에 대한 권리'를 도입한 점을 다룹니다. 이 규정들은 산업에 있어 상당한 도전 과제를 안겨주지만, 새로운 설계 및 평가 프레임워크를 통해 보다 공정하고 해석 가능한 알고리즘을 개발할 수 있는 기회를 제공한다고 주장합니다.

ABSTRACT

We summarize the potential impact that the European Union's new General Data Protection Regulation will have on the routine use of machine learning algorithms. Slated to take effect as law across the EU in 2018, it will restrict automated individual decision-making (that is, algorithms that make decisions based on user-level predictors) which significantly affect users. The law will also effectively create a right to explanation, whereby a user can ask for an explanation of an algorithmic decision that was made about them. We argue that while this law will pose large challenges for industry, it highlights opportunities for computer scientists to take the lead in designing algorithms and evaluation frameworks which avoid discrimination and enable explanation.

연구 동기 및 목표

• 유럽연합의 GDPR가 개인에게 중대한 영향을 미치는 자동화된 결정보다 시스템을 어떻게 규제할 것인지 분석하기 위해.
• 실제 기계 학습 시스템에서 '설명에 대한 권리'의 함의를 검토하기 위해.
• 투명한 알고리즘을 배포하는 데 있어 산업이 직면하는 GDPR의 도전 과제를 규명하기 위해.
• 컴퓨터 과학자들이 설명 가능하고 차별적이지 않은 알고리즘을 설계하는 데 주도적 역할을 할 수 있는 기회를 강조하기 위해.
• 규제적 제약 조건 하에서 투명성과 공정성을 지원하는 새로운 알고리즘 프레임워크 개발을 제안하기 위해.

제안 방법

• 자동화된 결정보다 시스템에 대한 요구사항을 특정하기 위해 GDPR의 법적 텍스트, 특히 제22조 및 제13-15조를 분석하기 위해.
• 기계 학습 시스템의 기술적 제약 조건에 규제 요구사항을 매핑하기 위해.
• 컴퓨터 과학자들이 설명 가능한 본질적 특성을 지닌 알고리즘을 설계하여 설명에 대한 권리의 요구를 충족시켜야 한다고 제안하기 위해.
• 정당성, 투명성 및 설명 가능성의 기준을 평가하는 평가 프레임워크를 도입할 것을 주장하기 위해.
• 기계 학습 파이프라인에 설명 생성 기능을 핵심 구성 요소로 통합할 것을 권고하기 위해.
• EU 법 하에서 준수 가능하고 윤리적인 AI 시스템을 개발하는 데 핵심적인 역할을 하는 컴퓨터 과학을 위치지키기 위해.

실험 결과

연구 질문

• RQ1 GDPR는 기계 학습 시스템 내에서 개인의 결정을 자동화하는 데 어떻게 제한을 가하는가?
• RQ2 GDPR 하에서 사용자와 개발자에게 '설명에 대한 권리'는 무엇을 의미하는가?
• RQ3 산업계와 연구자들이 GDPR의 투명성 요구사항을 준수하는 데 직면하는 기술적 과제는 무엇인가?
• RQ4 컴퓨터 과학자들이 규제적 제약 조건 하에서 설명 가능하고 공정한 기계 학습 시스템을 구축하는 데 어떻게 기여할 수 있는가?
• RQ5 GDPR의 투명성 및 차별 금지 원칙을 준수하기 위해 필요한 새로운 알고리즘 및 평가 프레임워크는 무엇인가?

주요 결과

• GDPR는 개인에게 중대한 영향을 미치는 자동화된 결정보다 시스템을 제한할 것이다. 특히 개인 정보 기반일 경우에 해당한다.
• 규정은 개인이 자신에 대해 내려진 알고리즘 결정에 대한 설명을 받을 법적 권리가 있음을 설정한다.
• '설명에 대한 권리'를 준수하기 위해서는 기계 학습 모델의 설계 및 구현 방식에 상당한 변화가 필요할 것이다.
• 규정은 컴퓨터 과학자들이 본질적으로 해석 가능한 공정한 알고리즘을 개발할 수 있는 강력한 동기를 제공한다.
• 연구자들이 투명성을 보장하고 자동화된 시스템 내의 편향을 줄이는 데 기여할 수 있는 평가 프레임워크를 개발할 기회가 점점 커지고 있다.
• GDPR의 요구사항은 기계 학습 라이프사이클 전반에 설명 가능성을 통합하는 데 새로운 기술적 접근이 필요하다는 점을 부각시킨다.