[논문 리뷰] Survey on AI Ethics: A Socio-technical Perspective

Dave Mbiazi, Meghana Bhange외 4명|arXiv (Cornell University)|2023. 11. 28.

Adversarial Robustness in Machine Learning인용 수 7

한 줄 요약

이 논문은 공정성, 개인정보 보호, 책임성, 투명성, 안전성 및 환경 영향을 포함한 핵심 원칙들에 걸쳐 기술적 및 사회적 시각을 통합하는 AI 윤리에 대한 종합적인 사회기술적 조사 보고서를 제시한다. 기존 연구, 규정 및 기술적 해결책을 통합하여 신뢰할 수 있는 AI 시스템을 구축하기 위한 통합적 프레임워크를 제공하며, 윤리적 설계와 실제 사회적 영향 간의 상호작용을 강조한다.

ABSTRACT

The past decade has observed a significant advancement in AI with deep learning-based models being deployed in diverse scenarios, including safety-critical applications. As these AI systems become deeply embedded in our societal infrastructure, the repercussions of their decisions and actions have significant consequences, making the ethical implications of AI deployment highly relevant and essential. The ethical concerns associated with AI are multifaceted, including challenging issues of fairness, privacy and data protection, responsibility and accountability, safety and robustness, transparency and explainability, and environmental impact. These principles together form the foundations of ethical AI considerations that concern every stakeholder in the AI system lifecycle. In light of the present ethical and future x-risk concerns, governments have shown increasing interest in establishing guidelines for the ethical deployment of AI. This work unifies the current and future ethical concerns of deploying AI into society. While we acknowledge and appreciate the technical surveys for each of the ethical principles concerned, in this paper, we aim to provide a comprehensive overview that not only addresses each principle from a technical point of view but also discusses them from a social perspective.

연구 동기 및 목표

• 고위험 분야에 적용되는 AI 도입으로 인한 증가하는 사회적 및 기술적 과제를 다루기 위해.
• 공정성, 개인정보 보호, 책임성 및 투명성과 같은 윤리적 원칙들을 기술적 차원과 사회적 차원을 모두 포함하는 통합된 프레임워크로 통합하기 위해.
• 윤리적 AI 원칙과 실제 구현 간의 상호작용, 즉 상충 관계와 갈등을 분석하기 위해.
• AI 시스템 라이프사이클의 맥락에서 각 윤리적 원칙에 대한 현재 기술적 해결책과 규제 개혁을 평가하기 위해.
• AI 개발에서의 새로운 과제들인 '공정성 홍보'(fairwashing), 모델의 강건성 및 환경 지속 가능성 등을 부각시키기 위해.

제안 방법

• 2010년부터 2018년까지 윤리 지침, 규정 및 기술 문헌에 대한 체계적 리뷰 수행.
• 개인정보 보호 및 데이터 보호, 안전성 및 강건성, 투명성 및 설명 가능성, 공정성, 책임성 및 책임성, 환경 영향의 여섯 가지 핵심 영역으로 윤리적 원칙 분류.
• 멤버십 추론, 모델 역전환 및 데이터 풀링 공격 등을 포함한 기계학습 공격 및 방어 기법 분석. 특히 개인정보 보호 및 보안 위협에 중점을 둔다.
• 차별적 프라이버시, 적대적 훈련, 피어드레이티드 러닝, 모델 해석 가능성 기법(예: LIME, SHAP)과 같은 기술적 접근 방법 설문.
• 적대적 편향 제거, 적대적 재가중 및 사전 처리 방법을 포함한 공정성 완화 기법 평가.
• 에너지 효율성 지표, 모델 최적화 및 AI 인프라 내 재생 에너지 통합을 통한 환경 영향 평가.

실험 결과

연구 질문

• RQ1 AI 라이프사이클의 다양한 단계에서 AI 윤리의 기술적 차원과 사회적 차원은 어떻게 상호작용하는가?
• RQ2 기계학습 모델에서 개인정보 보호, 공정성 및 투명성을 확보하기 위한 주요 기술적 해결책과 그 제약은 무엇인가?
• RQ3 실제 AI 시스템에서 개인정보 보호와 정확성 또는 공정성 간의 상충하는 윤리적 원칙은 어떻게 상호작용하는가?
• RQ4 규제 및 준수 프레임워크는 조직 간 윤리적 AI 관행을 이행하는 데 어떤 역할을 하는가?
• RQ5 AI는 환경 지속 가능성에 어느 정도 기여할 수 있으며, 에너지 소비와 하드웨어 사용과 관련된 주요 상충 요소는 무엇인가?

주요 결과

• 특히 외주 또는 사전 훈련된 모델에서 멤버십 추론 및 모델 역전환 공격와 같은 취약성으로 인해 개인정보 보호 및 데이터 보호 문제가 여전히 주요 우려 사항이다.
• 차별적 프라이버시 및 적대적 훈련과 같은 기술적 방어 조치는 모델의 강건성을 향상시키지만 종종 정확성 및 공정성과의 상충 관계를 초래한다.
• 적대적 편향 제거와 같은 공정성 완화 기법은 인구 통계적 격차를 줄이지만, 민감한 속성이 사용될 경우 개인정보 보호와 충돌할 수 있다.
• LIME 및 SHAP와 같은 설명 가능성 도구는 투명성을 향상시키지만, 오해의 소지가 있거나 일관성 없는 설명을 생성할 수 있어 '공정성 홍보'(fairwashing)를 가능하게 한다.
• AI 시스템은 에너지 효율성 향상과 재생 에너지 통합을 촉진할 수 있지만, 훈련 및 추론 과정에서 상당한 환경 영향을 미치며 최적화가 필요하다.
• 책임성 및 준수를 보장하기 위한 규제 프레임워크가 도입되고 있으나, 윤리 기준의 표준화 및 조직 간 AI 시스템 감사의 과제는 여전히 남아 있다.