[논문 리뷰] SECure: A Social and Environmental Certificate for AI Systems

Abhishek Gupta, Camylle Lanteigne외 1명|arXiv (Cornell University)|2020. 06. 11.

Ethics and Social Impacts of AI참고 문헌 3인용 수 7

한 줄 요약

SECure는 AI 시스템의 사회적 및 환경적 영향을 평가하고 표준화하는 ESG 기반의 인증 프레임워크를 제안한다. 이는 계산 효율적인 모델, 연합 학습, 프라이버시 보존 기법을 통한 데이터 주권 확보, 그리고 LEED와 유사한 인증 체계를 통합하여 소비자가 윤리적으로 일치하는 AI 제품을 선택할 수 있도록 한다.

ABSTRACT

In a world increasingly dominated by AI applications, an understudied aspect is the carbon and social footprint of these power-hungry algorithms that require copious computation and a trove of data for training and prediction. While profitable in the short-term, these practices are unsustainable and socially extractive from both a data-use and energy-use perspective. This work proposes an ESG-inspired framework combining socio-technical measures to build eco-socially responsible AI systems. The framework has four pillars: compute-efficient machine learning, federated learning, data sovereignty, and a LEEDesque certificate. Compute-efficient machine learning is the use of compressed network architectures that show marginal decreases in accuracy. Federated learning augments the first pillar's impact through the use of techniques that distribute computational loads across idle capacity on devices. This is paired with the third pillar of data sovereignty to ensure the privacy of user data via techniques like use-based privacy and differential privacy. The final pillar ties all these factors together and certifies products and services in a standardized manner on their environmental and social impacts, allowing consumers to align their purchase with their values.

연구 동기 및 목표

• 에너지 집약적인 학습과 데이터 추출으로 인한 AI 시스템의 증가하는 환경적·사회적 비용을 해결하기 위해.
• 높은 계산 요구량과 중심집중형 데이터 수집을 포함한 현재 AI 개발에서의 지속 가능하지 않은 관행를 규명하기 위해.
• AI 시스템의 사회기술적 영향을 평가하기 위한 표준화되고 인증 가능한 프레임워크를 개발하기 위해.
• AI 지속 가능성에 대한 투명하고 감사 가능한 지표를 제공하여 소비자와 조직이 가치 기반 선택을 할 수 있도록 지원하기 위해.
• 환경 기준(예: LEED)을 모델로 삼아 기술적 원칙과 윤리적 원칙을 통합한 통합 인증 시스템을 설계하기 위해.

제안 방법

• 에너지 소비를 줄이기 위해 압축된 신경망 아키텍처를 활용한 계산 효율적인 기계학습을 도입하기 위해.
• 모델 학습을 엣지 디바이스에 분산하여 중앙 집중식 계산과 데이터 전송을 최소화하기 위해.
• 사용 기반 프라이버시 및 차등 프라이버시와 같은 프라이버시 보존 기법을 사용하여 데이터 주권을 강화하기 위해.
• 환경적 및 사회적 영향 지표를 기반으로 점수를 부여하는 LEED를 모델로 한 표준화된 인증 체계를 설계하기 위해.
• 기술적 효율성, 프라이버시 보호, 투명성을 통합하여 AI 제품을 평가하는 통합 평가 프레임워크를 조합하기 위해.
• 계산 효율성, 데이터 프라이버시, 환경 영향도 등 다양한 차원의 점수 체계를 사용하여 AI 시스템을 평가하기 위해.

실험 결과

연구 질문

• RQ1 AI 시스템의 환경적 및 사회적 영향을 표준화되고 감사 가능한 방식으로 평가하는 방법은 무엇인가?
• RQ2 AI 학습 및 추론의 탄소 발자국을 줄이기 위해 어떤 기술적 및 거버넌스 메커니즘이 활용될 수 있는가?
• RQ3 모델 성능을 유지하면서도 데이터 프라이버시와 사용자 주권을 어떻게 보장할 수 있는가?
• RQ4 LEED와 유사한 인증 프레임워크가 AI 시스템에 얼마나 적합하게 적용될 수 있는가?
• RQ5 연합 학습과 모델 압축이 지속 가능한 AI 구현에 어떻게 기여할 수 있는가?

주요 결과

• SECure 프레임워크는 AI 시스템의 환경적 및 사회적 영향을 평가하기 위한 체계적이고 ESG 기반의 접근법을 제공한다.
• 계산 효율적인 모델과 연합 학습은 에너지 소비와 데이터 중앙집중화 리스크를 크게 줄인다.
• 차등 프라이버시와 사용 기반 액세스 제어와 같은 프라이버시 보존 기법은 데이터 주권을 강화한다.
• 인증 모델은 투명성과 책임성을 보장하여 이해관계자가 AI 선택을 윤리적 가치와 일치시킬 수 있도록 한다.
• 프레임워크는 실세계 구현을 고려하여 설계되었으며 주요 AI 및 지속 가능성 심포지엄에서 발표를 확정받았다.
• 개발자가 효율성과 윤리적인 데이터 사용을 우선시하도록 유도함으로써 지속 가능한 AI로의 전환을 지원한다.