[논문 리뷰] Towards an Environmental Ethics of Artificial Intelligence

Nynke van Uffelen, Lode Lauwaert외 2명|ArXiv.org|2024. 12. 19.

Ethics and Social Impacts of AI인용 수 4

한 줄 요약

이 논문은 환경 정의 원칙—분배 정의, 절차 정의, 인정 정의—을 인공지능 설계에 통합하여 환경 윤리 프레임워크를 제안한다. 논문은 윤리적인 인공지능 개발이 비인간 주체에 미치는 생태적 영향을 고려해야 하며, 에너지 소비, 의사결정의 공정성, 제도적 규범을 바탕으로 인공지능 시스템의 환경 정의성 여부를 평가할 수 있는 기준을 제시한다.

ABSTRACT

In recent years, much research has been dedicated to uncovering the environmental impact of Artificial Intelligence (AI), showing that training and deploying AI systems require large amounts of energy and resources, and the outcomes of AI may lead to decisions and actions that may negatively impact the environment. This new knowledge raises new ethical questions, such as: When is it (un)justifiable to develop an AI system, and how to make design choices, considering its environmental impact? However, so far, the environmental impact of AI has largely escaped ethical scrutiny, as AI ethics tends to focus strongly on themes such as transparency, privacy, safety, responsibility, and bias. Considering the environmental impact of AI from an ethical perspective expands the scope of AI ethics beyond an anthropocentric focus towards including more-than-human actors such as animals and ecosystems. This paper explores the ethical implications of the environmental impact of AI for designing AI systems by drawing on environmental justice literature, in which three categories of justice are distinguished, referring to three elements that can be unjust: the distribution of benefits and burdens (distributive justice), decision-making procedures (procedural justice), and institutionalized social norms (justice as recognition). Based on these tenets of justice, we outline criteria for developing environmentally just AI systems, given their ecological impact.

연구 동기 및 목표

• 주류 인공지능 윤리에서 간과되었던 인공지능의 환경적 영향에 대한 윤리적 소홀을 해결하기 위해.
• 편향과 개인정보와 같은 인간 중심의 고려사항을 넘어서 생태계와 동물과 같은 비인간 실체를 포함한 인공지능 윤리의 범위를 넓히기 위해.
• 환경 정의 이론을 활용하여 인공지능 시스템의 생태적 영향을 평가하기 위한 프레임워크를 개발하기 위해.
• 환경적 해로움을 최소화하고 생태적 공정성을 증진하는 데 기여하는 실질적 기준을 제공하기 위해.
• 분배 정의, 절차 정의, 인정 정의를 인공지능 거버넌스 및 개발 관행에 통합하기 위해.

제안 방법

• 환경 정의 문헌을 바탕으로, 논문은 세 가지 기둥을 식별한다: 분배 정의(환경적 부담과 혜택의 공정한 분배), 절차 정의(포괄적인 의사결정 과정), 인정 정의(다양한 생태적 가치에 대한 존중).
• 저자는 이러한 세 가지 유형을 인공지능 시스템의 수명 주기 전반—학습에서 배포에 이르기까지—에서의 환경적 영향을 평가하는 데 적용한다.
• 생태적 영향을 윤리적 의사결정 프레임워크에 통합한 인공지능 설계를 위한 평가 기준 세트를 개발한다.
• 이 방법은 개념적 분석과 규범적 추론을 포함하며, 윤리 이론을 바탕으로 기술적 및 정책적 권고를 이끌어낸다.
• 실제 인공지능 개발 사례에 프레임워크를 적용하여 환경 정의성과 지속 가능성 수준을 평가한다.
• 이 접근법은 생태적 고려사항이 체계적으로 반영될 수 있도록 인공지능 거버넌스에서 이해관계자 포함과 제도적 책임성을 강조한다.

실험 결과

연구 질문

• RQ1 인공지능 시스템의 환경적 영향를 고려할 때, 언제 그 개발이나 배포가 윤리적으로 정당화될 수 있는가?
• RQ2 환경 정의 원칙은 어떻게 인공지능 시스템의 설계 및 거버넌스에 실천 가능하게 구현될 수 있는가?
• RQ3 생태계와 동물과 같은 비인간 실체는 인공지능 윤리 평가에서 어떤 역할을 하는가?
• RQ4 인공지능 의사결정의 절차적 공정성은 어떻게 생태적 이해관계자를 포함시킬 수 있는가?
• RQ5 기존의 인공지능 개발 제도적 규범은 생태적 상호의존성을 어떻게 간과하고 있는가?

주요 결과

• 특히 에너지 및 자원 소비 측면에서 인공지능의 환경적 영향은 현재의 인공지능 윤리 논의에서 다루지 못한 중요한 윤리적 문제이다.
• 환경 정의를 인공지능 윤리에 통합함으로써 동물과 생태계와 같은 비인간 주체를 포함한 더 넓은 윤리적 범위를 확보할 수 있다.
• 인공지능에서의 분배 정의는 지역 사회와 생태계 전반에 걸쳐 환경적 비용과 혜택의 공정한 분배를 평가하는 것을 요구한다.
• 인공지능에서의 절차 정의는 인공지능의 배포 및 설계에 관한 결정에 생태적 이해관계자가 포함된 포괄적인 과정을 요구한다.
• 인정 정의는 자연의 본질적 가치와 생태적 상호의존성을 인공지능 거버넌스에 반영하는 제도적 규범을 요구한다.
• 제안된 프레임워크는 생태적 지속 가능성과 공정성을 바탕으로 인공지능 시스템을 평가하기 위한 규범적 기반을 제공하며, 윤리적 설계를 위한 기준을 제시한다.