[논문 리뷰] AI Governance and Ethics Framework for Sustainable AI and Sustainability

Mahendra Samarawickrama|arXiv (Cornell University)|2022. 09. 28.

Ethics and Social Impacts of AI인용 수 5

한 줄 요약

이 논문은 인간 중심의 윤리, 다양성, 포용성 및 형평성(DEI)을 중심으로 한 종합적인 인공지능 거버넌스 및 윤리 프레임워크를 제안하여 AI가 지속 가능성과 연합국 지속 가능한 발전 목표(SDGs)와 일치하도록 한다. 이는 KITE 추상화 프레임워크와 풍력 터빈 개념 모델을 도입하여 조직이 사람, 문화, 미션을 통해 윤리적 AI 실천을 통합할 수 있도록 안내하며, AI가 사회 정의와 장기적 지속 가능성을 이끄는 데 기여하도록 한다.

ABSTRACT

AI is transforming the existing technology landscape at a rapid phase enabling data-informed decision making and autonomous decision making. Unlike any other technology, because of the decision-making ability of AI, ethics and governance became a key concern. There are many emerging AI risks for humanity, such as autonomous weapons, automation-spurred job loss, socio-economic inequality, bias caused by data and algorithms, privacy violations and deepfakes. Social diversity, equity and inclusion are considered key success factors of AI to mitigate risks, create values and drive social justice. Sustainability became a broad and complex topic entangled with AI. Many organizations (government, corporate, not-for-profits, charities and NGOs) have diversified strategies driving AI for business optimization and social-and-environmental justice. Partnerships and collaborations become important more than ever for equity and inclusion of diversified and distributed people, data and capabilities. Therefore, in our journey towards an AI-enabled sustainable future, we need to address AI ethics and governance as a priority. These AI ethics and governance should be underpinned by human ethics.

연구 동기 및 목표

• AI의 증가하는 위험—예를 들어 편향, 일자리 감소, 개인정보 침해—을 예방하기 위해 윤리적 거버넌스를 AI 개발에 통합함으로써 이를 해결하고자 한다.
• 환경, 사회, 거버넌스(ESG) 원칙과 연합국 지속 가능한 발전 목표(SDGs)를 통합하여 AI를 지속 가능성과 일치시킨다.
• AI 리더십, 데이터, 알고리즘, 의사결정 과정에서의 다양성, 포용성 및 형평성(DEI)을 통해 사회 정의를 증진한다.
• 조직이 윤리적 AI를 기업 문화, 미션, 운영에 통합할 수 있도록 실용적인 거버넌스 프레임워크를 제공하고자 한다.
• 윤리적 혁신과 이해관계자 협업을 통해 AI를 지속 가능한 발전과 사회적 복리의 핵심 추진력으로 위치시킨다.

제안 방법

• KITE 추상화 프레임워크를 제안하여 금의 원칙의 '왜'와 AI 거버넌스를 일치시키며, ESG 및 SDGs와 일치하는 목적 중심의 AI를 강조한다.
• 풍력 터빈 개념 모델을 도입하여 AI 거버넌스를 시각화하며, 로터는 윤리적 가치와 정책을, 기어박스는 파트너와 지역 사회를, 발전기는 데이터와 AI 능력을 상징한다.
• 결과가 인류에 유익하고 해를 최소화하도록 보장하기 위해 인간 윤리—특히 결과주의와 후생주의—를 AI 거버넌스에 통합한다.
• 다양성 있는 리더십과 포용적인 프로세스의 역할을 강조하여 알고리즘 및 데이터 편향을 줄이고 AI 시스템의 공정성을 향상시킨다.
• AI 이니셔티브를 조직 문화, 인사관리(HR), 그리고 미션과 일치시켜 지속 가능하고 윤리적인 AI 전환을 조율할 것을 제안한다.
• 제한된 세그먼트 스플라인 회귀, K-평균 군집화의 한계 등 사례 연구와 개념 모델을 활용하여 윤리적 데이터 모델링과 알고리즘 공정성을 입증한다.

실험 결과

연구 질문

• RQ1 인간의 가치와 지속 가능성과 일치하는 윤리적 결과를 보장하기 위해 AI 거버넌스는 어떻게 구성되어야 하는가?
• RQ2 다양성, 포용성 및 형평성(DEI)은 AI 시스템의 편향을 완화하고 공정성을 향상시키는 데 어떤 역할을 하는가?
• RQ3 AI는 어떻게 거버넌스되어야 하며, 연합국 지속 가능한 발전 목표(SDGs)와 ESG 원칙을 지원할 수 있는가?
• RQ4 조직의 문화, 구성원, 미션에 윤리적 AI를 효과적으로 통합할 수 있는 프레임워크는 무엇인가?
• RQ5 AI 혁신은 어떻게 이끌려야 하며, 단기적 이익이 아닌 장기적 지속 가능성과 사회 정의를 위해 기여할 수 있는가?

주요 결과

• KITE 프레임워크는 조직의 핵심 목적(왜)과 AI 거버넌스를 효과적으로 연결하여, 윤리적 추상화를 통해 ESG 및 SDGs와의 일치를 보장한다.
• 풍력 터빈 모델은 이사회 및 리더들이 AI 생명주기 전반에서 프로세스, 이해관계자, 윤리적 결과를 감시할 수 있도록 시각적이고 운영적인 안내를 제공한다.
• 리더십, 데이터, 알고리즘 설계에 DEI를 통합하면 편향을 크게 줄이고, 특히 비정규분포 또는 복잡한 데이터 분포에서 공정성을 향상시킨다.
• 윤리적 AI 거버넌스는 반드시 인간 윤리—특히 후생주의 및 결과주의 원칙—에 기반해야 하며, 해를 최소화하고 사회적 복리를 극대화해야 한다.
• IT, 데이터 과학, AI 능력이 사회 정의 및 ESG 목표와 전략적으로 통합될 때 지속 가능한 AI는 조직의 核심 역량이 된다.
• DEI와 윤리적 거버넌스를 AI 개발에 통합한 조직은 지속 가능성 목표와 더 잘 일치하고, 브랜드 옹호가 향상되며, 사회적 영향 향상 투자에서 높은 ROI를 기록한다.