[论文解读] AI Governance and Ethics Framework for Sustainable AI and Sustainability

Mahendra Samarawickrama|arXiv (Cornell University)|Sep 28, 2022

Ethics and Social Impacts of AI被引用 5

一句话总结

本文提出了一套全面的AI治理与伦理框架，以人类伦理、多样性、公平与包容性（DEI）为核心，旨在使AI与可持续发展目标及联合国可持续发展目标（SDGs）保持一致。该框架引入了KITE抽象模型和风力涡轮机概念模型，指导组织通过人员、文化和使命嵌入伦理AI实践，确保AI推动社会正义与长期可持续发展。

ABSTRACT

AI is transforming the existing technology landscape at a rapid phase enabling data-informed decision making and autonomous decision making. Unlike any other technology, because of the decision-making ability of AI, ethics and governance became a key concern. There are many emerging AI risks for humanity, such as autonomous weapons, automation-spurred job loss, socio-economic inequality, bias caused by data and algorithms, privacy violations and deepfakes. Social diversity, equity and inclusion are considered key success factors of AI to mitigate risks, create values and drive social justice. Sustainability became a broad and complex topic entangled with AI. Many organizations (government, corporate, not-for-profits, charities and NGOs) have diversified strategies driving AI for business optimization and social-and-environmental justice. Partnerships and collaborations become important more than ever for equity and inclusion of diversified and distributed people, data and capabilities. Therefore, in our journey towards an AI-enabled sustainable future, we need to address AI ethics and governance as a priority. These AI ethics and governance should be underpinned by human ethics.

研究动机与目标

• 通过在AI开发中嵌入伦理治理，应对AI日益增长的风险，如偏见、岗位替代和隐私侵犯。
• 通过整合环境、社会与治理（ESG）原则及联合国可持续发展目标（SDGs），使AI与可持续发展保持一致。
• 通过在AI领导层、数据、算法和决策过程中推动多样性、公平与包容性（DEI），促进社会正义。
• 为组织提供切实可行的治理框架，将伦理AI嵌入企业文化、使命与运营之中。
• 通过伦理创新与利益相关方协作，将AI定位为核心可持续发展与社会福祉的推动者。

提出的方法

• 提出KITE抽象模型，将AI治理与黄金圈的‘为何’（why）对齐，强调以使命为导向的AI，与ESG和SDGs保持一致。
• 引入风力涡轮机概念模型，以可视化AI治理，其中转子代表伦理价值观与政策，齿轮箱象征合作伙伴与社区，发电机代表数据与AI能力。
• 将人类伦理——特别是后果主义与功利主义——融入AI治理，以确保结果服务于人类并最小化伤害。
• 强调多样化领导层与包容性流程的作用，以减少算法与数据偏见，提升AI系统中的公平性。
• 建议将AI举措与企业文化、人力资源和组织使命对齐，以协调可持续、伦理的AI转型。
• 通过案例分析与概念模型（例如，受限三次样条回归、K均值聚类局限性）展示伦理数据建模与算法公平性。

实验结果

研究问题

• RQ1 如何构建AI治理结构，以确保其结果与人类价值观及可持续发展保持一致？
• RQ2 多样性、公平与包容性（DEI）在减轻AI系统偏见与提升公平性方面发挥何种作用？
• RQ3 如何治理AI以支持联合国可持续发展目标（SDGs）与ESG原则？
• RQ4 何种组织框架能有效将AI伦理整合到企业文化、人员与使命之中？
• RQ5 如何引导AI创新，使其服务于社会正义与长期可持续发展，而非短期利益？

主要发现

• KITE框架能有效将AI治理与组织的核心宗旨（为何）对齐，通过伦理抽象确保与ESG和SDGs的一致性。
• 风力涡轮机模型为董事会与领导者提供了可视化与操作性指导，用于监督AI生命周期中的流程、利益相关方与伦理结果。
• 在领导层、数据与算法设计中融入DEI，能显著减少偏见并提升公平性，尤其在非高斯或复杂数据分布中表现更优。
• 伦理AI治理必须以人类伦理为基础——特别是功利主义与后果主义原则——以最小化伤害并最大化社会福祉。
• 当IT、数据科学与AI能力与社会正义及ESG目标战略对齐时，可持续AI便成为组织的核心能力。
• 将DEI与伦理治理嵌入AI开发的组织，报告称其与可持续发展目标的对齐度更高，品牌倡导力更强，社会影响力举措的投资回报率也更高。