[论文解读] SECure: A Social and Environmental Certificate for AI Systems

Abhishek Gupta, Camylle Lanteigne+1 more|arXiv (Cornell University)|Jun 11, 2020

Ethics and Social Impacts of AI参考文献 3被引用 7

一句话总结

SECure 提出了一种受 ESG 启发的 AI 系统认证框架，用于评估和标准化其社会与环境影响。该框架整合了计算高效模型、联邦学习、通过隐私保护技术实现的数据主权，以及类似 LEED 的认证，使消费者能够选择符合伦理的 AI 产品。

ABSTRACT

In a world increasingly dominated by AI applications, an understudied aspect is the carbon and social footprint of these power-hungry algorithms that require copious computation and a trove of data for training and prediction. While profitable in the short-term, these practices are unsustainable and socially extractive from both a data-use and energy-use perspective. This work proposes an ESG-inspired framework combining socio-technical measures to build eco-socially responsible AI systems. The framework has four pillars: compute-efficient machine learning, federated learning, data sovereignty, and a LEEDesque certificate. Compute-efficient machine learning is the use of compressed network architectures that show marginal decreases in accuracy. Federated learning augments the first pillar's impact through the use of techniques that distribute computational loads across idle capacity on devices. This is paired with the third pillar of data sovereignty to ensure the privacy of user data via techniques like use-based privacy and differential privacy. The final pillar ties all these factors together and certifies products and services in a standardized manner on their environmental and social impacts, allowing consumers to align their purchase with their values.

研究动机与目标

• 解决由高能耗训练和数据提取驱动的 AI 系统日益增长的环境与社会成本。
• 识别当前 AI 开发中不可持续的实践，包括高计算需求和集中式数据收集。
• 开发一种标准化且可认证的框架，以评估 AI 系统的社会技术影响。
• 通过提供透明、可审计的 AI 可持续性指标，使消费者和组织能够做出价值一致的选择。
• 将技术与伦理原则整合到一个统一的认证系统中，该系统以类似 LEED 的环境标准为蓝本。

提出的方法

• 通过压缩神经网络架构采用计算高效的机器学习，以减少能源消耗。
• 实施联邦学习，将模型训练分布在边缘设备上，最大限度减少集中式计算和数据传输。
• 通过使用基于隐私和差分隐私等隐私保护技术，强化数据主权。
• 设计一种基于 LEED 的标准化认证系统，根据环境与社会影响指标分配评分。
• 将技术效率、隐私保护与透明度整合到统一的 AI 产品评估框架中。
• 采用多维评分系统，从计算效率、数据隐私和环境足迹等方面对 AI 系统进行评级。

实验结果

研究问题

• RQ1 如何以标准化、可审计的方式评估 AI 系统的环境与社会影响？
• RQ2 哪些技术和治理机制可以减少 AI 训练与推理的碳足迹？
• RQ3 如何在保持模型性能的同时保护数据隐私与用户主权？
• RQ4 多大程度上可以将类似 LEED 的认证框架适配于 AI 系统？
• RQ5 联邦学习与模型压缩在实现可持续 AI 部署方面能发挥什么作用？

主要发现

• SECure 框架为评估 AI 系统的环境与社会影响提供了一种结构化、受 ESG 启发的方法。
• 计算高效模型与联邦学习显著降低了能源消耗与数据集中化风险。
• 差分隐私和基于使用访问控制等隐私保护技术增强了数据主权。
• 认证模式实现了透明度与问责制，使利益相关方能够将其 AI 选择与伦理价值观对齐。
• 该框架专为现实世界部署而设计，并已被接受在主要人工智能与可持续性研讨会展示。
• 该系统通过激励开发者优先考虑效率与伦理数据使用，推动了向可持续 AI 的转型。