[論文レビュー] SECure: A Social and Environmental Certificate for AI Systems

Abhishek Gupta, Camylle Lanteigne+1 more|arXiv (Cornell University)|Jun 11, 2020

Ethics and Social Impacts of AI参考文献 3被引用数 7

ひとこと要約

SECureは、AIシステムの社会的・環境的影響を評価・標準化するESGにインspiredされた認証フレームワークを提案する。計算効率の良いモデル、フェデレーテッドラーニング、プライバシー保護技術によるデータ主権の確保、およびLEEDに類似した認証を統合することで、消費者が倫理的に整合したAI製品を選べるよう支援する。

ABSTRACT

In a world increasingly dominated by AI applications, an understudied aspect is the carbon and social footprint of these power-hungry algorithms that require copious computation and a trove of data for training and prediction. While profitable in the short-term, these practices are unsustainable and socially extractive from both a data-use and energy-use perspective. This work proposes an ESG-inspired framework combining socio-technical measures to build eco-socially responsible AI systems. The framework has four pillars: compute-efficient machine learning, federated learning, data sovereignty, and a LEEDesque certificate. Compute-efficient machine learning is the use of compressed network architectures that show marginal decreases in accuracy. Federated learning augments the first pillar's impact through the use of techniques that distribute computational loads across idle capacity on devices. This is paired with the third pillar of data sovereignty to ensure the privacy of user data via techniques like use-based privacy and differential privacy. The final pillar ties all these factors together and certifies products and services in a standardized manner on their environmental and social impacts, allowing consumers to align their purchase with their values.

研究の動機と目的

• エネルギー集約的なトレーニングとデータ抽出によって引き起こされるAIシステムの増大する環境的・社会的コストに対処する。
• 現在のAI開発における持続不可能な実践、特に高い計算要求と中央集権的なデータ収集を特定する。
• AIシステムの社会的・技術的影響を評価するための標準化され、認証可能なフレームワークを開発する。
• AIの持続可能性に関する透明で検証可能な指標を提供することで、消費者や組織が価値観に整合した選択を可能にする。
• 環境基準（例：LEED）をモデルにした統合型認証システムに、技術的および倫理的原則を統合する。

提案手法

• エネルギー消費を削減するため、圧縮されたニューラルネットワークアーキテクチャを用いた計算効率の良い機械学習を採用する。
• エッジデバイスに跨るモデルトレーニングを分散化することで、中央集権的な計算とデータ転送を最小限に抑えるフェデレーテッドラーニングを実装する。
• 使用ベースのプライバシーと微分プライバシーなどのプライバシー保護技術を用いて、データ主権を強化する。
• 環境的・社会的影響の指標に基づき、スコアを付与するLEEDに類似した標準化された認証システムを設計する。
• 技術的効率性、プライバシー保護、透明性を統合した、AI製品のための包括的評価フレームワークを構築する。
• 計算効率、データプライバシー、環境影響の各分野でスコアを付ける多次元スコアリングシステムを用いる。

実験結果

リサーチクエスチョン

• RQ1 AIシステムの環境的・社会的影響を、標準化され、検証可能な方法でどのように評価できるか？
• RQ2 AIトレーニングおよび推論の炭素足跡を低減するための技術的およびガバナンス的メカニズムは何か？
• RQ3 モデルのパフォーマンスを維持しつつ、どのようにしてデータプライバシーとユーザー主権を確保できるか？
• RQ4 LEEDに類似した認証フレームワークをAIシステムに適応できる程度はどの程度か？
• RQ5 フェデレーテッドラーニングとモデル圧縮は、持続可能なAIの展開にどのように寄与できるか？

主な発見

• SECureフレームワークは、環境的・社会的影響を評価するための構造的でESGにインスパイアされたアプローチを提供する。
• 計算効率の良いモデルとフェデレーテッドラーニングは、エネルギー消費とデータ集中化リスクを顕著に低減する。
• 微分プライバシーや使用ベースのアクセス制御などのプライバシー保護技術は、データ主権を強化する。
• 認証モデルにより透明性と説明責任が向上し、ステークホルダーがAI選択を倫理的価値と一致させられるようになる。
• フレームワークは実世界での展開を想定して設計されており、主要なAIおよび持続可能性シンポジウムでの発表が承認された。
• 開発者が効率性と倫理的なデータ利用を優先するよう促す仕組みを提供することで、持続可能なAIへの移行を支援する。