[論文レビュー] Exploring the Relevance of Data Privacy-Enhancing Technologies for AI Governance Use Cases

Emma Bluemke, Tantum Collins+2 more|arXiv (Cornell University)|Mar 15, 2023

Privacy-Preserving Technologies in Data被引用数 8

ひとこと要約

この論文は、プライバシー強化技術（PET）が外部の監視、監査、出典検証を可能にすることでAIガバナンスを支援できると主張し、相互運用可能でシステム全体の標準と実践の必要性を強調します。

ABSTRACT

The development of privacy-enhancing technologies has made immense progress in reducing trade-offs between privacy and performance in data exchange and analysis. Similar tools for structured transparency could be useful for AI governance by offering capabilities such as external scrutiny, auditing, and source verification. It is useful to view these different AI governance objectives as a system of information flows in order to avoid partial solutions and significant gaps in governance, as there may be significant overlap in the software stacks needed for the AI governance use cases mentioned in this text. When viewing the system as a whole, the importance of interoperability between these different AI governance solutions becomes clear. Therefore, it is imminently important to look at these problems in AI governance as a system, before these standards, auditing procedures, software, and norms settle into place.

研究の動機と目的

• AIガバナンスの目標をサポートするためにプライバシー強化技術（PETs）の利用を動機づける。
• AIガバナンス情報の流れをシステムとして捉え、重複とギャップを識別する。
• ガバナンスソリューションにおける相互運用性と共有ソフトウェアスタックの役割を強調する。
• システム全体の標準・監査手順・規範が定着する前に検討するべきであると提唱する。

提案手法

• AIガバナンスの目的を情報の流れのシステムとして概念的に framing する。
• PETsがガバナンス文脈で透明性、監査、出典検証をどのように支援できるかを分析する。
• AIガバナンスのユースケース間での相互運用性とソフトウェアスタックの再利用を主張する。

実験結果

リサーチクエスチョン

• RQ1 データプライバシー強化技術はAIガバナンスにおける外部監視・監査・出典検証にどのように寄与できるか。
• RQ2 AIガバナンスを情報フローの相互接続されたシステムとして捉えることの価値は、相互運用性とギャップの観点で何か。
• RQ3 効果的なAIガバナンスのために、ガバナンス解決策間の相互運用性はなぜ重要か。

主な発見

• プライバシー強化技術は、データの交換と分析におけるプライバシーと性能のトレードオフを低減する方向で進展している。
• 外部監視、監査、出典検証は、AIガバナンスにおいてPET様のツールによって支援され得る。
• AIガバナンスを情報の流れのシステムとして見ると、ソフトウェアスタックの重複と潜在的なガバナンスギャップが明らかになる。
• ガバナンスソリューション間の相互運用性は、部分的な解決やギャップを避けるために重要である。
• 標準、監査手順、ソフトウェア、規範は、定着する前にシステムとして検討されるべきである。