[論文レビュー] Open Problems in Technical AI Governance

Anka Reuel, Ben Bucknall+31 more|arXiv (Cornell University)|Jul 20, 2024

Big Data and Business Intelligence被引用数 5

ひとこと要約

この論文は技術的AI統治（TAIG）を定義し、能力と対象の2次元タキソノミーを提示し、研究者と資金提供者を導くためのオープンな技術問題を列挙する。

ABSTRACT

AI progress is creating a growing range of risks and opportunities, but it is often unclear how they should be navigated. In many cases, the barriers and uncertainties faced are at least partly technical. Technical AI governance, referring to technical analysis and tools for supporting the effective governance of AI, seeks to address such challenges. It can help to (a) identify areas where intervention is needed, (b) identify and assess the efficacy of potential governance actions, and (c) enhance governance options by designing mechanisms for enforcement, incentivization, or compliance. In this paper, we explain what technical AI governance is, why it is important, and present a taxonomy and incomplete catalog of its open problems. This paper is intended as a resource for technical researchers or research funders looking to contribute to AI governance.

研究の動機と目的

• 技術的AI統治の分野を動機づけ、その重要性を正当化する。
• TAIG（能力と対象）の2次元タキソノミーを導入して問題を構造化する。
• オープンな技術的問題を列挙し、今後の研究のための具体的な研究質問を提供する。
• TAIGをより広いAI統治文献および政策的文脈に関連づける。

提案手法

• TAIGを定義し、そのAIガバナンスへの関係を説明する。
• 能力（例：評価、アクセス、検証、セキュリティ、運用化、エコシステム監視）と対象（データ、コンピュート、モデルとアルゴリズム、デプロイメント）を用いた2軸タキソノミーを開発する。
• オープンな問題を能力-対象の組み合わせにマッピングし、それぞれの領域の例として研究質問を提供する。
• 責任ある研究と資金提供を導くために、範囲、制限、潜在的なデュアルユースの懸念を強調する。
• 自己完結型のセクションと政策ブリーフの付録を備えた読者主導の構成を提供する。

実験結果

リサーチクエスチョン

• RQ1 兆のトークン/サンプルからなるデータセットの問題のあるデータを、スケーラブルな方法で識別するにはどうすればよいか（3.1.1）？
• RQ2 自動化されたライセンス収集とメタデータ報告により、未ライセンスデータでの学習を防ぐにはどうすればよいか（3.1.1、3.1.2）？
• RQ3 モデルの挙動を、事前学習データと微調整データを含む学習データに帰属させるにはどうすればよいか（3.1.3）？
• RQ4 大規模データセットを効果的に分析するために必要なインフラとメタデータは何か（3.1.2）？
• RQ5 大規模モデル訓練を統治するために、計算資源とハードウェアの仕様をどのように定義し、監視すべきか（3.2.1、3.2.2）？

主な発見

• 技術的AI統治（TAIG）という分野を紹介し、その重要性を動機づける。
• 能力と対象を備えたTAIGの構造化されたタキソノミーを提供する。
• データ、計算、モデル、デプロイ、評価、セキュリティ、エコシステム監視にまたがるオープンな問題を概説する。
• 技術研究者と資金提供者を導く具体的な研究質問の例と政策ブリーフを提供する。
• スケーラブルで頑健な評価手法とガバナンス志向のツールの必要性を強調する。
• デュアルユースの考慮事項と非技術的なガバナンス側面に言及する。