[論文レビュー] Towards Publicly Accountable Frontier LLMs: Building an External Scrutiny Ecosystem under the ASPIRE Framework

Markus Anderljung, Everett Thornton Smith+8 more|arXiv (Cornell University)|Nov 15, 2023

Topic Modeling被引用数 6

ひとこと要約

本論文は、先端的LLMの外部監視を制度化するためのASPIREフレームワーク（アクセス、検索姿勢、リスクへの割合、独立性、資源、専門性）を提案する。外部の監査者、研究者、市民社会などの主体による民主的で信頼できる評価が、公共の責任の確保に不可欠であると主張し、AIのライフサイクル全体にわたる構造的な監視が、強力なAIシステムに起因するシステム的リスクの低減とガバナンスの改善に寄与することを示している。

ABSTRACT

With the increasing integration of frontier large language models (LLMs) into society and the economy, decisions related to their training, deployment, and use have far-reaching implications. These decisions should not be left solely in the hands of frontier LLM developers. LLM users, civil society and policymakers need trustworthy sources of information to steer such decisions for the better. Involving outside actors in the evaluation of these systems - what we term 'external scrutiny' - via red-teaming, auditing, and external researcher access, offers a solution. Though there are encouraging signs of increasing external scrutiny of frontier LLMs, its success is not assured. In this paper, we survey six requirements for effective external scrutiny of frontier AI systems and organize them under the ASPIRE framework: Access, Searching attitude, Proportionality to the risks, Independence, Resources, and Expertise. We then illustrate how external scrutiny might function throughout the AI lifecycle and offer recommendations to policymakers.

研究の動機と目的

• フェアリー・LLM開発における公共の責任の向上が、フェイクニュース、監視、悪用といった高リスクの社会的影響から生じる急増するニーズに対応する必要があること。
• 開発者によるリスク評価に依存するのみでは、利害対立や情報格差のため、限界があること。
• 独立した主体による効果的で信頼できる外部監視を可能にする、構造的ガバナンスフレームワーク（ASPIRE）を提唱すること。
• 政策立案者に、外部監視が体系的で、十分な資源を備え、規制と監視に情報を提供できる仕組みを設計する手助けをすること。
• 研究者、市民社会、監査者を含む多様なステークホルダーが、先端AIシステムの評価と設計に貢献できるように、AIガバナンスの民主化を促進すること。

提案手法

• アクセス、検索姿勢、リスクへの割合、独立性、資源、専門性という6次元のガバナンスツールとしてASPIREフレームワークを開発する。
• 監視に不可欠な情報の種別と分析：モデルの能力、制御性、影響、モデル重み、内部構造、トレーニングデータ、システム部品、第三者による影響データ。
• 安全と透明性の両立を図るため、ベースモデルおよびメタデータへのAPIベースのアクセスを含む段階的アクセスモデルを提唱する。
• フェイクニュースなどの実世界の影響を調査するため、第三者（例：ソーシャルメディアプラットフォームなど）との間でプライバシー保護型のデータ共有メカニズムを提案する。
• トレーニングデータ、計算リソース、テスト結果などのメタ情報の共有に役立つ標準化されたドキュメンテーションとして、モデルカードとシステムカードを統合する。
• 赤チーム作業、監査、独立研究を通じて、開発段階、導入段階、導入後段階にわたり、外部監視を継続的プロセスとして位置づける。

実験結果

リサーチクエスチョン

• RQ1 フェアリー・LLM開発における公共の責任を確保するため、外部監視をどのように制度化できるか。
• RQ2 外部主体がフェアリー・LLMを意味的に評価できるために必要な、特定の情報種別とアクセスレベルは何か。
• RQ3 開発者提供のリスク評価に内在する情報格差や隠蔽のインcentivesを、外部監視がどのように克服できるか。
• RQ4 外部監視が独立性、十分な資源、技術的実行可能性を備えていることを保証するための構造的・手続的ガードレールは何か。
• RQ5 外部監視が政策意思決定にどのように寄与し、フェアリー・LLMの安全性と社会的影響をどのように改善できるか。

主な発見

• 赤チーム作業、監査、独立研究による外部監視は、開発者が見逃したり隠蔽したりするリスクを特定する上で不可欠である。
• ベースモデル、モデルファミリー、内部構造、トレーニングデータ、システム部品へのアクセスは、モデルの挙動、能力、故障モードの深い理解を可能にする。
• ASPIREフレームワークは、リスクに比例した、独立性と専門性に基づいた、包括的かつ実行可能な外部監視システム設計のための構造を提供する。
• すばやく設計された監視でもすべてのリスクを特定できないため、その影響は意思決定に影響を与えることに依存する。これにより、監視そのもの以上の、広範な制度的インcentivesの必要性が浮き彫りになる。
• 特にソーシャルメディア会社などのプラットフォームとの第三者データ共有は、フェイクニュースなどの実世界の影響を評価するために不可欠であるが、プライバシー保護型メカニズムを要する。
• モデルカードとシステムカードは透明性のための価値あるツールであるが、その公開は普及や悪用のリスクとバランスをとる必要がある。