[論文レビュー] Auditing large language models: a three-layered approach

Jakob Mökander, Jonas Schuett+2 more|arXiv (Cornell University)|Feb 16, 2023

Natural Language Processing Techniques被引用数 5

ひとこと要約

本論文は、技術提供者におけるガバナンス監査、事前学習後・リリース前のモデル監査、および下流利用におけるアプリケーション監査から成る三層構造の監査フレームワークを提案する。このアプローチにより、技術的・倫理的・法的次元において、連携可能で現実的かつ効果的なリスク同定が可能となり、LLMにおける発生リスクを管理するための構造的ツールキットをステークホルダーに提供する。

ABSTRACT

Large language models (LLMs) represent a major advance in artificial intelligence (AI) research. However, the widespread use of LLMs is also coupled with significant ethical and social challenges. Previous research has pointed towards auditing as a promising governance mechanism to help ensure that AI systems are designed and deployed in ways that are ethical, legal, and technically robust. However, existing auditing procedures fail to address the governance challenges posed by LLMs, which display emergent capabilities and are adaptable to a wide range of downstream tasks. In this article, we address that gap by outlining a novel blueprint for how to audit LLMs. Specifically, we propose a three-layered approach, whereby governance audits (of technology providers that design and disseminate LLMs), model audits (of LLMs after pre-training but prior to their release), and application audits (of applications based on LLMs) complement and inform each other. We show how audits, when conducted in a structured and coordinated manner on all three levels, can be a feasible and effective mechanism for identifying and managing some of the ethical and social risks posed by LLMs. However, it is important to remain realistic about what auditing can reasonably be expected to achieve. Therefore, we discuss the limitations not only of our three-layered approach but also of the prospect of auditing LLMs at all. Ultimately, this article seeks to expand the methodological toolkit available to technology providers and policymakers who wish to analyse and evaluate LLMs from technical, ethical, and legal perspectives.

研究の動機と目的

• 大規模言語モデル（LLMs）の出現的で汎用的な能力を十分に反映していない、従来の監査手法におけるギャップを埋める。
• モデル開発および展開段階におけるリスクを扱うことで、アプリケーションレベルの監査を補完するガバナンスメカニズムを構築する。
• 基礎モデルおよびLLMsが引き起こす独自の課題に適合した、構造的で連携可能かつ現実的な監査アプローチを構築する。
• 技術提供者、政策立案者、監査機関が、技術的・倫理的・法的視点からLLMを評価するための実用的ブループrintを提供する。
• LLMの文脈において監査をガバナンスツールとして用いる際の限界を認識し、現実的な期待を設定するための議論を行う。

提案手法

• AI監査、公平性、透明性、言語モデルに関連するキーワードを用いて、Google Scholar、Scopus、SSRN、Web of Science、arXivの5つのデータベースを対象とした体系的文献レビューを実施した。
• 含まれる研究の参照文献を活用してスノーボール法を用い、学術的でない監査手順を同定し、学術的ソースにとどまらない範囲をカバーした。
• リスク／コンプライアンス、内部／外部、事前／事後、機能／コード／影響の各次元に基づき、監査手順のタイプロジーを構築した。
• LLM固有のガバナンス課題と、既存の監査アフォーダンスとのギャップ分析を実施し、効果的なLLM監査に向けた6つの主要な設計主張を導いた。
• すべての主要リスクをカバーし、実装可能でコスト効率の良い、最小限で効果的な監査手順の組み合わせを特定することで、最小限で効果的な監査手順の集合を統合した。
• 20件を超える半構造的インタビューを通じて、複数の管轄区域にまたがる研究者、監査機関、AI開発者、政策立案者を対象に、ドラフトブループrintの妥当性を三角測定で検証した。

Figure 1: Blueprint for how to audit LLMs: A three-layered approach.

実験結果

リサーチクエスチョン

• RQ1 大規模言語モデル（LLMs）が示す出現的特性と広範な適応可能性を考慮すると、どのように監査を構造化すれば、倫理的・社会的リスクを効果的に対処できるか？
• RQ2 LLMライフサイクル全般（モデル開発から下流展開まで）における責任とリスク低減を確保するために、どのような監査レイヤーが必要か？
• RQ3 ガバナンス監査、モデル監査、アプリケーション監査をどのように連携させれば、重複を避けつつ透明性、堅牢性、コンプライアンスを向上できるか？
• RQ4 LLMの監査の実現可能性を制限する実務的・制度的制約は何か。これらはガバナンスフレームワーク内でどのように是正できるか？
• RQ5 監査は基礎モデルに対して実現可能なガバナンスメカニズムとしてどの程度有効であり、その固有の限界は何か？

主な発見

• ガバナンス、モデル、アプリケーションの三層構造は、LLM開発および展開の全段階でリスクを包括的かつ連携的に扱う包括的で整合性のあるフレームワークを提供する。
• 本フレームワークは、モデルリリース前に技術提供者レベルで監査を統合することで、事前にリスク同定が可能となり、倫理的・技術的ガードレールがシステムの初期段階から組み込まれることを保証する。
• 事前学習後・リリース前のモデル監査により、安全・公平性・堅牢性の系統的評価が公表前に実施可能となる。
• アプリケーション監査により、下流利用におけるLLMの使用状況を文脈に即した形で評価でき、モデル段階の評価では顕在しないリスクを捉えることができる。
• 本アプローチは、重複は避けつつも重なり合う監査機能を有することで、実装可能性とスケーラビリティを確保し、リソースの最適化と責任の明確化を図っている。
• 本フレームワークはその強みを有するが、モデルの不透明性、出現的行動、責任ギャップといった問題は、監査のみでは完全に解決できないと認識しており、とくにモデルと環境との複雑な相互作用に起因する被害発生時には特に限界がある。

Figure 2: Outputs from audits on one level become inputs for audits on other levels.