[論文レビュー] Structured access: an emerging paradigm for safe AI deployment

Toby Shevlane|arXiv (Cornell University)|Jan 13, 2022

Adversarial Robustness in Machine Learning被引用数 8

ひとこと要約

この論文は、AIの安全な展開のための新しいパラダイムとして「構造的アクセス」を提唱している。これは、モデルやコードのオープンな配布ではなく、制御されたクラウドベースのインターフェースを通じてユーザーの相互作用を制限することで実現される。この手法は、逆ルーティングや不正な改変を防ぐことで、単なる情報共有に焦点を当てた従来の出版規範よりも、より効果的な安全性戦略を提供すると主張している。

ABSTRACT

Structured access is an emerging paradigm for the safe deployment of artificial intelligence (AI). Instead of openly disseminating AI systems, developers facilitate controlled, arm's length interactions with their AI systems. The aim is to prevent dangerous AI capabilities from being widely accessible, whilst preserving access to AI capabilities that can be used safely. The developer must both restrict how the AI system can be used, and prevent the user from circumventing these restrictions through modification or reverse engineering of the AI system. Structured access is most effective when implemented through cloud-based AI services, rather than disseminating AI software that runs locally on users' hardware. Cloud-based interfaces provide the AI developer greater scope for controlling how the AI system is used, and for protecting against unauthorized modifications to the system's design. This chapter expands the discussion of "publication norms" in the AI community, which to date has focused on the question of how the informational content of AI research projects should be disseminated (e.g., code and models). Although this is an important question, there are limits to what can be achieved through the control of information flows. Structured access views AI software not only as information that can be shared but also as a tool with which users can have arm's length interactions. There are early examples of structured access being practiced by AI developers, but there is much room for further development, both in the functionality of cloud-based interfaces and in the wider institutional framework.

研究の動機と目的

• オープンウェイトモデルやコードの広範な配布による、危険なAI能力の広範なアクセスリスクに対処すること。
• 情報中心の出版規範から、AI展開のツール中心のモデルへの移行を提案すること。
• クラウドベースで制限されたインターフェースが、不正利用を防ぎつつ有益なアクセスを維持できるかを示すこと。
• 構造的アクセスを、AI分野における制度的・技術的セーフティ措置の実用的枠組みとして確立すること。

提案手法

• AIモデルやコードのオープンな配布から、アプリケーションプログラミングインターフェース（API）を介した制御されたクラウドホスティングへの移行を提唱すること。
• クラウドデプロイメントが、アクセス制御を強化し、逆ルーティングや不正な改変のリスクを低減できることを強調すること。
• ユーザーが内部アーキテクチャに直接アクセスせずにAIシステムと相互作用する「アームズ・レングス」の相互作用の概念を導入すること。
• 構造的アクセスを支援する制度的枠組み、特にガバナンスとコンプライアンスメカニズムの構築を提唱すること。
• 構造的アクセスを、情報の内容に焦点を当てるのではなく、AIシステムのツール的性質に焦点を当てる、従来の出版規範の補完的役割として位置づけること。
• 技術的および組織的制御が、AI展開における安全性を維持するために重要な役割を果たすことを強調すること。

実験結果

リサーチクエスチョン

• RQ1 AI開発者は、有益なアクセスを制限せずに、強力なAIシステムの不正利用をどのように防げるか？
• RQ2 現在の出版規範には、AIリスクを制御するうえでどのような限界があるか？
• RQ3 クラウドベースで制限されたインターフェースは、AIシステムの逆ルーティングや不正な改変を効果的に防げるか？
• RQ4 安全性と有用性の観点から、構造的アクセスはオープンウェイトモデル配布と比べてどのように異なるか？
• RQ5 構造的アクセスの広範な導入を支えるために、どのような制度的・技術的枠組みが必要か？

主な発見

• 構造的アクセスは、モデルウェイトや内部メカニズムへの直接アクセスを制限することで、不正利用のリスクを低減する。
• クラウドベースのデプロイメントにより、使用ポリシーの強力な適用と悪意ある行動の検出が可能になる。
• APIを通じたアクセス制限により、ユーザーがAIシステムを変更したり逆ルーティングしたりするのを防げる。
• このアプローチにより、正当で安全な利用事例へのアクセスが維持される。
• 構造的アクセスの初期例は存在するが、技術的インターフェースおよび制度的ガバナンスの両面でさらなる発展が求められる。
• とくに高機能なAIシステムに対しては、情報制御だけに依存するのとは異なり、構造的アクセスがより強固な安全性戦略を提供する。