[論文レビュー] A Cyber Science Based Ontology for Artificial General Intelligence Containment

Jason M. Pittman, Courtney E. Soboleski|arXiv (Cornell University)|Jan 28, 2018

Scientific Computing and Data Management参考文献 36被引用数 3

ひとこと要約

本論文は、人工汎用知能（AGI）の封印を形式化するためのサイバーサイエンスに基づくオントロジーを提案する。AGI、人間、サイバーワールドといったコアな要素を、32の記述子を有する5段階のフレームワークに構造化している。主な貢献は、今後のAGI封印研究のための体系的で科学的に厳密な基盤を提供することであり、概念的明確性、文脈的フレーミング、および方法論的厳密性の欠如を是正する。

ABSTRACT

The development of artificial general intelligence is considered by many to be inevitable. What such intelligence does after becoming aware is not so certain. To that end, research suggests that the likelihood of artificial general intelligence becoming hostile to humans is significant enough to warrant inquiry into methods to limit such potential. Thus, containment of artificial general intelligence is a timely and meaningful research topic. While there is limited research exploring possible containment strategies, such work is bounded by the underlying field the strategies draw upon. Accordingly, we set out to construct an ontology to describe necessary elements in any future containment technology. Using existing academic literature, we developed a single domain ontology containing five levels, 32 codes, and 32 associated descriptors. Further, we constructed ontology diagrams to demonstrate intended relationships. We then identified humans, AGI, and the cyber world as novel agent objects necessary for future containment activities. Collectively, the work addresses three critical gaps: (a) identifying and arranging fundamental constructs; (b) situating AGI containment within cyber science; and (c) developing scientific rigor within the field.

研究の動機と目的

• AGI封印のための体系的で概念的なフレームワークの欠如に応えること。現在のところ、これは一時的なサイバーセキュリティ技術に依存している。
• サイバーサイエンスに根ざした形式的オントロジーを構築し、AGI封印の基本的構造を体系化すること。
• AGI封印を単純な人間対AGIの二項対立ではなく、より広範かつ動的なサイバーワールドの文脈に位置づけること。
• 科学的調査と共有理解を可能にする、再現可能で公理的基盤を提供すること。
• 現在AGI封印分野の進展を妨げている、科学的厳密性と概念的明確性の欠如を埋める

提案手法

• 学術文献から抽出した5段階の階層的レベル、32の原子的コード、および32の関連記述子を有する単一ドメインのオントロジーを構築した。
• 人間、AGI、サイバーワールドという3つの新規エージェントオブジェクトを定義し、封印関係の中心的実体とした。
• 封印ダイナミクスを表現するために、形式的な図式的構造を用いて関係性（R）、サブ属性（S）、および特徴（F）をモデル化した。
• 特にKott（2015）の悪意あるソフトウェアと意図に関する枠組みを応用し、サイバーサイエンスの原則を適用して、AGIおよび封印を能動的かつ相互作用的なエージェントとして再定式化した。
• 封印を、サイバーワールド内のエージェント間の能動的かつ動的な関係として形式化し、AGIによる攻撃（発動）と人間／防御者による防御（発動）を区別した。
• 機能的モデルを導入：f(c) = k は封印の均衡状態を表し、f(c) = k+1 は攻撃を表す。攻撃の二重特徴として、発動と意図（事前的または反応的）を定義した

実験結果

リサーチクエスチョン

• RQ1 形式的オントロジーをどのように構築することで、AGI封印の基本的構造を体系化できるか？
• RQ2 サイバーサイエンスにAGI封印を位置づけることで、概念的明確性と研究の厳密性がどのように向上するか？
• RQ3 動的なサイバーワールドにおいて、AGI封印を定義づけるために不可欠なエージェントオブジェクトと関係性は何か？
• RQ4 攻撃と防御を、特に発動と意図の観点から、どのように正式に区別できるか？
• RQ5 サイバーサイエンスに基づくオントロジーは、二項対立的・敵対的モデルから、より洗練され、科学的に根拠のある封印戦略への移行を可能にするか？

主な発見

• 本研究では、32の記述子を有する5段階のオントロジーを成功裏に開発し、AGI封印研究のための形式的かつ体系的なフレームワークを提供した。
• オントロジーは、封印ダイナミクスをモデル化するために不可欠な3つのコアエージェントオブジェクト（人間、AGI、サイバーワールド）を特定した。
• 封印は、静的または二項的状態ではなく、能動的かつ動的な関係として形式化されており、攻撃と防御の明確な役割分担がある。
• 攻撃は、発動（エージェントによる行動）と意図（事前的または反応的）という2つの同時特徴で定義される。一方、防御は常に反応的で、発動が一義的である。
• モデル f(c) = k は均衡状態の封印を表し、f(c) = k+1 は均衡からの逸脱を表す攻撃をモデル化する。これにより、封印の失敗に関する形式的分析が可能になる。
• オントロジーは、一時的なサイバーセキュリティ手法から、将来のAGI封印研究のための科学的に根拠があり再現可能なフレームワークへの移行を可能にする