[論文レビュー] Toward Intelligent Autonomous Agents for Cyber Defense: Report of the 2017 Workshop by the North Atlantic Treaty Organization (NATO) Research Group IST-152-RTG

Alexander Kott, Ryan W. Thomas+19 more|arXiv (Cornell University)|Apr 20, 2018

Network Security and Intrusion Detection参考文献 47被引用数 7

ひとこと要約

本論文は、複雑なネットワーク環境における高い自律性、自己学習能力、適応性を備えた知的で自律的なエージェントの包括的なフレームワークを提示している。エージェントはリアルタイムで脅威を検知・対応し、経験から学び、人間と協働し、厳密な設計原則に従って有害な行動を回避するように設計されており、シミュレートされた環境における運用可能性を示す事例研究が含まれている。

ABSTRACT

This report summarizes the discussions and findings of the Workshop on Intelligent Autonomous Agents for Cyber Defence and Resilience organized by the NATO research group IST-152-RTG. The workshop was held in Prague, Czech Republic, on 18-20 October 2017. There is a growing recognition that future cyber defense should involve extensive use of partially autonomous agents that actively patrol the friendly network, and detect and react to hostile activities rapidly (far faster than human reaction time), before the hostile malware is able to inflict major damage, evade friendly agents, or destroy friendly agents. This requires cyber-defense agents with a significant degree of intelligence, autonomy, self-learning, and adaptability. The report focuses on the following questions: In what computing and tactical environments would such an agent operate? What data would be available for the agent to observe or ingest? What actions would the agent be able to take? How would such an agent plan a complex course of actions? Would the agent learn from its experiences, and how? How would the agent collaborate with humans? How can we ensure that the agent will not take undesirable destructive actions? Is it possible to help envision such an agent with a simple example?

研究の動機と目的

• 知的で自律的なサイバー防御エージェントが効果的に機能できる運用および戦術的環境を定義すること。
• 動的ネットワーク環境におけるエージェントの観測および意思決定に利用可能なデータソースを特定すること。
• こうしたエージェントがサイバー脅威に対抗するために自律的に行える行動の範囲を特定すること。
• 進化するサイバー脅威に対して複雑かつ適応的な対応を計画するためのフレームワークを構築すること。
• 設計および検証メカニズムを通じて、予期しないまたは破壊的な行動をとらないようにエージェントの安全性を保証すること。

提案手法

• 著者らは、NATOおよび関係機関の専門家を招いた構造的ワークショップを実施し、エージェントの能力と制約を検討した。
• クラウド、エッジ、オンプレミスシステムを含む多様なコンピューティング環境におけるエージェントの運用を定義した。
• エージェントはリアルタイムのテレメトリ、ネットワークトラフィック、システムログ、脅威インテリジェンスフィードを入力するように設計されている。
• 行動計画は、ルールベースの論理と機械学習を組み合わせた適応的意思決定モデルに基づいている。
• 自律性と人間の監視のバランスをとるために、協働型インタラクションプロトコルと説明可能なAIコンponentsが導入されている。
• 形式的検証、行動制約、実行時モニタリングを通じて安全性が確保され、有害な行動の実行を防止している。

実験結果

リサーチクエスチョン

• RQ1 知的で自律的なサイバー防御エージェントは、どのようなコンピューティング環境および戦術的環境で運用されるべきか？
• RQ2 エージェントがリアルタイムで観測または入力可能なデータソースは何か？
• RQ3 こうしたエージェントがサイバー脅威に対抗するために自律的に行える行動の種別は何か？
• RQ4 エージェントはどのようにして複雑かつ適応的な応答戦略を計画・実行するか？
• RQ5 経験から学ぶ一方で、予期しないまたは破壊的な行動をとらないようにするにはどうすればよいか？

主な発見

• ワークショップでは、幅広いカバレッジと迅速な応答を確保するため、エージェントがハイブリッド環境、すなわちクラウド、エッジ、オンプレミスシステムを含む環境で運用される必要があると判明した。
• 正確な状況把握を可能にするため、エージェントはネットワークトラフィック、システムログ、リアルタイムの脅威インテリジェンスなど、多様なデータストリームへのアクセスを必要としている。
• 効果的なエージェント行動計画には、ルールベースの論理と適応的機械学習の統合が必要であり、人的介入を最小限に抑えて進化する脅威に応じた対応が可能になる。
• 人間とエージェントの協働は不可欠であり、エージェントはリアルタイムのインサイトと提言を提供するが、高リスクの行動については人間の承認を維持する「人間がループ内にいる」仕組みをとる。
• 形式的検証や実行時モニタリングを含む安全対策は、エージェントが予期しないまたは破壊的な行動をとらないように防止するために不可欠である。
• 事例研究により、シミュレートされたネットワーク環境における単純な自律エージェントの実現可能性が示された。マルウェアの拡散を迅速に検知・対応する能力が確認された。