[論文レビュー] Conceptualization and Framework of Hybrid Intelligence Systems

Nikhil Prakash, Kory W. Mathewson|arXiv (Cornell University)|Dec 11, 2020

Mobile Crowdsensing and Crowdsourcing参考文献 19被引用数 5

ひとこと要約

本稿は、人間と機械の知能を統合するハイブリッド知能システム（HIS）の明確な定義と、新たなフレームワークを提案する。HISは、人間と機械の知能を統合するAIシステムのスーパークラスとして位置づけられる。このフレームワークは、結合度と意思決定の主導権に基づいてHISを分類し、すべてのAIシステムが本質的にハイブリッドであり、公平性、責任性、透明性を確保するためには、ライフサイクルのあらゆる段階に人間要因を統合する必要があると主張する。

ABSTRACT

As artificial intelligence (AI) systems are getting ubiquitous within our society, issues related to its fairness, accountability, and transparency are increasing rapidly. As a result, researchers are integrating humans with AI systems to build robust and reliable hybrid intelligence systems. However, a proper conceptualization of these systems does not underpin this rapid growth. This article provides a precise definition of hybrid intelligence systems as well as explains its relation with other similar concepts through our proposed framework and examples from contemporary literature. The framework breakdowns the relationship between a human and a machine in terms of the degree of coupling and the directive authority of each party. Finally, we argue that all AI systems are hybrid intelligence systems, so human factors need to be examined at every stage of such systems' lifecycle.

研究の動機と目的

• 実世界のAI応用におけるハイブリッド知能システム（HIS）の増加にもかかわらず、その概念的明確性の欠如に対処すること。
• HISを明確に定義し、インタラクティブな機械学習、AI統合型システム、ミックスド・インティレイション・インタラクションといった関連概念と区別すること。
• 人間と機械の結合度と意思決定の主導権に基づき、既存および新興のHISを分類する統一的なフレームワークを確立すること。
• すべてのAIシステムが本質的にハイブリッド知能システムであり、ライフサイクルの各段階に人間要因の統合が不可欠であると主張すること。
• 公平性、責任性、透明性、倫理を重視する設計を促進することで、AI分野の実務家が人間中心の設計を重視するよう促すこと。

提案手法

• 人間と機械の知能を統合し、優れた成果を達成するシステムとして、ハイブリッド知能システムの形式的定義を提示する。ここには、継続的な学習と相互適応が含まれる。
• 人間と機械のコンponents間の結合度（緩いからきついまで）と意思決定の主導権（人間または機械主導）に基づく2次元フレームワークを導入する。
• このフレームワークを用いて、Teachable Machine、Mechanical Turk、Heteroglossia といった代表的なシステムを分類・比較する。
• Albusの知能の定義（不確実な環境において、最終的目標を支援する部分的目標を達成するために適切に行動すること）を根拠として、概念的枠組みを構築する。
• フレームワークの視点から既存のシステムを分析し、HISの組織的分類に有効であることを示す。
• 自己完結型のAIシステムは、もともとハイブリッドシステムによって作成された場合に限り、HISの部分集合とみなせるが、人間の入力なしに運用され始めると、もはやハイブリッドではなくなると主張する。

実験結果

リサーチクエスチョン

• RQ1 ハイブリッド知能システムとは何か？ また、インタラクティブな機械学習やAI統合型システムといった関連概念とはどのように異なるか？
• RQ2 人間と機械の知能の関係は、結合度と意思決定の主導権という観点から、どのように体系的に分類できるか？
• RQ3 すべてのAIシステムが本質的にハイブリッド知能システムであるとされる根拠は何か？ これには、システム設計にどのような影響があるか？
• RQ4 提案されたフレームワークは、実際の知能システムの分類、設計、ガバナンスにどのように改善をもたらすか？
• RQ5 人間要因はAIシステムのライフサイクル全体で果たす役割は何か？ なぜ、すべての段階に統合する必要があるのか？

主な発見

• 提案されたフレームワークは、結合度と意思決定の主導権に基づき、Teachable Machine や Heteroglossia といった既存のシステムを効果的に分類でき、実用的有効性を示している。
• 本稿は、ハイブリッド知能システムが、インタラクティブな機械学習やミックスド・インティレイション・システムを含む、他のAIパラダイムのスーパークラスを形成することを確立した。
• すべてのAIシステムは、開発段階、トレーニング段階、またはデプロイ段階で人間の入力を受けている以上、本質的にハイブリッド知能システムである。実行時における人間の能動的参加がなくても同様に該当する。
• フレームワークにより、Mechanical Turk は機械の知能が関与しない場合に限り、人間計算システムとみなせるが、そうでない場合はハイブリッド知能システムに分類されることが明らかになった。
• 本研究は、人間と機械の継続的学習が、ハイブリッドと分類されるための必要条件ではないことを示し、従来の定義に挑戦した。
• 本稿は、公平性、責任性、透明性、倫理的配備を確保するため、人間要因をシステムライフサイクルのすべての段階で検討する必要があると結論づけた。