[論文レビュー] Bridging the Human-AI Knowledge Gap: Concept Discovery and Transfer in AlphaZero

Lisa Schut, Nenad Tomašev+4 more|arXiv (Cornell University)|Oct 25, 2023

Sports Analytics and Performance被引用数 8

ひとこと要約

要約: 論文は AlphaZero から機械固有の（M-H）チェス概念を抽出するフレームワークを提示し、トップのグランドマスターが概念プロトタイプと teachability アセスメントを通じてこれらの概念を学習し適用できることを示します。

ABSTRACT

Artificial Intelligence (AI) systems have made remarkable progress, attaining super-human performance across various domains. This presents us with an opportunity to further human knowledge and improve human expert performance by leveraging the hidden knowledge encoded within these highly performant AI systems. Yet, this knowledge is often hard to extract, and may be hard to understand or learn from. Here, we show that this is possible by proposing a new method that allows us to extract new chess concepts in AlphaZero, an AI system that mastered the game of chess via self-play without human supervision. Our analysis indicates that AlphaZero may encode knowledge that extends beyond the existing human knowledge, but knowledge that is ultimately not beyond human grasp, and can be successfully learned from. In a human study, we show that these concepts are learnable by top human experts, as four top chess grandmasters show improvements in solving the presented concept prototype positions. This marks an important first milestone in advancing the frontier of human knowledge by leveraging AI; a development that could bear profound implications and help us shape how we interact with AI systems across many AI applications.

研究の動機と目的

• 超人間AI知識から人間の専門知識を拡張するという目標を動機づけ、 formalize する。
• 知識の単位として概念を定義し、転送・教授可能にする。
• AlphaZero における M-H 概念を発見、フィルタ、検証するためのフレームワークを開発する。
• 人間およびAI実験を通じて、発見された概念の teachability（教えやすさ）と新規性を示す。

提案手法

• 潜在空間でスパースな概念ベクトルを抽出する凸最適化問題として概念発見を定式化する。
• 静的概念（単一状態）と動的概念（状態列）を区別し、対応する制約を導出する。
• AlphaZero のポリシー・価値ネットワークと MCTS ロールアウトを用いて、動的概念の正の軌跡（AZ が好む）と負の軌跡を対比させる。
• 概念プロトタイプとポリシーの KL ダージランスを用いて学生ネットワークへの転送を測定し、 teachability をフィルタする。
• 概念の新規性を人間の対局には現れないことを確認することで担保し、Elo ベースの後期 AZ 訓練の差異を活用して複雑な概念を識別する。
• Xproto から概念プロトタイプを生成し、教師の手を模倣する学生を訓練し、トップ1の手の合意による概念転送を評価する。

実験結果

リサーチクエスチョン

• RQ1 AlphaZero の潜在表現には人間が意味を持って学習できる機械固有の知識（M-H）が含まれているのだろうか？
• RQ2 AlphaZero から新規で人間のチェス知識と異なる概念を抽出・フィルタ・教授できるだろうか？
• RQ3 概念プロトタイプはAI由来の概念を人間や他のAIエージェントへ転送するのに有効か？
• RQ4 動的で MCTS 主導の概念は、静的な単一局面の概念と比較して、学習可能性と転送においてどのように異なるか？

主な発見

• グランドマスターは concept プロトタイプに曝露された後、概念ベースの手を見つける能力が向上した。
• 発見された概念はしばしば従来の人間の原則とは異なる形でチェスのアイデアを組み合わせ、局面と概念の関係が異なる可能性を示唆する。
• teachability 実験は、概念プロトタイプが学生ネットワークへの転送を、AZ のランダムな局面よりも速く安定して実現できることを示唆する。
• フレームワークは新しい概念を人間がラベル付けした概念とグラフ分析を通じて関連付け、学習された概念の解釈性を提供できる。
• 概念の新規性は、後期の AZ 概念に焦点を当て、人間の対局表現と AZ 表現を比較することで機械固有の知識を特定することによって保証される。