[論文レビュー] NeuroAI for AI Safety

Patrick Mineault, Niccolò Zanichelli+13 more|arXiv (Cornell University)|Nov 27, 2024

Fault Detection and Control Systems被引用数 4

ひとこと要約

本論文は、脳の構造、学習アルゴリズム、神経表現を模倣することで神経科学的知見をAIセーフティに統合するNeuroAIを提案する。これにより、人工知能におけるロバストネス、解釈可能性、整合性が向上する。脳にインspiredされた設計が、エージェント型AIにおけるリスクを軽減できることを示しており、主な結果として、神経科学的知見に基づくアーキテクチャとデータ駆動型トレーニングにより、一般化性能とセーフティが向上している。

ABSTRACT

As AI systems become increasingly powerful, the need for safe AI has become more pressing. Humans are an attractive model for AI safety: as the only known agents capable of general intelligence, they perform robustly even under conditions that deviate significantly from prior experiences, explore the world safely, understand pragmatics, and can cooperate to meet their intrinsic goals. Intelligence, when coupled with cooperation and safety mechanisms, can drive sustained progress and well-being. These properties are a function of the architecture of the brain and the learning algorithms it implements. Neuroscience may thus hold important keys to technical AI safety that are currently underexplored and underutilized. In this roadmap, we highlight and critically evaluate several paths toward AI safety inspired by neuroscience: emulating the brain's representations, information processing, and architecture; building robust sensory and motor systems from imitating brain data and bodies; fine-tuning AI systems on brain data; advancing interpretability using neuroscience methods; and scaling up cognitively-inspired architectures. We make several concrete recommendations for how neuroscience can positively impact AI safety.

研究の動機と目的

• 将来のエージェント型および汎用AIシステムに関連する長期的AIセーフティ懸念に対処すること。
• 現在の文章的AIの限界を超えて、神経科学が技術的解決策をどのように支援できるかを検討すること。
• AIのロバストネス、協調性、目的の整合性を向上させるために、脳にインスパイアされたアプローチを同定および評価すること。
• 神経科学をAIセーフティ研究開発に統合するための実行可能な提言を提供すること。

提案手法

• DeepMindの2018年のAIセーフティフレームワークを改変し、ロバストネス、解釈可能性、整合性の各分野における神経科学的インスピレーションに基づくソリューションをマッピングする。
• 認知的にインスパイアされたニューラルアーキテクチャを通じて、脳に似た表現と情報処理をエミュレートする。
• 神経データ（例：電気生理学、カルシウムイメージング）を用いてAIモデルをファインチューニングし、一般化性能とセーフティを向上させる。
• 代表的類似性分析や共有分散成分分析（SVCA）などの神経科学ベースの解釈可能性ツールを適用して、モデル内部を調査する。
• 大規模な神経データセットを用いて、脳にインスパイアされたアーキテクチャをスケーリングし、次元性とスケーラビリティを分析する。
• ベイジアン線形回帰と対数対数スケーリング法を用いて、神経データの次元性が記録サイズにどのようにスケーリングするかをモデル化する。

実験結果

リサーチクエスチョン

• RQ1 脳の構造と学習アルゴリズムは、より安全でロバストなAIシステムの設計にどのように寄与できるか？
• RQ2 神経データ上でファインチューニングされたAIモデルは、分布外一般化性能とセーフティをどの程度向上できるか？
• RQ3 神経科学に基づく解釈可能性手法は、人工知能における透明性と整合性を向上させられるか？
• RQ4 種や記録モダリティに跨って、神経データの次元性のスケーリング特性はいかなるものか？
• RQ5 自由に利用可能な神経データセットは、より安全なAIシステムのトレーニングと評価にどのように活用できるか？

主な発見

• 神経データの次元性は、記録されたニューロン数に従って部分線形にスケーリングし、種を跨いで指数β ≈ 0.5–0.7のべき乗則に従う。
• 共有分散成分分析（SVCA）は、直交分解後にテストセットでの分散を測定することにより、神経次元性を信頼性高く推定できる。
• DANDI、OpenNeuro、iEEG.orgなどのリポジトリに蓄えられた自由に利用可能な神経データの総量は100,000時間以上にのぼり、Human Connectome ProjectとUK Biobankが主な貢献をしている。
• BrainScoreリーダーボードにおけるビジョンモデルでは、神経類似性が時間経過とともに2次関数的改善トレンドを示しており、生物学的視覚処理との整合性が加速していることが示唆される。
• 神経データ上でトレーニングされた脳にインスパイアされたアーキテクチャは、分布シフトに対してよりロバストであり、皮質領域との表現類似性により解釈可能性が向上している。
• 電気生理学、カルシウムイメージング、fMRIなど多様なモダリティの神経データは、標準化され、より安全で人間らしくインダクティブバイアスを有するAIシステムのトレーニングに利用可能である。