[論文レビュー] Ten Hard Problems in Artificial Intelligence We Must Get Right

Gavin Leech, Simson Garfinkel+3 more|arXiv (Cornell University)|Feb 6, 2024

Big Data and Business IntelligenceBusiness, Management and Accounting被引用数 3

ひとこと要約

この論文は、安全で倫理的かつ効果的なAI開発を保証するための、10の重要な「ハードな問題」を特定し、分析している。これらの課題は、アライメントや一般化からガバナンスや社会的影響まで多岐にわたり、最近の文献をレビューし、それらを解決するための実行可能な研究方向性を提示している。

ABSTRACT

We explore the AI2050 "hard problems" that block the promise of AI and cause AI risks: (1) developing general capabilities of the systems; (2) assuring the performance of AI systems and their training processes; (3) aligning system goals with human goals; (4) enabling great applications of AI in real life; (5) addressing economic disruptions; (6) ensuring the participation of all; (7) at the same time ensuring socially responsible deployment; (8) addressing any geopolitical disruptions that AI causes; (9) promoting sound governance of the technology; and (10) managing the philosophical disruptions for humans living in the age of AI. For each problem, we outline the area, identify significant recent work, and suggest ways forward. [Note: this paper reviews literature through January 2023.]

研究の動機と目的

• 責任あるで有益なAI開発を阻害する最も重要な課題を特定し、枠組みを構築すること。
• AIリスクの技術的、社会的、経済的、地政学的側面の相互作用を分析すること。
• 2023年1月までに発表された最新の文献を根拠に、10のハードな問題それぞれに対する構造的な研究アジェンダを提示すること。
• 研究者、政策立案者、実務家がAIの展開とガバナンスにおけるシステム的リスクに対処するよう導くこと。
• 技術的、倫理的、政策志向の解決策を併行して推進する必要性を強調することで、学際的協働を促進すること。

提案手法

• 論文は、AIの安全性、アライメント、社会統合への影響に基づき、10の明確に区別されたハードな問題を特定する問題中心のフレームワークを採用している。
• 各問題について、2023年1月までの最新の研究をレビューし、現在の研究状況を文脈づけ、ギャップを同定している。
• 研究手法は学際的分析を重視し、AIのアライメント、AIの安全性、社会科学、経済学、ガバナンスの知見を統合している。
• 各問題に対して、技術的イノベーション、制度設計、政策枠組みに焦点を当てた的確な研究パスを提言している。
• 各問題は、実現可能性、緊急性、長期的AI開発に与える潜在的影響の観点から検討されている。
• 論文は、問題同士の相互依存関係をマップするために構造的合成手法を用い、たとえばアライメントがガバナンスや経済的混乱に与える影響を明らかにしている。

実験結果

リサーチクエスチョン

• RQ1 現在、安全かつ有益なAIの展開を阻害している10の大切なハードな問題とは何か？
• RQ2 モデルの一般化やアライメントといった技術的課題が、労働市場の混乱や地政学的不安定といった社会的リスクとどのように相互作用しているか？
• RQ3 AI分野の最新の進展は、これらのハードな問題に対し、どの程度解決しているか、あるいは解決していないか。また、主要な知識のギャップはどこにあるか？
• RQ4 学際的リサーチとガバナンス枠組みをどのように一致させれば、これらの相互接続された課題を解決できるか？
• RQ5 10のハードな問題それぞれに最も有望な研究方向性は何か。そして、それらを最大のインパクトを得るためにどのように優先順位をつけるべきか？

主な発見

• 10のハードな問題は、AIの安全で公平かつ持続可能な発展を阻害するシステム的障壁を表している。
• 人間の価値観とAIの目的を一致させる課題は依然として中心的で、スケーラブルで堅牢な価値学習の分野での進展は限定的である。
• AIシステムにおける一般化とパフォーマンスの保証は、まだ信頼性がないままであり、特にオープンエンドや長期的なタスクでは顕著である。
• AIによる経済的・地政学的混乱の兆候はすでに現れており、労働市場や国際的安定性に大きなリスクを伴う。
• 包摂的参加と社会的責任ある展開は、技術的解決策だけではなく、意図的な制度的・政策的設計が不可欠である。
• ガバナンスや哲学的混乱（人間のアイデンティティや目的の変化など）は、能動的で学際的な研究と一般市民との関与が求められる。