[論文レビュー] Position: Towards Bidirectional Human-AI Alignment

Hua Shen, Tiffany Knearem+22 more|arXiv (Cornell University)|Jun 13, 2024

Digital Transformation in Industry被引用数 13

ひとこと要約

この論文は、400件超の研究の系統的レビューを通じて、双方向の人間-AIアラインメントを定義・体系化し、人間へのAIの適合とAIへの人間の適合の両方を含む長期的な相互フレームワークを提案し、今後の方向性を示す。

ABSTRACT

Recent advances in general-purpose AI underscore the urgent need to align AI systems with human goals and values. Yet, the lack of a clear, shared understanding of what constitutes "alignment" limits meaningful progress and cross-disciplinary collaboration. In this position paper, we argue that the research community should explicitly define and critically reflect on "alignment" to account for the bidirectional and dynamic relationship between humans and AI. Through a systematic review of over 400 papers spanning HCI, NLP, ML, and more, we examine how alignment is currently defined and operationalized. Building on this analysis, we introduce the Bidirectional Human-AI Alignment framework, which not only incorporates traditional efforts to align AI with human values but also introduces the critical, underexplored dimension of aligning humans with AI -- supporting cognitive, behavioral, and societal adaptation to rapidly advancing AI technologies. Our findings reveal significant gaps in current literature, especially in long-term interaction design, human value modeling, and mutual understanding. We conclude with three central challenges and actionable recommendations to guide future research toward more nuanced, reciprocal, and human-AI alignment approaches.

研究の動機と目的

• 学際的な観点から人間-AIアラインメントの定義と範囲を明確化する。
• AIを人間に適合させることと人間をAIに適合させることの両方を含む双方向の人間-AIアラインメントフレームワークを提案する。
• アラインメントに関する人間の価値観、対話技術、評価に関する知見を統合する。
• 近・中・長期の三つの課題を特定し、将来の解決策を提案する。

提案手法

• 400件超の論文（2019–Jan 2024）を対象としたPRISMAガイドラインに従う系統的文献調査。
• 反復的コーディングにより双方向フレームワークと分類法を導出する。
• 価値観、対話、評価に関する洞察を抽出するための論文の質的・量的分析。
• 分野横断的な研究を調和させる共通語彙とトポロジーの開発。
• 分野横断の文献と倫理学会（FAccT、AIES）を通じた検証による検証。

実験結果

リサーチクエスチョン

• RQ1 RQ1. AIアラインメントのために研究されている関連する人間の価値観は何で、 humans はどのようにこれらの価値観を具体化するのか？
• RQ2 RQ2. 人間の仕様はどのようにAI開発に統合されているのか？
• RQ3 RQ3. 既存の研究は人間の理解とAIアラインメントの評価をどのように改善しているのか？
• RQ4 RQ4. 人間とAIの協働を促進する対話設計の実践はどのようなものか？
• RQ5 RQ5. さまざまな人間の価値観グループのニーズに応えるようAIシステムはどのように適応されてきたのか？

主な発見

• 人間-AIアラインメントの定義と範囲が明確化され、誰とどのようなアラインを目指すのか、アラインメントの目標、対象となる価値観が整理されている。
• 人間へAIを合わせることとAIを人間へ合わせることの両方を含む、細分化された分類を伴う双方向の人間-AIアラインメントフレームワークが提示されている。
• 人間の価値観、対話技術、AI評価と人間評価のギャップに関する知見。
• 近期から長期までの将来の課題3つと、それに対する提案された解決方向。
• アラインメント研究者間の分野横断的なコミュニケーションを促進する体系的な語彙。