[論文レビュー] Looping in the Human Collaborative and Explainable Bayesian Optimization

Masaki Adachi, Brady Planden+6 more|arXiv (Cornell University)|Oct 26, 2023

Human-Automation Interaction and Safety被引用数 5

ひとこと要約

本稿では、ペairワイズ比較によるユーザーの好みの統合と、Shapley値に基づく説明を用いて信頼性とパフォーマンスを向上させる、人間とAIの協働型で説明可能なベイズ最適化（CoExBO）を提案する。CoExBOは、悪意のある人間の入力に対しても収束を保証し、ベースライン手法と比較してリチウムイオン電池材料設計において優れた収束性と選択精度を示している。

ABSTRACT

Like many optimizers, Bayesian optimization often falls short of gaining user trust due to opacity. While attempts have been made to develop human-centric optimizers, they typically assume user knowledge is well-specified and error-free, employing users mainly as supervisors of the optimization process. We relax these assumptions and propose a more balanced human-AI partnership with our Collaborative and Explainable Bayesian Optimization (CoExBO) framework. Instead of explicitly requiring a user to provide a knowledge model, CoExBO employs preference learning to seamlessly integrate human insights into the optimization, resulting in algorithmic suggestions that resonate with user preference. CoExBO explains its candidate selection every iteration to foster trust, empowering users with a clearer grasp of the optimization. Furthermore, CoExBO offers a no-harm guarantee, allowing users to make mistakes; even with extreme adversarial interventions, the algorithm converges asymptotically to a vanilla Bayesian optimization. We validate CoExBO's efficacy through human-AI teaming experiments in lithium-ion battery design, highlighting substantial improvements over conventional methods. Code is available https://github.com/ma921/CoExBO.

研究の動機と目的

• ベイズ最適化の不透明さとブラックボックス性によるユーザーの信頼不足を解消する。
• 特に物性科学のような高次元で複雑な分野において、明示的な知識モデリングを必要とせずに、人間の知見をスムーズに統合できるようにする。
• 誤った人間の選択や悪意ある干渉に対しても耐性を確保するため、無害収束保証を提供する。
• 説明可能なAI技術を用いて人間の好み判断とアルゴリズム的推論を統合し、最適化の効率を向上させる。
• 実世界の応用、特に人間の専門知識と高コストの実験が共存するリチウムイオン電池電解質設計において、フレームワークを検証する。

提案手法

• ペアワイズ比較による好み学習を用いて、明示的なユーザー定義モデルを必要とせずに、人間の好みを暗黙的に捉える。
• 各特徴量が獲得関数、予測平均、不確実性に与える寄与度を特定するため、Shapley値を適用し、ユーザーの解釈可能性を向上させる。
• サーヴィエイントモデルと獲得関数を維持し、候補選択をベイズ最適化と人間のフィードバックの両方でガイドする。
• 無害収束保証により、誤ったまたは悪意ある人間の選択があっても、漸近的に通常のベイズ最適化の性能に収束することが保証される。
• 空間的および特徴量重要度の説明を用いて、動的にサーヴィエイントモデル、不確実性、好みモデルを可視化し、意思決定を支援する。
• 人間のフィードバックは反復的にペアワイズ候補選択を通じて収集され、選択精度の事後評価は確率的信頼区間推定を用いて行われる。

実験結果

リサーチクエスチョン

• RQ1 明示的なユーザー知識モデリングを要せず、人間の好みを効果的に統合できるベイズ最適化フレームワークは構築可能か？
• RQ2 Shapley値による説明は、人間-AI協働最適化におけるユーザーの信頼性と選択精度をどのように向上させるか？
• RQ3 人間の誤りや悪意ある干渉が最適化パフォーマンスに与える影響はどの程度であり、無害保証によって収束性が維持可能か？
• RQ4 ペアワイズ比較による人間のフィードバック統合は、実世界のタスクにおいて標準的なベイズ最適化よりも高速な収束を実現できるか？
• RQ5 説明機能の導入は、時間経過に伴う人間の意思決定のオーバーヘッドと選択の一貫性にどのような影響を与えるか？

主な発見

• CoExBOは、ベースラインのベイズ最適化および人間主導手法と比較して、リチウムイオン電池電解質設計タスクにおいて顕著に高速な収束を達成した。
• 説明が提供された場合、反復回数が進んでも選択精度が安定していたが、説明がない場合、特に候補が類似している後期段階で精度が著しく変動した。
• 説明および候補生成部によるオーバーヘッドは、人間の選択時間に比べて無視できるほど小さく、実用的妥当性を示した。
• 悪意ある人間の選択に対しても、CoExBOは通常のベイズ最適化に漸近的に収束し続け、無害保証が確認された。
• Shapley値を用いた説明により、非常に類似した候補間の差をユーザーが明確に識別でき、最適化後期段階での意思決定の自信が向上した。
• EC-DMC-EMC-LiPF6およびMA-DMC-EMC-LiPF6システムにおける実世界実験では、CoExBOは標準BOおよびbatchUCBを上回る収束速度と耐障害性を示した。