[論文レビュー] AI Risk Skepticism, A Comprehensive Survey

Vemir Michael Ambartsoumean, Roman V. Yampolskiy|arXiv (Cornell University)|Feb 16, 2023

Misinformation and Its Impacts被引用数 6

ひとこと要約

本論文は、人工知能リスクに対する懐疑的態度を、その背後にある認知バイアスや誤った推論に基づいて体系的に分析し、分類している。科学的懐疑主義の歴史的類似例と照らし合わせ、反論を評価・是正するための構造的フレームワークを提示することで、研究者間のAI安全性に関する議論を改善することを目的としている。

ABSTRACT

In this thorough study, we took a closer look at the skepticism that has arisen with respect to potential dangers associated with artificial intelligence, denoted as AI Risk Skepticism. Our study takes into account different points of view on the topic and draws parallels with other forms of skepticism that have shown up in science. We categorize the various skepticisms regarding the dangers of AI by the type of mistaken thinking involved. We hope this will be of interest and value to AI researchers concerned about the future of AI and the risks that it may pose. The issues of skepticism and risk in AI are decidedly important and require serious consideration. By addressing these issues with the rigor and precision of scientific research, we hope to better understand the objections we face and to find satisfactory ways to resolve them.

研究の動機と目的

• AIリスクに対する懐疑的態度を、その背後にある認知バイアスに基づいて体系的に分析・分類すること。
• AIリスク懐疑主義と他の科学分野における歴史的懐疑主義との類似性を明らかにし、文脈を提供すること。
• AIリスク懐疑主義の背後にある誤った推論のタイプを同定・分類すること。
• 研究者がAI安全性に関する議論における懐疑的意見を評価・対応するためのきめ細やかなフレームワークを提供すること。
• 誤解を明確にすることで、AI研究者と懐疑主義者との間で生産的な対話を促進すること。

提案手法

• 著者は、AIリスク議論および科学分野における類似する懐疑主義に関する包括的な文献レビューを実施した。
• 誤った推論の種類（例えば、誤った二元論、一般化の誤謬、無知への訴えなど）に基づいて、懐疑的立場をカテゴライズした。
• 比較分析を用いて、AIリスク懐疑主義と他の科学分野における類似した懐疑主義形式とを結びつけた。
• 形式的推論を適用して、AIリスクに反対する一般的な主張を解体し、論理的矛盾を同定した。
• AI安全性文献における代表的な懐疑的主張をテーマ分析することで、フレームワークの妥当性を検証した。
• 認知科学および科学哲学の知見を統合し、懐疑主義の合理性を評価した。

実験結果

リサーチクエスチョン

• RQ1 AIリスクに対する懐疑主義の背後にある主な認知的バイアスおよび論理的誤謬は何か？
• RQ2 AIリスク懐疑主義の形式は、他の科学分野における歴史的懐疑主義とどのように類似しているか？
• RQ3 AIリスク懐疑主義を否定する主張において最も一般的に見られる誤った推論の種類は何か？
• RQ4 研究者はどのようにして体系的かつ証拠に基づいた推論を用いて、懐疑主義に効果的に対応できるか？
• RQ5 AIリスク懐疑主義は、真の科学的対立ではなく、理解の欠如に起因している程度はどの程度か？

主な発見

• 研究は、現在のAIの能力に対する過信や長期的リスクの軽視といった、繰り返し現れる認知バイアスが、AIリスク懐疑主義の中心的要因であると特定した。
• 懐疑主義はしばしば誤った二元論（例：AI安全性は避けられない破滅か、まったく無関係か）に起因している。
• 多くの懐疑的主張は、将来のリスクに関する実証的証拠の欠如や「無知への訴え」に依存しているが、理論的経路は妥当である。
• 歴史的類似例から、気候変動やパンデミック対策への抵抗といった科学的懐疑主義は、しばしば認識の遅れという類似したパターンを示す。
• 著者らは、AIリスク懐疑主義の大部分が、開発スケジュールや能力の誤解に基づいていることを示した。
• 本論文で提示されたフレームワークは、研究者が懐疑的主張を論理的精度をもって体系的に解体・対応できるようにする。