[論文レビュー] Ethics and Governance of Artificial Intelligence: Evidence from a Survey of Machine Learning Researchers

Baobao Zhang, Markus Anderljung+4 more|arXiv (Cornell University)|May 5, 2021

Ethics and Social Impacts of AI参考文献 29被引用数 12

ひとこと要約

この研究では、トップAI会議に論文が採択された524名の機械学習研究者を対象に、AI倫理とガバナンスに関する見解を調査した。国際的・科学的組織への信頼は高く、西洋のテック企業には中程度の信頼を示し、軍事機関や中国のテック企業には低い信頼を示している。研究者たちは、事前公表時の被害レビューを強く支持し、AI安全性研究の優先的推進を支持しているが、殺傷型自律兵器については顕著な反対があり、非殺傷型軍事AIアプリケーションについてはよりオープンな姿勢を示している。

ABSTRACT

Machine learning (ML) and artificial intelligence (AI) researchers play an important role in the ethics and governance of AI, including taking action against what they perceive to be unethical uses of AI (Belfield, 2020; Van Noorden, 2020). Nevertheless, this influential group's attitudes are not well understood, which undermines our ability to discern consensuses or disagreements between AI/ML researchers. To examine these researchers' views, we conducted a survey of those who published in the top AI/ML conferences (N = 524). We compare these results with those from a 2016 survey of AI/ML researchers (Grace, Salvatier, Dafoe, Zhang, & Evans, 2018) and a 2018 survey of the US public (Zhang & Dafoe, 2020). We find that AI/ML researchers place high levels of trust in international organizations and scientific organizations to shape the development and use of AI in the public interest; moderate trust in most Western tech companies; and low trust in national militaries, Chinese tech companies, and Facebook. While the respondents were overwhelmingly opposed to AI/ML researchers working on lethal autonomous weapons, they are less opposed to researchers working on other military applications of AI, particularly logistics algorithms. A strong majority of respondents think that AI safety research should be prioritized and that ML institutions should conduct pre-publication review to assess potential harms. Being closer to the technology itself, AI/ML re-searchers are well placed to highlight new risks and develop technical solutions, so this novel attempt to measure their attitudes has broad relevance. The findings should help to improve how researchers, private sector executives, and policymakers think about regulations, governance frameworks, guiding principles, and national and international governance strategies for AI.

研究の動機と目的

• 主要な機械学習研究者のAI倫理およびガバナンスに対する態度を理解すること。
• 一般世論と比較して、研究者が公共部門および民間部門の関係者に対して信頼を寄せているかを比較すること。
• AI安全性研究の優先順位付けと、事前公表時の被害レビューの実施に関する研究者の見解を評価すること。
• 研究者が軍事的AI応用、特に殺傷型自律兵器に関与することへの意欲を検討すること。
• AI/ML研究コミュニティ内での合意と対立を特定することで、政策およびガバナンス戦略を支援すること。

提案手法

• 2019年にNeurIPSまたはICMLで論文が採択された524名の機械学習研究者にアンケートを実施した。
• アンケートには、国際機関、政府、軍事機関、テック企業、科学的機関など、さまざまな主体に対する信頼度を直接測定する項目が含まれた。
• 研究者たちは、AI安全性研究の優先順位付け、事前公表レビュー、軍事的AIプロジェクトへの関与に関する見解を回答した。
• アンケートには、殺傷型自律兵器やアルゴリズムバイアスといった倫理的懸念事項に関する質問も含まれた。
• 2018年の一般世論調査と比較することで、研究者と一般世論の認識の違いを対比した。
• 熟練度とAI安全性研究の重要性の認識、および事前公表レビューへの支持との相関関係を分析するために統計モデルが用いられた。

実験結果

リサーチクエスチョン

• RQ1 AI/ML研究者が、AI開発を公共の利益に導くために、どの公共および民間部門の主体を最も信頼しているか。
• RQ2 AI/ML研究者が軍事的AI応用についての見解を、殺傷型自律兵器についての見解と比較して、どのように異なるか。
• RQ3 研究者が機械学習研究における事前公表時の被害レビュープロセスをどの程度支持しているか。
• RQ4 研究者がAI安全性研究の優先順位をどのように認識しているかが、ガバナンスメカニズムへの支持とどの程度相関しているか。
• RQ5 研究者の信頼度は、一般世論と比較して、特に各国の軍事機関やテック企業に関してどの程度異なるか。

主な発見

• 68％のAI/ML研究者が、AI安全性研究を優先すべきだと考え、安全性に焦点を当てた研究の重要性について強い合意があることを示している。
• 71％の研究者が、ML研究の潜在的被害を評価するための事前公表レビューを支持しており、制度的監視の広範な支持がうかがえる。
• 研究者たちは国際機関（例：国連、EU）および科学的機関に対して高い信頼を示しているが、国家の軍事機関や中国のテック企業には低い信頼を示している。
• 殺傷型自律兵器に関する研究に従事することを支持する研究者はたった14％にとどまるが、物流アルゴリズムのような非殺傷型軍事AIについては44％が関与に前向きである。
• 研究者たちは西洋のテック企業に対して中程度の信頼を示しているが、一般世論が米国軍に対して示す信頼度よりも顕著に低い。
• AI安全性の熟練度と安全性研究の重要性の認識は、事前公表レビューへの支持と有意に相関している（p < 0.01）。これは、安全性への認識とガバナンス支援の間の強い関連性を裏付けている。