[論文レビュー] Science in the Era of ChatGPT, Large Language Models and Generative AI: Challenges for Research Ethics and How to Respond

Evangelos Pournaras|arXiv (Cornell University)|May 24, 2023

Artificial Intelligence in Healthcare and Education被引用数 7

ひとこと要約

要約: 本論文は科学における大型言語モデルの認識論的・倫理的リスクを検討し、生成AI時代における責任ある研究倫理の実践的な十点からなる、開かれた行動計画を提案する。

ABSTRACT

Large language models of artificial intelligence (AI), such as ChatGPT, find remarkable but controversial applicability in science and research. This paper reviews epistemological challenges, ethical and integrity risks in science conduct in the advent of generative AI. This is with the aim to lay new timely foundations for a high-quality research ethics review. The role of AI language models as a research instrument and subject is scrutinized along with ethical implications for scientists, participants and reviewers. New emerging practices for research ethics review are discussed, concluding with ten recommendations that shape a response for a more responsible research conduct in the era of AI.

研究の動機と目的

• 生成AIが科学研究にもたらす認識論的・倫理的課題を特定する。
• 倫理審査におけるAIの役割を研究手段としてと研究対象として区別する。
• 生成AI時代の研究倫理審査実践の実務的改革を提案する。
• AIとともなる責任ある研究行動を改善するための十点の、行動指向のアジェンダを提示する。

提案手法

• 科学における生成AIに関する認識論的・倫理的文献をレビューする。
• 研究デザインにおけるAIを研究手段としてと研究対象としての役割を分析する。
• AI対応の研究に適応するために現在の研究倫理審査実践を評価する。
• 倫理委員会と研究者のための具体的な十提言として知見を統合する。

実験結果

リサーチクエスチョン

• RQ1 生成AI言語モデルは科学的探究にどのような認識論的・整合性の課題をもたらすのか。
• RQ2 AI言語モデルは研究設計において手段（instrument）と対象（subject）のどちらとして機能し得るのか、そしてそれに伴う倫理的影響は何か。
• RQ3 生成AIの使用に対応するため、研究倫理審査プロセスは研究の各段階でどのように進化すべきか。
• RQ4 AI時代に倫理委員会、研究者、機関を導く具体的で実行可能な推奨事項は何か。

主な発見

• AI言語モデルは研究成果における著作権、データの整合性、透明性に対して重大な課題をもたらす。
• AIは研究手段としても研究対象としても機能し得る。いずれも独自の倫理的リスクを有し、適切な帰属と監査が求められる。
• 倫理審査実践は設計、実施、審査段階全体にわたるバイアス、誤情報、データプライバシー、説明責任といったAI特有のリスクをカバーするよう拡張されなければならない。
• AIモデルのバージョン、プロンプト、応答の文書化は責任を維持し、不正確さや偏りの是正を可能にするために不可欠である。
• 閉鎖的な企業系AIモデルの監査プロトコルが、機密情報の漏洩を防ぐために必要である。
• 十の提言は、AI対応の科学における研究の健全性を守るための柔軟で進化するアジェンダを提供する。