[论文解读] Science in the Era of ChatGPT, Large Language Models and Generative AI: Challenges for Research Ethics and How to Respond

Evangelos Pournaras|arXiv (Cornell University)|May 24, 2023

Artificial Intelligence in Healthcare and Education被引用 7

一句话总结

论文评估大型语言模型在科学研究中的认识论与伦理风险，并提出在生成式AI时代实现负责任研究伦理的十条开放式行动计划。

ABSTRACT

Large language models of artificial intelligence (AI), such as ChatGPT, find remarkable but controversial applicability in science and research. This paper reviews epistemological challenges, ethical and integrity risks in science conduct in the advent of generative AI. This is with the aim to lay new timely foundations for a high-quality research ethics review. The role of AI language models as a research instrument and subject is scrutinized along with ethical implications for scientists, participants and reviewers. New emerging practices for research ethics review are discussed, concluding with ten recommendations that shape a response for a more responsible research conduct in the era of AI.

研究动机与目标

• 识别生成式AI在科学研究中带来的认识论和伦理挑战。
• 区分AI作为研究工具与AI作为研究对象在伦理评审中的角色。
• 提出在生成式AI时代对研究伦理评审实践的实际改革。
• 提出一个十点行动议程，以提高AI时代的负责任研究行为。

提出的方法

• 对科学领域生成式AI的认识论与伦理文献进行综述。
• 分析AI在研究设计中作为工具与作为对象的角色及其伦理含义。
• 评估当前的研究伦理审查实践，以及它们在AI支持的研究中应如何调整。
• 将研究发现综合为十条具体建议，供伦理委员会与研究人员参考。

实验结果

研究问题

• RQ1 生成式AI语言模型如何在科学探究中引入认识论与完整性方面的挑战？
• RQ2 AI语言模型在研究设计中可发挥的角色（工具 vs. 对象）及其随之而来的伦理含义是什么？
• RQ3 研究伦理审查过程应如何发展以应对在各研究阶段使用生成式AI的情况？
• RQ4 在AI时代，哪些具体、可执行的建议可以指引伦理委员会、研究人员与机构？

主要发现

• AI语言模型在研究产出中的作者身份、数据完整性与透明性方面带来显著挑战。
• AI既可作为研究工具，也可作为研究对象，各自具有不同的伦理风险，需要进行明确归属与审计。
• 伦理审查实践必须扩展覆盖AI特定风险，包括偏见、错误信息、数据隐私，以及在设计、实施与审查阶段的问责。
• 记录AI模型版本、提示词与响应内容对于维持问责制、并有助于减轻不准确性与偏见至关重要。
• 对闭源专有AI模型的审计协议是必要的，以防止敏感信息泄露。
• 十条建议为在AI驱动的科学中保障研究诚信提供一个灵活且持续演变的议程。