[论文解读] Research Integrity and GenAI: A Systematic Analysis of Ethical Challenges Across Research Phases

Sonja Bjelobaba, Lorna Waddington+4 more|arXiv (Cornell University)|Dec 13, 2024

Ethics in Clinical Research被引用 5

一句话总结

本论文系统分析 GenAI 在不同研究阶段的伦理挑战，并提出实用建议以促进研究中的伦理使用。

ABSTRACT

Background: The rapid development and use of generative AI (GenAI) tools in academia presents complex and multifaceted ethical challenges for its users. Earlier research primarily focused on academic integrity concerns related to students' use of AI tools. However, limited information is available on the impact of GenAI on academic research. This study aims to examine the ethical concerns arising from the use of GenAI across different phases of research and explores potential strategies to encourage its ethical use for research purposes. Methods: We selected one or more GenAI platforms applicable to various research phases (e.g. developing research questions, conducting literature reviews, processing data, and academic writing) and analysed them to identify potential ethical concerns relevant for that stage. Results: The analysis revealed several ethical concerns, including a lack of transparency, bias, censorship, fabrication (e.g. hallucinations and false data generation), copyright violations, and privacy issues. These findings underscore the need for cautious and mindful use of GenAI. Conclusions: The advancement and use of GenAI are continuously evolving, necessitating an ongoing in-depth evaluation. We propose a set of practical recommendations to support researchers in effectively integrating these tools while adhering to the fundamental principles of ethical research practices.

研究动机与目标

• 评估 GenAI 在研究各阶段（问题形成、文献综述、数据处理、写作）使用所产生的伦理关切。
• 识别主要伦理问题，如透明度、偏见、审查、伪造、版权和隐私。
• 提出可在研究中促进负责任且符合伦理的 GenAI 使用的实际指南。

提出的方法

• 选择适用于多阶段研究的 GenAI 平台。
• 分析与每个研究阶段相关的潜在伦理关切。
• 综合发现，以绘制跨研究工作流的伦理风险。
• 基于伦理研究原则，提出可操作的建议。

实验结果

研究问题

• RQ1 在研究过程的每个阶段使用 GenAI 时会出现哪些伦理关切？
• RQ2 研究人员如何在坚持伦理研究实践的同时有效整合 GenAI 工具？
• RQ3 在 GenAI 支持的研究中，有哪些策略可以缓解透明度、偏见、伪造和隐私等问题？

主要发现

• 伦理关切包括缺乏透明度、偏见、审查、伪造（幻觉与虚假数据）、版权侵权以及隐私问题。
• 在研究各阶段使用 GenAI 需要谨慎而周到的应用。
• 本研究强调随着 GenAI 技术的发展，需要进行持续、深入的评估。
• 提出了实际建议，以支持在研究中伦理地整合 GenAI 工具。