[논문 리뷰] Decontamination of the scientific literature

Guillaume Cabanac|arXiv (Cornell University)|2022. 10. 28.

Artificial Intelligence in Healthcare and Education인용 수 6

한 줄 요약

이 논문은 과학 문헌을 정화하기 위해 치료적 접근(모조 또는 오류가 있는 논문을 탐지하고 수정함)과 예방적 접근(인공지능 기반 도구와 공동체 참여를 통한 향후 부정행위 방지)을 병행하는 双중 접근법을 제안한다. Seek&Blastn와 같은 자동 스크리닝 도구와 문제지의 논문 스크리너와 같은 공동체 기반 플랫폼을 도입하여 유전자 서열, 이미지 편집, AI 생성 텍스트의 오류를 식별하며, 과학에 대한 신뢰를 회복하고 연구 윤리 수준을 향상시키는 데 목적이 있다.

ABSTRACT

Research misconduct and frauds pollute the scientific literature. Honest errors and malevolent data fabrication, image manipulation, journal hijacking, and plagiarism passed peer review unnoticed. Problematic papers deceive readers, authors citing them, and AI-powered literature-based discovery. Flagship publishers accepted hundreds flawed papers despite claiming to enforce peer review. This application ambitions to decontaminate the scientific literature using curative and preventive actions.

연구 동기 및 목표

• 과학적 신뢰를 훼손하는 연구 부정행위, 사기, 오류가 있는 출판물 증가 문제를 해결하기 위해.
• 이미 출간된 오류가 있는 논문, 특히 논문 공장에서 나온 논문, 이미지 편집, AI 생성 텍스트 등에서 오류를 식별하고 수정하기 위해.
• LLM이 생성한 과학적 콘텐츠와 같은 새로운 위협에 대비해 탐지 도구를 개발하여 향후 오염을 방지하기 위해.
• 연구자, 심사자, 일반 대중이 오류를 탐지하고 보고할 수 있도록 투명성과 재현 가능성을 향상시키기 위해.
• 교육, 미디어 홍보, 시민 과학 프로젝트를 통해 연구 윤리 및 오류 탐지에 대한 교육과 대중 인식을 제고하기 위해.

제안 방법

• BLAST 기반 서열 정렬을 사용해 종양학 문헌에서 잘못된 DNA 서열 주장이 포함된 논문을 탐지하기 위해 Seek&Blastn와 같은 자동 소프트웨어 도구를 개발하고 구현한다.
• 오픈( CrossRef) 및 구독 기반 자료에서 9000만 건 이상의 문헌 기록을 대상으로 텍스트 및 데이터 마이닝을 수행하여 이질성을 식별한다.
• 문제지의 논문 스크리너와 코로나19 프리프린트 모니터와 같은 온라인 대시보드를 구현하여 오류 탐지의 시각화와 공동체 기반 탐지를 가능하게 한다.
• 자연어 처리와 지식 기반 검증(예: 유전자 주장에 대한 BLAST)을 적용하여 과학적 텍스트 내에서 의심스럽거나 위조된 콘텐츠를 식별한다.
• 물리학자들과 생물학자들과 협력하여 나노생물학 분야에서 의심스러운 주장의 재현을 시도하며, 분야 내 과도한 기대치를 시험한다.
• PubPeer와 Retraction Watch의 연구 결과를 교육 과정에 통합하여 연구자들이 과학 문헌을 비판적으로 평가할 수 있도록 훈련한다.

실험 결과

연구 질문

• RQ1 자동화된 도구는 수천 편의 출간된 종양학 논문에서 잘못된 유전자 서열 데이터 주장이 포함된 오류를 어떻게 탐지하고 수정할 수 있는가?
• RQ2 학술 문헌에서 AI 생성 과학 텍스트와 위조된 데이터를 식별하는 데 가장 효과적인 방법은 무엇인가?
• RQ3 오류가 있는 과학적 주장은 연구 공동체 내에서 어떻게 퍼지고, 어떤 요소들이 그들의 수정 또는 지속 여부에 영향을 미치는가?
• RQ4 공동체 기반 탐지와 대중 참여는 과학 문헌의 오염 제거 및 정화에 얼마나 효과적인가?
• RQ5 교육 프로그램과 미디어 홍보 활동은 연구자와 대중의 연구 윤리 및 오류 탐지에 대한 인식을 어떻게 향상시킬 수 있는가?

주요 결과

• Seek&Blastn 도구는 종양학 논문에서 잘못된 DNA 서열 타겟팅 주장 수백 건을 성공적으로 식별하여 오류가 있는 연구의 체계적 수정을 가능하게 하였다.
• 180건 이상의 코로나19 관련 연구가 철회된 바가 있어, 오류 탐지 능력 향상과 더 빠른 수정 메커니즘의 필요성이 급증하고 있음을 시사한다.
• 현재는 어조적 결함로 인해 탐지 가능한 AI 생성 과학 텍스트는 향후 모델 성능 향상에 따라 점점 더 위협이 되며, 사전 대응 탐지 도구의 필요성이 증가하고 있다.
• 문제지의 논문 스크리너와 같은 공동체 기반 플랫폼은 이미 일반 대중이 문제 있는 논문을 식별하는 데 참여할 수 있도록 하여 투명성을 높였다.
• Le Monde와 FranceInfo와 같은 언론 매체를 통한 홍보 활동이 연구 윤리와 오류 탐지에 대한 대중 인식을 크게 향상시켰다.
• ‘Calling Bullshit’ 교과 과정을 활용한 교육 프로그램과 박사 학위 과정에의 통합은 과학적 주장의 비판적 평가 능력을 기르는 데 효과적이다.