[論文レビュー] Detecting The Corruption Of Online Questionnaires By Artificial Intelligence

Benjamin Lebrun, Sharon Temtsin+2 more|arXiv (Cornell University)|Aug 14, 2023

Artificial Intelligence in Healthcare and EducationMedicine参考文献 74被引用数 3

ひとこと要約

本研究では、オンラインのアンケートにおけるAI生成応答が人間および自動システムによって検出可能かどうかを調査している。人間はAI作成のテキストを識別する際、76%の正確性を達成したが、検出は依然として信頼できない。自動AI検出システムは完全に使用不能であることが判明し、クラウドソーシングプラットフォームを用いたオンライン研究におけるデータ品質に脅威をもたらしている。

ABSTRACT

Online questionnaires that use crowd-sourcing platforms to recruit participants have become commonplace, due to their ease of use and low costs. Artificial Intelligence (AI) based Large Language Models (LLM) have made it easy for bad actors to automatically fill in online forms, including generating meaningful text for open-ended tasks. These technological advances threaten the data quality for studies that use online questionnaires. This study tested if text generated by an AI for the purpose of an online study can be detected by both humans and automatic AI detection systems. While humans were able to correctly identify authorship of text above chance level (76 percent accuracy), their performance was still below what would be required to ensure satisfactory data quality. Researchers currently have to rely on the disinterest of bad actors to successfully use open-ended responses as a useful tool for ensuring data quality. Automatic AI detection systems are currently completely unusable. If AIs become too prevalent in submitting responses then the costs associated with detecting fraudulent submissions will outweigh the benefits of online questionnaires. Individual attention checks will no longer be a sufficient tool to ensure good data quality. This problem can only be systematically addressed by crowd-sourcing platforms. They cannot rely on automatic AI detection systems and it is unclear how they can ensure data quality for their paying clients.

研究の動機と目的

• オンラインアンケートにおけるAI生成応答が人間の評価者によって信頼性を持って検出可能かどうかを評価すること。
• 大規模言語モデルからの合成テキストを同定するための自動AI検出システムのパフォーマンスを評価すること。
• クラウドソーシングプラットフォームを用いたオンライン研究におけるAI生成応答がデータ品質に与える影響を検討すること。
• 高度なLLMの時代において、開放的（オープンエンド）なアンケート応答が、データ整合性を保証するための有効なツールのままであるかどうかを調査すること。
• 大規模なオンライン研究においてデータ信頼性を維持するために必要なシステム的解決策を特定すること。

提案手法

• 参加者には、GPT-3.5によって生成された半分と人間参加者によって作成された半分の開放的応答が提示された。
• 人間の評価者には、制御された盲検実験の下で、AI生成と人間作成の応答を区別するタスクが与えられた。
• 自動AI検出システムが、同じ応答をAI生成または人間生成として分類するように適用された。
• 標準的な分類指標を用いて、人間および自動システムの両方の検出正確性が測定された。
• 本研究では、定性的な応答分析と定量的検出パフォーマンス評価を組み合わせた混合手法を採用した。
• 実験設計には、統計的信頼性を確保するため、100件の応答（人間50件、AI生成50件）のバランスの取れたデータセットが含まれた。

Figure 1: Distribution of response length from source experiment

実験結果

リサーチクエスチョン

• RQ1 人間の評価者は、オンラインアンケートにおけるAI生成応答を信頼性を持って検出できるか？
• RQ2 現在の自動AI検出システムは、大規模言語モデルからの合成テキストを同定するのにどの程度効果的か？
• RQ3 AI生成応答は、オンライン研究におけるデータ品質をどの程度損なうか？
• RQ4 高度なLLMの時代において、開放的アンケート応答は依然として信頼できるデータ品質チェックとして機能できるか？
• RQ5 AI自動化されたオンラインアンケートにおいて、データ整合性を保証するためにどのようなシステム的変更が必要か？

主な発見

• 人間の評価者は、AI生成と人間作成の応答を区別する際、76%の正確性を達成した。これは検出が可能ではあるが、堅固なデータ品質管理には不十分であることを示している。
• 自動AI検出システムは完全に使用不能であり、合成テキストを同定する上で信頼できるパフォーマンスを示さなかった。
• 本研究は、大規模言語モデルが文脈的に適切で説得力のある応答を生成でき、人間の文章と類似した形を取ることを確認しており、従来のデータ検証手法の根幹を揺るがしている。
• AI生成応答の普及は、手動によるレビューと注目チェックの有効性を損なうおそれがあり、オンライン研究における不正検出コストを増加させている。
• 現在のオンライン研究におけるデータ品質を保証するためには、人間の判断や注目チェックに依存するのでは十分ではない。
• 研究結果から、AIによるデータ汚染の脅威に対処するには、検出インfraの強化やアクセス制御といったプラットフォームレベルの対策がシステム的に必要であると示唆されている。

Figure 2: Questionnaire to measure the quality of the text.