[论文解读] ChatGPT: More than a Weapon of Mass Deception, Ethical challenges and responses from the Human-Centered Artificial Intelligence (HCAI) perspective

Alejo José G. Sisón, Marco Tulio Daza+2 more|arXiv (Cornell University)|Apr 6, 2023

Artificial Intelligence in Healthcare and Education被引用 11

一句话总结

本论文从以人为本的AI（HCAI）视角分析 ChatGPT 的伦理挑战，评估其被滥用为大规模欺骗武器的潜在风险，并提出技术与非技术的缓解策略。

ABSTRACT

This article explores the ethical problems arising from the use of ChatGPT as a kind of generative AI and suggests responses based on the Human-Centered Artificial Intelligence (HCAI) framework. The HCAI framework is appropriate because it understands technology above all as a tool to empower, augment, and enhance human agency while referring to human wellbeing as a grand challenge, thus perfectly aligning itself with ethics, the science of human flourishing. Further, HCAI provides objectives, principles, procedures, and structures for reliable, safe, and trustworthy AI which we apply to our ChatGPT assessments. The main danger ChatGPT presents is the propensity to be used as a weapon of mass deception (WMD) and an enabler of criminal activities involving deceit. We review technical specifications to better comprehend its potentials and limitations. We then suggest both technical (watermarking, styleme, detectors, and fact-checkers) and non-technical measures (terms of use, transparency, educator considerations, HITL) to mitigate ChatGPT misuse or abuse and recommend best uses (creative writing, non-creative writing, teaching and learning). We conclude with considerations regarding the role of humans in ensuring the proper use of ChatGPT for individual and social wellbeing.

研究动机与目标

• 将 ChatGPT 框定在以人为本的AI（HCAI）框架内，以解决伦理与福祉问题。
• 识别生成式AI的伦理风险，尤其是欺骗与滥用。
• 建议技术与非技术措施以缓解滥用并指导安全部署。

提出的方法

• 提供对生成式AI概念与核心模型（GANs, VAEs, BERT, GPT）的分析描述。
• 评估 ChatGPT 的潜力与局限性，以理解伦理含义。
• 在 HCAI 背景下回顾关于欺骗、隐私、偏见与治理的文献。
• 提出技术保障措施（水印、检测器、事实核查）与非技术措施（使用条款、透明度、HITL）。
• 讨论在教育、写作与学习中的最佳用途，以促进福祉。

实验结果

研究问题

• RQ1 在以人为本的AI框架下，ChatGPT 会带来哪些伦理挑战？
• RQ2 ChatGPT 的技术能力与局限性如何影响其被滥用的潜力？
• RQ3 哪些缓解策略—技术与非技术—可以使 ChatGPT 与人类福祉和可信AI保持一致？
• RQ4 为 ChatGPT 的可靠部署，需要哪些治理与监督机制？

主要发现

• 由于其连贯、类人输出和低边际成本，ChatGPT 可以成为欺骗工具。
• 滥用场景包括学术欺骗、错误信息传播以及促成犯罪活动，如恶意软件生成。
• 该模型并非天生安全或值得信任；它会产生幻觉且缺乏透明、可验证的推理，这给 HCAI 目标带来挑战。
• 作者提出技术措施（水印、检测器、事实核查）和非技术措施（使用条款、透明度、教育者考量、人工在环）。
• HCAI 将人类能动性、福祉、可靠性、安全性和治理作为负责任AI使用的指导原则。