[论文解读] Next Steps for Human-Centered Generative AI: A Technical Perspective

Xiang Chen, Jeff Burke+9 more|arXiv (Cornell University)|Jun 27, 2023

Ethics and Social Impacts of AI被引用 14

一句话总结

本文为以人为本的生成式人工智能定义了跨学科研究议程，概述了三个层面的后续步骤：与人类价值观对齐、同化人类意图、以及提升人类能力。

ABSTRACT

Through iterative, cross-disciplinary discussions, we define and propose next-steps for Human-centered Generative AI (HGAI). We contribute a comprehensive research agenda that lays out future directions of Generative AI spanning three levels: aligning with human values; assimilating human intents; and augmenting human abilities. By identifying these next-steps, we intend to draw interdisciplinary research teams to pursue a coherent set of emergent ideas in HGAI, focusing on their interested topics while maintaining a coherent big picture of the future work landscape.

研究动机与目标

• 激发一个连贯的、跨学科的以人为本的生成式 AI (HGAI) 的研究议程。
• 识别在 HGAI 中连接价值对齐、意图同化和能力增强的未来方向。
• 鼓励多样化研究团队在一个连贯的未来工作格局内追求新兴的想法。

提出的方法

• 促进迭代性的跨学科讨论，以阐明一个全面的研究议程。
• 将议程分为三个层次：与人类价值观对齐、同化人类意图、以及提升人类能力。
• 将后续步骤框定为在 HCI、NLP、CV 和 ML 等领域协调未来 HGAI 研究的路线图。

实验结果

研究问题

• RQ1 将生成式AI与人类价值观对齐所需的关键研究方向是什么？
• RQ2 如何将人类意图有效地同化到生成式AI系统中？
• RQ3 应开发哪些能力以通过生成式 AI 增强人类能力？
• RQ4 跨学科团队如何在保持统一愿景的同时，连贯地追求 HGAI 的新兴想法？

主要发现

• 提出了一个涵盖价值对齐、意图同化和能力增强的 HGAI 综合研究议程。
• 本文强调跨学科协作，以在 HGAI 中追求连贯且新兴的想法。
• 它阐述了一个指导框架，将未来工作在 HCI、NLP、CV 和 ML 之间连接起来，指向一个统一的 HGAI 路线图。