[논문 리뷰] Toward General Design Principles for Generative AI Applications

Justin D. Weisz, Michael Müller외 2명|arXiv (Cornell University)|2023. 01. 13.

Ethics and Social Impacts of AI인용 수 48

한 줄 요약

논문은 인간-인공지능 협력 연구를 기반으로 생성형 AI 앱에 대한 Seven 가지 설계 원칙을 제시하여 생산적 사용을 촉진하고 생성적 변동성 환경에서 해를 완화한다.

ABSTRACT

Generative AI technologies are growing in power, utility, and use. As generative technologies are being incorporated into mainstream applications, there is a need for guidance on how to design those applications to foster productive and safe use. Based on recent research on human-AI co-creation within the HCI and AI communities, we present a set of seven principles for the design of generative AI applications. These principles are grounded in an environment of generative variability. Six principles are focused on designing for characteristics of generative AI: multiple outcomes & imperfection; exploration & control; and mental models & explanations. In addition, we urge designers to design against potential harms that may be caused by a generative model's hazardous output, misuse, or potential for human displacement. We anticipate these principles to usefully inform design decisions made in the creation of novel human-AI applications, and we invite the community to apply, revise, and extend these principles to their own work.

연구 동기 및 목표

• 인간 중심 AI 가치에 부합하는 생성형 AI 애플리케이션 설계자를 위한 지침을 제공한다.
• 설계 의사결정을 인간- AI 공동창작 연구와 기존 지침에 근거를 둔다.
• 출력의 양, 질, 유형이 다를 수 있는 생성성 변동성 환경에서 다섯? Seven 원칙 프레임워크를 도입한다.

제안 방법

• HCI 및 AI 동시창작 연구의 문헌 검토와 대표적인 생성 애플리케이션 분석을 수행한다.
• 연구 결과를 Seven 설계 원칙으로 종합하고 그 상호관계를 설명한다.
• 생성성 변동성 환경에서 원칙을 프레이밍하여 출력이 다를 수 있는 상황을 고려한다.

실험 결과

연구 질문

• RQ1 생성형 AI 애플리케이션의 생산적이고 안전한 사용을 가장 잘 지원하는 설계 원칙은 무엇인가?
• RQ2 설계자들은 생성 모델이 내재하는 변동성과 불완전성을 어떻게 수용해야 하는가?
• RQ3 통제, 사고 모델, 설명, 해를 예방하는 역할은 효과적인 생성형 AI 설계에서 어떤 의미를 갖는가?
• RQ4 이 원칙들을 어떻게 통합하여 새로운 인간-AI 애플리케이션 개발에 정보를 제공할 수 있는가?

주요 결과

• 생성형 변동성에 기반한 일곱 가지 설계 원칙이 식별되고 정리된다.
• 원칙은 다중 출력, 탐색과 제어, 불완전성, 인간 제어, 사고 모델, 설명, 그리고 해를 방지하는 설계 지침을 다룬다.
• 원칙은 설계 의사결정을 안내하고 공동창작을 지원하며 디자이너를 잠재적 해에 민감하게 만들기 위한 의도를 가진다.
• 프레임워크는 버전 관리, 선별, 주석 달기, 시각화, 샌드박스 환경, 맞춤형 설명과 같은 전략을 강조한다.