[論文レビュー] Toward General Design Principles for Generative AI Applications

Justin D. Weisz, Michael Müller+2 more|arXiv (Cornell University)|Jan 13, 2023

Ethics and Social Impacts of AI被引用数 48

ひとこと要約

本論は、人間とAIの共創研究に基づく生成系AIアプリの7つの設計原則を提案し、生産的な利用を促進し、生成性のばらつきがある環境での害を軽減することを目的とする。

ABSTRACT

Generative AI technologies are growing in power, utility, and use. As generative technologies are being incorporated into mainstream applications, there is a need for guidance on how to design those applications to foster productive and safe use. Based on recent research on human-AI co-creation within the HCI and AI communities, we present a set of seven principles for the design of generative AI applications. These principles are grounded in an environment of generative variability. Six principles are focused on designing for characteristics of generative AI: multiple outcomes & imperfection; exploration & control; and mental models & explanations. In addition, we urge designers to design against potential harms that may be caused by a generative model's hazardous output, misuse, or potential for human displacement. We anticipate these principles to usefully inform design decisions made in the creation of novel human-AI applications, and we invite the community to apply, revise, and extend these principles to their own work.

研究の動機と目的

• 人間中心のAI価値に沿った生成系AIアプリの設計者に対する指針を提供する。
• 設計判断を人間-AI共創研究および既存のガイドラインに基づかせる。
• 変動性・制御・説明・害の問題に対処する七つの原則のフレームワークを導入する。

提案手法

• HCIとAI共創研究の文献調査と代表的な生成系アプリケーションの分析を行う。
• 知見を七つの設計原則に統合し、それらの相互関係を示す。
• 出力が数量・品質・種類の点で異なる可能性がある生成性のばらつきの環境を前提として原則を位置づける。

実験結果

リサーチクエスチョン

• RQ1 生成系AIアプリの生産的で安全な利用を最も支援する設計原則は何か？
• RQ2 設計者は生成モデルに固有のばらつきと不完全性をどのように組み込むべきか？
• RQ3 制御・メンタルモデル・説明・害の予防は、効果的な生成系AI設計においてどのような役割を果たすか？
• RQ4 これらの原則を統合して新規の人間-AIアプリケーション開発をどのように導くことができるか？

主な発見

• 生成系AIアプリの7つの設計原則を特定し、生成性のばらつきを軸に整理する。
• 原則は、複数の出力、探索と制御、不完全性、人間による制御、メンタルモデル、説明、および害を防ぐ設計指針を含む。
• これらの原則は設計判断を導く設計を支援し、共創を支援し、設計者に潜在的な害へと注意を促すことを意図している。
• 本フレームワークは、バージョニング、キュレーション、注釈付け、可視化、サンドボックス環境、個別化された説明などの戦略を強調する。