[論文レビュー] On the Creativity of Large Language Models

Giorgio Franceschelli, Mirco Musolesi|arXiv (Cornell University)|Mar 27, 2023

Machine Learning in Materials Science被引用数 9

ひとこと要約

要約: 本研究は大規模言語モデル（LLMs）が Boden の価値・新規性・驚きの基準を適用して創造的になり得るかを分析し、製品だけではない真の創造性の要件を論じる。

ABSTRACT

Large Language Models (LLMs) are revolutionizing several areas of Artificial Intelligence. One of the most remarkable applications is creative writing, e.g., poetry or storytelling: the generated outputs are often of astonishing quality. However, a natural question arises: can LLMs be really considered creative? In this article, we first analyze the development of LLMs under the lens of creativity theories, investigating the key open questions and challenges. In particular, we focus our discussion on the dimensions of value, novelty, and surprise as proposed by Margaret Boden in her work. Then, we consider different classic perspectives, namely product, process, press, and person. We discuss a set of ``easy'' and ``hard'' problems in machine creativity, presenting them in relation to LLMs. Finally, we examine the societal impact of these technologies with a particular focus on the creative industries, analyzing the opportunities offered, the challenges arising from them, and the potential associated risks, from both legal and ethical points of view.

研究の動機と目的

• LLMs を Boden の創造性基準（価値・新規性・驚き）に照らして評価する。
• LLM 文脈での古典的創造性視点（製品・過程・プロセス・人）を検討する。
• LLMs に関連する機械創造性の易しい問題と難しい問題を特定する。
• 創造産業に対する実践的な法的・倫理的・社会的影響を論じる。

提案手法

• Boden の創造性の三条件と関連理論（ Amabile, Csikszentmihalyi, Gaut ）を検討する。
• 自己回帰的性質を考慮して価値・新規性・驚きを LLMS の能力にマッピングする。
• LLM の創造性に対する製品・過程・圧力・人物の視点の含意を論じる。
• 組合的・探究的・変革的創造性を LLM の出力で区別する。

実験結果

リサーチクエスチョン

• RQ1 Boden の基準に従って新規・驚き・価値のある成果物を LLMs は生み出せるか？
• RQ2 特に変革的創造性において、真の創造性を達成するうえで LLMs の限界は何か？
• RQ3 製品・過程・圧力・人物の視点は LLM の創造性にどのように適用されるか？
• RQ4 創造産業に対する LLM の創造性の社会的・法的・倫理的影響は何か？

主な発見

• LLMs は価値ある出力を生み出せるが、現行の自己回帰トレーニングの下で新規性と驚きには苦戦する。
• 変革的創造性は現行のトレーニング・パラダイムでは実現が難しそうで、組合的創造性はプロンプトや条件付けで可能性がある。
• LLMs には真の創造的過程に必要な内発的動機づけ・自分で導く過程・自己評価が欠如している。
• 創造性の社会的・環境的（プレス）側面は不可変な LLM には意味的に参加させるのが難しい。
• 永遠に続く創造サイクルに近づけるため、継続的学習と適応を将来の方向性として提案。
• 著作権・帰属を含む法的・倫理的配慮が、創造的な作業に LLM を展開するうえで中心的である。