[論文レビュー] Biases in Generative Art -- A Causal Look from the Lens of Art History

Ramya Srinivasan, Kanji Uchino|arXiv (Cornell University)|Oct 26, 2020

Aesthetic Perception and Analysis参考文献 28被引用数 9

ひとこと要約

この論文は、芸術史の視点からAI生成アートにおけるバイアスを調査し、因果モデルを用いて芸術的スタイルのモデル化と表現に内在する欠陥を露わにする。スタイル変換システムにおけるフレーミングバイアス、データセットバイアス、アルゴリズムバイアスを特定し、それらが文化的・歴史的意味を歪めることを示し、生成AI設計における学際的責任のあり方を提言する。

ABSTRACT

With rapid progress in artificial intelligence (AI), popularity of generative art has grown substantially. From creating paintings to generating novel art styles, AI based generative art has showcased a variety of applications. However, there has been little focus concerning the ethical impacts of AI based generative art. In this work, we investigate biases in the generative art AI pipeline right from those that can originate due to improper problem formulation to those related to algorithm design. Viewing from the lens of art history, we discuss the socio-cultural impacts of these biases. Leveraging causal models, we highlight how current methods fall short in modeling the process of art creation and thus contribute to various types of biases. We illustrate the same through case studies, in particular those related to style transfer. To the best of our knowledge, this is the first extensive analysis that investigates biases in the generative art AI pipeline from the perspective of art history. We hope our work sparks interdisciplinary discussions related to accountability of generative art.

研究の動機と目的

• AIベースの生成アートにおけるバイアスが、特にスタイル変換において、誤った問題定義とアルゴリズム設計に起因する理由を調査すること。
• これらのバイアスが芸術家の認知的意図や歴史的芸術運動を誤って表現することによって及ぼす社会的・文化的影響を分析すること。
• 現在のAI手法が、データとモデル設計における構造的バイアスのため、芸術創作の真のプロセスを正しくモデル化できていないことの顕在を強調すること。
• 芸術史家らの分野専門家を含む学際的協働を提唱し、生成AIパイプラインにおける責任性と表現の質を向上させること。

提案手法

• 生成アートパイプラインにおけるバイアスの因果的経路を追跡するために構造的因果モデル（SCMs）を適用する。
• 特にCycleGAN や StyleGAN などのモデルを用いたスタイル変換の事例研究を通じて、各段階でバイアスがどのように生じるかを示す。
• 「潜在ベクトルから『架空の子供』を生成する」といったタスクを分析することで、フレーミング効果バイアスを検証する。
• 訓練データに多様な芸術的技法（例：浮世絵の透視法、未来派運動のパターン）が不足していることから、データセットバイアスを特定する。
• 非専門家によるアノテーター（例：Mechanical Turkの作業者）が参加する評価プロセスにおける選択バイアスと交絡バイアスを分析する。
• モデルが特定のスタイルで学習した後、文化的・歴史的文脈を超えて意味的に一般化できるかどうかを評価することで、輸送バイアスを評価する。

実験結果

リサーチクエスチョン

• RQ1 問題定義におけるフレーミング効果バイアスは、AI生成アートにおける芸術的スタイルの表現をどのように歪めるか？
• RQ2 訓練データにおけるデータセットバイアスと選択バイアスは、どの程度重要な芸術的技法や文化的意味を消去するか？
• RQ3 アルゴリズム的バイアスと測定バイアスは、芸術家の感情的・認知的意図を再現するスタイル変換の正確性にどのように影響するか？
• RQ4 歴史的芸術運動や政治的テーマを誤って表現するAI生成アートが及える社会的・文化的な影響は何か？
• RQ5 生成アートにおけるバイアスの責任は誰にあり、芸術史家などの分野専門家はAI開発パイプラインにどのように意味的に統合可能か？

主な発見

• AIポートレート生成ツール（例：AIportraits）は、肌の色を薄くするバイアスを示しており、明確なアルゴリズム的・データバイアスを示している。
• スタイル変換モデル（例：CycleGAN）は、元の画像の感情的・感情的コンテンツをしばしば保持できない。例として、バトーのスタイルに翻訳した際のムードの喪失が見られる。
• 芸術的スタイルは、しばしば筆致や色といった表面的な視覚的特徴に還元され、バトーの芸術家やセザンヌの芸術家が持つより深い認知的・文化的次元が無視される。
• 生成モデルは、浮世絵における誇張された前後法や未来派の運動パターンといった、歴史的に重要な技法をしばしば無視し、芸術史理解を歪めている。
• 潜在ベクトルから『架空の子供』を生成するような、複雑なタスクを単純な操作に還元するフレーミングは、被験者が生物学的に関係のない場合に特にフレーミング効果バイアスを引き起こす。
• 非専門家によるアノテーターによる生成アートの評価は、バイアスを強化する可能性がある。自動化バイアスと分野知識の欠如により、誤ったまたは文化的に誤解を招く出力が承認されることがある。