[论文解读] Biases in Generative Art -- A Causal Look from the Lens of Art History

Ramya Srinivasan, Kanji Uchino|arXiv (Cornell University)|Oct 26, 2020

Aesthetic Perception and Analysis参考文献 28被引用 9

一句话总结

本文從藝術史的視角出發，運用因果建模方法，探討人工智慧生成藝術中的偏見，揭示藝術風格建模與表徵中的缺陷。研究識別出風格遷移系統中存在之框架、資料集與演算法偏見，顯示其如何扭曲文化與歷史意義，並呼籲在生成式人工智慧設計中推動跨學科的責任制度。

ABSTRACT

With rapid progress in artificial intelligence (AI), popularity of generative art has grown substantially. From creating paintings to generating novel art styles, AI based generative art has showcased a variety of applications. However, there has been little focus concerning the ethical impacts of AI based generative art. In this work, we investigate biases in the generative art AI pipeline right from those that can originate due to improper problem formulation to those related to algorithm design. Viewing from the lens of art history, we discuss the socio-cultural impacts of these biases. Leveraging causal models, we highlight how current methods fall short in modeling the process of art creation and thus contribute to various types of biases. We illustrate the same through case studies, in particular those related to style transfer. To the best of our knowledge, this is the first extensive analysis that investigates biases in the generative art AI pipeline from the perspective of art history. We hope our work sparks interdisciplinary discussions related to accountability of generative art.

研究动机与目标

• 探討人工智慧生成藝術中的偏見如何源自問題定義與演算法設計的缺陷，特別是在風格遷移方面的表現。
• 分析這些偏見對社會文化造成的影響，特別是對藝術家認知意圖與歷史藝術運動的誤解。
• 指出當前人工智慧方法因資料與模型設計中的結構性偏見，未能真實模擬藝術創作的過程。
• 主張應透過藝術史學者等領域專家參與，推動跨學科合作，以提升生成式人工智慧流程中的責任制度與表徵品質。

提出的方法

• 應用結構式因果模型（SCMs）追蹤生成式藝術流程中偏見的因果路徑，從資料收集到模型輸出的各個階段。
• 透過案例研究——特別是使用 CycleGAN 與 StyleGAN 等模型的風格遷移——展示偏見如何在各階段產生。
• 透過分析「從潛在向量生成『假想子女』」等任務，檢驗框架效應偏見，揭示其如何扭曲藝術與文化概念的表徵。
• 透過訓練資料中對多樣化藝術技巧（例如浮世繪的透視法、未來主義運動的動態模式）的代表性不足，識別資料集偏見。
• 檢視評估過程中的選擇與混雜偏見，例如非專家標註者（如 Mechanical Turk 僅工）可能因缺乏專業知識而認可錯誤的表徵。
• 透過評估模型在不同文化與歷史脈絡中是否具備有效泛化能力，衡量可移植性偏見。

实验结果

研究问题

• RQ1 問題定義中的框架效應偏見如何扭曲人工智慧生成藝術中對藝術風格的表徵？
• RQ2 訓練資料中的資料集與選擇偏見在多大程度上導致關鍵藝術技巧與文化意義的消失？
• RQ3 演算法與測量偏見如何影響風格遷移在再現藝術家情感與認知意圖方面的準確性？
• RQ4 對歷史藝術運動或政治主題產生誤解的人工智慧生成藝術，其社會文化後果為何？
• RQ5 誰應對生成式藝術中的偏見負責？領域專家（如藝術史學者）應如何被有效整合至人工智慧開發流程中？

主要发现

• 如 AIportraits 之類的人工智慧肖像生成工具，會因演算法與資料偏見而使非裔等族群的膚色變淺，顯示明確的種族偏見。
• 風格遷移模型如 CycleGAN 常無法保留原始影像的情感或情感內容，例如在梵谷風格轉換中喪失了畫作的氣氛。
• 藝術風格經常被簡化為表面視覺特徵（例如筆觸或色彩），忽略了梵谷或塞尚等藝術家所具備的更深刻認知與文化內涵。
• 生成模型經常忽略具有歷史重要性的技巧——如浮世繪中誇張的縮放法或未來主義的動態模式——導致對藝術史理解的扭曲。
• 將複雜任務（如從潛在向量生成『假想子女』）簡化為單純操作，會引入框架效應偏見，特別是在受試者並無生物親緣關係時更為明顯。
• 由非專家標註者評估生成式藝術可能強化偏見，因缺乏領域知識與自動化偏見，錯誤或文化誤解的輸出可能被錯誤地認可。