[论文解读] Cultural Incongruencies in Artificial Intelligence
本文主张 AI 系统反映了受文化形塑的人类行为，并强调由文化错位引发的五种危害，提出面向有文化认知的 AI 的研究议程。
Artificial intelligence (AI) systems attempt to imitate human behavior. How well they do this imitation is often used to assess their utility and to attribute human-like (or artificial) intelligence to them. However, most work on AI refers to and relies on human intelligence without accounting for the fact that human behavior is inherently shaped by the cultural contexts they are embedded in, the values and beliefs they hold, and the social practices they follow. Additionally, since AI technologies are mostly conceived and developed in just a handful of countries, they embed the cultural values and practices of these countries. Similarly, the data that is used to train the models also fails to equitably represent global cultural diversity. Problems therefore arise when these technologies interact with globally diverse societies and cultures, with different values and interpretive practices. In this position paper, we describe a set of cultural dependencies and incongruencies in the context of AI-based language and vision technologies, and reflect on the possibilities of and potential strategies towards addressing these incongruencies.
研究动机与目标
- 识别文化如何影响 AI 的开发与使用。
- 描述 AI 系统中由文化不一致引发的危害。
- 提出推动有文化认知的 AI 的研究议程。
- 鼓励在 AI 研究与部署中采用跨学科方法与多样化视角。
提出的方法
- 综合现有关于文化、传播与 AI 的文献，以识别 AI 系统开发与使用中的文化依赖。
- 描述由文化不一致引发的五个具体危害：文化障碍、霸权性分类、安全差距、对文化价值的侵犯，以及文化抹去。
- 提出高层次的研究方向与问题，以缓解 AI 中的文化不一致。
- 倡导在 AI 设计与评估中开展跨学科协作和参与性流程。
实验结果
研究问题
- RQ1AI 系统的哪些方面依赖于文化，以及这如何影响在不同生态系统中的适用性？
- RQ2当 AI 系统隐含的文化偏好与目标文化生态系统发生冲突时，会出现哪些不一致和危害？
- RQ3我们如何在 AI 技术中识别、衡量并缓解文化危害？
- RQ4如何将有文化情境的评估和多样化视角整合到 AI 的开发与部署中？
- RQ5将更广泛的文化观点和共同创造融入 AI 流水线的实际途径有哪些？
主要发现
- AI 的文化依赖性在开发和使用阶段都会产生，体现为数据、资源以及开发者和研究人员的文化规范。
- 识别出五种由文化不一致引发的危害：文化障碍、强加霸权性分类、安全差距、对文化价值的侵犯以及文化抹去。
- 若未考虑目标文化语境与地方规范，确保安全、公平与性能的努力可能失败。
- 文化抹去可能通过预训练模型传播，导致多元文化的同质化与错构。
- 提出的研究议程聚焦于衡量文化危害、文化情境评估，以及将多样化视角融入 AI 流水线。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。