[论文解读] Trust in AI and Implications for the AEC Research: A Literature Analysis

Newsha Emaminejad, Alexa Maria North+1 more|arXiv (Cornell University)|Mar 8, 2022

BIM and Construction Integration被引用 8

一句话总结

本文通过对490篇同行评审研究的全面文献分析，识别了建筑、工程和施工（AEC）行业中人类对人工智能信任的关键构成要素。该研究将影响信任的社会技术因素映射至AEC项目类型、流程和技术，揭示出在建筑环境中，信任受工作流程整合、透明度以及角色特定责任等特定领域特征的影响。

ABSTRACT

Engendering trust in technically acceptable and psychologically embraceable systems requires domain-specific research to capture unique characteristics of the field of application. The architecture, engineering, and construction (AEC) research community has been recently harnessing advanced solutions offered by artificial intelligence (AI) to improve project workflows. Despite the unique characteristics of work, workers, and workplaces in the AEC industry, the concept of trust in AI has received very little attention in the literature. This paper presents a comprehensive analysis of the academic literature in two main areas of trust in AI and AI in the AEC, to explore the interplay between AEC projects unique aspects and the sociotechnical concepts that lead to trust in AI. A total of 490 peer-reviewed scholarly articles are analyzed in this study. The main constituents of human trust in AI are identified from the literature and are characterized within the AEC project types, processes, and technologies.

研究动机与目标

• 调查建筑、工程和施工（AEC）研究领域中人工智能信任的当前状态。
• 基于更广泛的AI信任文献，识别人类对人工智能信任的核心构成要素。
• 将这些信任构成要素映射至AEC项目类型、流程和技术的独特特征。
• 突出尽管AI应用日益普及，但在AEC领域中针对AI信任的特定领域研究仍存在显著缺口。
• 为未来在建筑工作流程中实现可信人工智能集成的研究提供基础。

提出的方法

• 在人工智能信任和AEC中人工智能应用两个领域内开展了系统性文献综述。
• 共分析了490篇同行评审的学术论文，采用主题分析和内容分析技术。
• 从人工智能信任文献中提取了人类对人工智能信任的核心构成要素，包括透明度、可靠性、可解释性以及问责制。
• 这些信任构成要素随后被映射至AEC特定语境，如设计、施工和项目管理流程。
• 分析重点在于识别AEC特定因素（如团队角色、现场条件和技术整合）如何影响信任的形成。
• 研究结果被综合整理，以识别在AEC人工智能研究中信任概念化与应用的模式和缺口。

实验结果

研究问题

• RQ1 在更广泛的文献中，人类对人工智能信任的主要构成要素是什么？
• RQ2 AEC特定的项目类型、流程和技术如何影响人工智能系统信任的形成？
• RQ3 目前AEC研究中在多大程度上涉及了人工智能信任的概念？
• RQ4 在建筑环境中，哪些关键社会技术因素调节着人工智能的信任？
• RQ5 鉴于该领域独特的运营和社会动态，如何有效将信任嵌入AEC工作流程？

主要发现

• 本研究识别出人类对人工智能信任的五个核心构成要素：透明度、可靠性、可解释性、问责制和用户控制。
• 这些构成要素显著受到AEC特定因素的影响，如项目复杂性、团队协作以及现场变异性。
• 尽管AEC领域中AI应用日益普及，但文献中对AI信任的研究仍显不足，社会技术信任框架的整合有限。
• 在AEC语境下，信任更强烈地受到感知控制力和系统可解释性的影响，而非仅依赖技术性能。
• 研究揭示了人工智能技术能力与建筑应用中社会技术信任机制设计之间存在关键差距。
• 研究结果表明，AEC领域中的人工智能信任必须与最终用户共同设计，充分考虑其角色、责任和情境约束。