[논문 리뷰] Trust in AI and Implications for the AEC Research: A Literature Analysis

Newsha Emaminejad, Alexa Maria North외 1명|arXiv (Cornell University)|2022. 03. 08.

BIM and Construction Integration인용 수 8

한 줄 요약

이 논문은 건축, 토목, 건설(AEC) 산업 내 인간이 AI를 신뢰하는 데 핵심적인 역할을 하는 요소를 규명하기 위해 490편의 동료 심사된 논문을 종합적으로 분석한다. 신뢰에 영향을 주는 사회기술적 요인들을 AEC 프로젝트 유형, 프로세스, 기술에 대응하여 매핑하여, AI에 대한 신뢰가 건설 환경에서 워크플로우 통합, 투명성, 역할 기반 책임과 같은 분야 특화 특성에 의해 형성됨을 밝혀냈다.

ABSTRACT

Engendering trust in technically acceptable and psychologically embraceable systems requires domain-specific research to capture unique characteristics of the field of application. The architecture, engineering, and construction (AEC) research community has been recently harnessing advanced solutions offered by artificial intelligence (AI) to improve project workflows. Despite the unique characteristics of work, workers, and workplaces in the AEC industry, the concept of trust in AI has received very little attention in the literature. This paper presents a comprehensive analysis of the academic literature in two main areas of trust in AI and AI in the AEC, to explore the interplay between AEC projects unique aspects and the sociotechnical concepts that lead to trust in AI. A total of 490 peer-reviewed scholarly articles are analyzed in this study. The main constituents of human trust in AI are identified from the literature and are characterized within the AEC project types, processes, and technologies.

연구 동기 및 목표

• 건축, 토목, 건설(AEC) 연구 분야 내 AI에 대한 신뢰의 현재 상태를 조사하기 위해.
• 더 넓은 AI 신뢰 문헌에서 유래된 인간이 AI를 신뢰하는 데 핵심적인 구성 요소를 규명하기 위해.
• 이러한 신뢰 구성 요소를 AEC 프로젝트 유형, 프로세스, 기술의 고유한 특성에 매핑하기 위해.
• AI의 보편적 활용 증가에도 불구하고 AEC 분야에서의 AI 신뢰에 대한 도메인 특화 연구가 부족한 점을 부각하기 위해.
• 건설 워크플로우에 신뢰할 수 있는 AI 통합을 위한 향후 연구의 기초를 제공하기 위해.

제안 방법

• AI에 대한 신뢰와 AEC 분야에서의 AI 응용에 초점을 맞춘 체계적 문헌 리뷰를 수행하였다.
• 주제 분석 및 내용 분석 기법을 사용하여 총 490편의 동료 심사된 학술 논문을 분석하였다.
• AI에 대한 인간 신뢰의 핵심 구성 요소로는 투명성, 신뢰성, 설명 가능성, 책임성 등이 추출되었다.
• 이러한 신뢰 구성 요소들은 설계, 건설, 프로젝트 관리 워크플로우와 같은 AEC 특화 맥락에 대응하여 매핑되었다.
• 분석는 팀 역할, 현장 조건, 기술 통합과 같은 AEC 특화 요소가 신뢰 형성에 어떻게 영향을 주는지 규명하는 데 중점을 두었다.
• 신뢰의 개념과 적용 방식에 대한 패턴과 격차를 식별하기 위해 연구 결과를 통합 분석하였다.

실험 결과

연구 질문

• RQ1 더 넓은 문헌에서 규명된 인간이 AI를 신뢰하는 데 핵심적인 구성 요소는 무엇인가?
• RQ2 AEC 특화 프로젝트 유형, 프로세스, 기술은 AI 시스템에 대한 신뢰 형성에 어떻게 영향을 주는가?
• RQ3 현재 AEC 중심 연구에서 AI에 대한 신뢰 개념은 어느 정도 다루어지고 있는가?
• RQ4 건설 환경 내에서 AI에 대한 신뢰를 중개하는 핵심 사회기술적 요인은 무엇인가?
• RQ5 현장의 고유한 운영 및 사회적 특성 고려 시, AEC 워크플로우에 효과적으로 AI에 대한 신뢰를 어떻게 설계할 수 있는가?

주요 결과

• 본 연구는 인간이 AI를 신뢰하는 데 핵심적인 다섯 가지 구성 요소를 규명하였다: 투명성, 신뢰성, 설명 가능성, 책임성, 사용자 통제.
• 이러한 구성 요소들은 프로젝트 복잡성, 팀 협업, 현장 변동성과 같은 AEC 특화 요소에 의해 크게 영향을 받는다.
• AEC 분야에서 AI 활용이 증가하고 있음에도 불구하고, 문헌상으로는 AI에 대한 신뢰가 여전히 다루어지지 않은 채로, 사회기술적 신뢰 프레임워크의 통합이 제한적이다.
• AEC 맥락에서는 기술적 성능뿐 아니라, 통제 가능성과 시스템의 설명 가능성에 의해 신뢰가 더 강하게 영향을 받는다.
• 연구는 AI 기술적 능력과 건설 응용 분야에서의 사회기술적 신뢰 메커니즘 설계 간에 중요한 격차가 있음을 드러냈다.
• 연구 결과는 AEC 분야의 AI에 대한 신뢰가 최종 사용자의 역할, 책임, 상황적 제약 조건를 고려하여 공동 설계되어야 한다고 시사한다.