[논문 리뷰] The Threats of Artificial Intelligence Scale (TAI). Development, Measurement and Test Over Three Application Domains

Kimon Kieslich, Marco Lünich외 1명|arXiv (Cornell University)|2020. 06. 12.

Artificial Intelligence in Healthcare and Education참고 문헌 51인용 수 5

한 줄 요약

이 논문은 인공지능(AI)의 기능적 수준—식별, 예측, 추천, 의사결정—에 따라 특정 분야에서의 위협 인식을 측정하기 위해 설계된 심리측정 도구인 인공지능의 위협(TAI) 척도를 소개한다. 독일 온라인 설문 조사(N=891)를 통해 대출 발급, 직업 채용, 의료 치료 분야에서 검증된 TAI 척도는 높은 내적 일관성과 요인 타당성을 보이며, 의사결정 기능을 가진 AI가 가장 위협적으로 인식되며, 응용 분야에 따라 위협 인식이 상당히 다름을 드러낸다.

ABSTRACT

In recent years Artificial Intelligence (AI) has gained much popularity, with the scientific community as well as with the public. AI is often ascribed many positive impacts for different social domains such as medicine and the economy. On the other side, there is also growing concern about its precarious impact on society and individuals. Several opinion polls frequently query the public fear of autonomous robots and artificial intelligence (FARAI), a phenomenon coming also into scholarly focus. As potential threat perceptions arguably vary with regard to the reach and consequences of AI functionalities and the domain of application, research still lacks necessary precision of a respective measurement that allows for wide-spread research applicability. We propose a fine-grained scale to measure threat perceptions of AI that accounts for four functional classes of AI systems and is applicable to various domains of AI applications. Using a standardized questionnaire in a survey study (N=891), we evaluate the scale over three distinct AI domains (loan origination, job recruitment and medical treatment). The data support the dimensional structure of the proposed Threats of AI (TAI) scale as well as the internal consistency and factoral validity of the indicators. Implications of the results and the empirical application of the scale are discussed in detail. Recommendations for further empirical use of the TAI scale are provided.

연구 동기 및 목표

• 기능적 자율성과 분야 특수성을 고려한 세분화되고 유연한 AI 위협 인식 측정 척도를 개발하기 위해.
• AI 연구에서 위협 인식을 측정하기 위한 정밀하고 맥락에 민감한 도구의 부족을 보완하기 위해.
• 대출 발급, 직업 채용, 의료 치료와 같은 세 가지 다른 AI 응용 분야에서 척도의 신뢰성과 타당성을 테스트하기 위해.
• AI의 功能(식별, 예측, 추천, 의사결정)과 응용 분야에 따라 위협 인식이 어떻게 달라지는지 분석하기 위해.
• 미래의 공중 AI 위협 인식 연구를 위한 표준화되고 경험적으로 검증된 도구를 제공하기 위해.

제안 방법

• TAI 척도는 공포 유도 이론에 기반한 심리학 문헌을 바탕으로, AI의 기능적 자율성에 따라 위협 인식을 구분하여 구성되었다.
• 비표집된 온라인 패널에서 891명의 독일 참가자들에게 표준화된 온라인 설문지를 시행하였다.
• 척도는 식별, 예측, 추천, 의사결정의 네 가지 AI 기능 수준에서의 위협 인식을 측정하는 항목을 포함한다.
• 요인 분석을 통해 TAI 척도의 다차원적 구조가 확인되어 요인 타당성을 뒷받침한다.
• 크ون바흐 알파를 사용하여 신뢰도를 평가하였으며, 모든 분야에서 수용 가능한 내적 일관성을 보였다.
• 세 가지 다른 AI 응용 맥락에 척도를 적응 및 적용하여 분야 특화 민감도를 테스트하였다.

실험 결과

연구 질문

• RQ1 특정 응용 분야 내에서 식별, 예측, 추천, 의사결정 등의 기능적 수준에 따라 AI 위협 인식이 어떻게 달라지는가?
• RQ2 대출 발급, 직업 채용, 의료 치료와 같은 분야들 사이에서 AI 위협 인식이 어느 정도 다를까?
• RQ3 TAI 척도가 다양한 AI 응용 맥락에서 충분한 내적 일관성과 요인 타당성을 보이는가?
• RQ4 위협 인식은 자가 보고한 AI에 대한 두려움과 어떻게 관련되어 있으며, 위협 인식이 실제 두려움의 신뢰할 만한 대체 지표가 될 수 있는가?
• RQ5 TAI 척도는 측정 정밀도를 유지하면서 다양한 AI 응용 분야에 대해 민감하게 적응 가능한가?

주요 결과

• TAI 척도는 강력한 내적 일관성과 요인 타당성을 보이며, 다양한 AI 응용 분야에서 신뢰할 수 있는 측정 도구로 사용될 수 있음을 뒷받침한다.
• 의사결정 기능을 가진 AI 시스템에서 위협 인식이 가장 높았으며, 이는 인간의 자율성 상실이 위협 인식의 핵심 원인임을 시사한다.
• 위협 인식은 분야 간에 상당한 차이를 보였으며, 대출 발급과 직업 채용 분야가 의료 치료 분야보다 더 위협적으로 인식되었다.
• 의료 치료 분야에서는 식별 및 예측 기능을 가진 AI 응용이 약간만 위협적으로 여겨졌으며, 이는 분야 특화된 위험 인식 패턴을 반영한다.
• 맥락적 요건을 통제하더라도, 척도는 AI의 기능에 따른 위협 인식의 차이를 성공적으로 포착하였다.
• 위협 인식이 자가 보고한 두려움의 신뢰할 만한 예측 변수로 확인되었으며, 설문 조사 연구에서 두려움의 대체 지표로 위협 인식을 사용할 수 있음을 뒷받침한다.