[论文解读] The Threats of Artificial Intelligence Scale (TAI). Development, Measurement and Test Over Three Application Domains

Kimon Kieslich, Marco Lünich+1 more|arXiv (Cornell University)|Jun 12, 2020

Artificial Intelligence in Healthcare and Education参考文献 51被引用 5

一句话总结

本文提出了人工智能威胁感知量表（TAI），这是一种心理测量工具，用于衡量在不同功能层级（识别、预测、推荐和决策）下对人工智能的特定领域威胁感知。该量表在德国在线调查（N=891）中得到验证，涵盖贷款发放、招聘和医疗治疗三个领域，表现出良好的内部一致性和因子效度，结果表明决策型人工智能被感知为最具威胁性，且感知威胁在不同应用领域间存在显著差异。

ABSTRACT

In recent years Artificial Intelligence (AI) has gained much popularity, with the scientific community as well as with the public. AI is often ascribed many positive impacts for different social domains such as medicine and the economy. On the other side, there is also growing concern about its precarious impact on society and individuals. Several opinion polls frequently query the public fear of autonomous robots and artificial intelligence (FARAI), a phenomenon coming also into scholarly focus. As potential threat perceptions arguably vary with regard to the reach and consequences of AI functionalities and the domain of application, research still lacks necessary precision of a respective measurement that allows for wide-spread research applicability. We propose a fine-grained scale to measure threat perceptions of AI that accounts for four functional classes of AI systems and is applicable to various domains of AI applications. Using a standardized questionnaire in a survey study (N=891), we evaluate the scale over three distinct AI domains (loan origination, job recruitment and medical treatment). The data support the dimensional structure of the proposed Threats of AI (TAI) scale as well as the internal consistency and factoral validity of the indicators. Implications of the results and the empirical application of the scale are discussed in detail. Recommendations for further empirical use of the TAI scale are provided.

研究动机与目标

• 开发一种细粒度、可适应的测量量表，用于衡量人工智能威胁感知，同时考虑功能自主性与领域特异性。
• 解决人工智能研究中缺乏精确、情境敏感的威胁感知测量工具的问题。
• 测试该量表在三个不同人工智能应用领域（贷款发放、招聘和医疗治疗）中的信度与效度。
• 考察威胁感知如何因人工智能功能（识别、预测、推荐、决策）和应用领域而异。
• 为未来关于公众人工智能威胁感知的研究提供一种标准化、实证验证的测量工具。

提出的方法

• TAI量表基于恐惧诉求的心理学文献构建，根据人工智能功能自主性对威胁感知进行区分。
• 向来自非代表性在线调查样本的891名德国参与者发放了标准化在线问卷。
• 该量表包含衡量四种人工智能功能层级（识别、预测、推荐、决策）下威胁感知的项目。
• 因子分析证实了TAI量表的多维结构，支持其因子效度。
• 使用Cronbach’s alpha评估信度，结果显示在所有领域中均具有可接受的内部一致性。
• 该量表被调整并应用于三个不同的人工智能应用情境，以测试其领域特异性敏感性。

实验结果

研究问题

• RQ1 在特定应用领域内，人工智能威胁感知在不同功能层级（识别、预测、推荐、决策）之间如何变化？
• RQ2 在贷款发放、招聘和医疗治疗等不同领域之间，人工智能威胁感知在多大程度上存在差异？
• RQ3 TAI量表是否在多样化的人工智能应用情境中表现出足够的内部一致性和因子效度？
• RQ4 感知威胁与自我报告的AI恐惧感之间有何关系？威胁感知能否作为实际恐惧的可靠代理指标？
• RQ5 TAI量表是否能够灵活适应不同的人工智能应用领域，同时保持测量精度？

主要发现

• TAI量表表现出良好的内部一致性和因子效度，支持其在多样化人工智能应用中的可靠测量工具地位。
• 具有决策功能的人工智能系统被感知为最具威胁性，表明人类自主权的丧失是威胁感知的关键驱动因素。
• 威胁感知在不同领域间存在显著差异，其中贷款发放和招聘被感知为比医疗治疗更具威胁性。
• 在医疗治疗领域，涉及识别和预测功能的AI应用仅被视为略微具有威胁性，表明存在领域特异性的风险感知模式。
• 该量表成功捕捉了基于人工智能功能的威胁感知差异，即使在控制领域背景因素后依然成立。
• 威胁感知被证实是自我报告恐惧感的可靠预测指标，支持在调查研究中将威胁感知用作恐惧的代理指标。