[论文解读] Understanding Bots for Policy and Research: Challenges, Methods, and Solutions.

Robert Gorwa, Douglas Guilbeault|arXiv (Cornell University)|Jan 21, 2018

Misinformation and Its Impacts被引用 12

一句话总结

本文通过追溯政治机器人的历史演变，提出一个全面的分类体系，并提供方法论指导，以解决政治机器人在定义和测量上的模糊性问题。文章认为，解决概念上的混淆对于有效的技术政策和数字影响力行动研究至关重要。

ABSTRACT

Amidst widespread reports of digital influence operations during major elections, policymakers, scholars, and journalists have become increasingly interested in the political impact of social media 'bots.' Most recently, platform companies like Facebook and Twitter have been summoned to testify about bots as part of investigations into digitally-enabled foreign manipulation during the 2016 US Presidential election. Facing mounting pressure from both the public and from legislators, these companies have been instructed to crack down on apparently malicious bot accounts. But as this article demonstrates, since the earliest writings on bots in the 1990s, there has been substantial confusion as to exactly what a 'bot' is and what exactly a bot does. We argue that multiple forms of ambiguity are responsible for much of the complexity underlying contemporary bot-related policy, and that before successful policy interventions can be formulated, a more comprehensive understanding of bots --- especially how they are defined and measured --- will be needed. In this article, we provide a history and typology of different types of bots, provide clear guidelines to better categorize political automation and unpack the impact that it can have on contemporary technology policy, and outline the main challenges and ambiguities that will face both researchers and legislators concerned with bots in the future.

研究动机与目标

• 解决在数字媒体中，特别是在政治语境下，对‘机器人’定义的持续混淆问题。
• 追溯从1990年代至今机器人在历史上的发展脉络及其分类体系的演变。
• 识别阻碍政治自动化有效政策与研究的关键概念与方法论模糊性。
• 提供清晰的指南，用于对政治机器人进行分类与测量，以支持基于证据的政策制定。
• 支持研究人员和立法者设计针对性干预措施，以应对社交媒体生态系统中的恶意机器人活动。

提出的方法

• 构建一个历史与概念框架，追溯自1990年代以来机器人定义与功能的演变。
• 基于其技术机制、行为模式与政治角色，创建机器人分类体系。
• 分析现有机器人检测方法，并识别其在区分良性与恶意自动化行为方面的局限性。
• 提出根据意图、自主性与在政治话语中影响程度对机器人进行分类的标准化标准。
• 评估不同机器人类别对技术政策的影响，包括平台监管与外国干涉调查。
• 整合社会科学、计算机科学与政策研究的洞见，构建一种多学科的机器人分析方法。

实验结果

研究问题

• RQ1 哪些关键的定义模糊性阻碍了对政治机器人的准确识别与分类？
• RQ2 从1990年代至今，机器人在功能与形态上如何演变，特别是在政治影响力方面的演变？
• RQ3 区分不同类型政治自动化最有效的实证方法是什么？
• RQ4 ‘机器人’的不同定义如何影响政策干预与平台对数字操纵的应对措施？
• RQ5 可采用哪些标准来可靠地对机器人进行分类，以支持研究与监管行动？

主要发现

• 围绕机器人的大量混淆源于将技术自动化与政治意图混为一谈的不一致定义。
• 机器人历史发展表明，其已从简单的网页爬虫演变为用于协调性虚假信息活动的、具备行为适应能力的复杂账户。
• 技术、行为与规范层面的多重模糊性，使机器人检测与政策响应更加复杂。
• 当前的机器人检测方法往往无法有效区分具有良性目的的自动化账户与用于政治操纵的账户。
• 基于功能、自主性与意图的标准化分类体系，对于提升测量准确性与政策相关性至关重要。
• 若不解决定义上的不一致，政策干预措施可能无效或偏离目标，特别是在外国干涉调查的语境下。