[論文レビュー] Bots as Virtual Confederates: Design and Ethics

P. M. Krafft, Michael W. Macy+1 more|arXiv (Cornell University)|Nov 2, 2016

Evolutionary Game Theory and Cooperation参考文献 33被引用数 18

ひとこと要約

本論文は、オンラインフィールド実験におけるスケーラブルで再現可能かつ制御可能な社会科学研究を可能にするために、ボットを「仮想共同研究者」として活用することを提案する。本論文は、こうしたボットの設計領域を提示し、フェイク情報の提供、同意の欠如、潜在的な被害といった問題に対処するための倫理的ガイドラインを提示する。フェイスブックの感情的伝染研究やマイクロソフトのTayボットを事例として挙げ、デジタル社会的環境における責任ある実験の実施を支援する。

ABSTRACT

The use of bots as virtual confederates in online field experiments holds extreme promise as a new methodological tool in computational social science. However, this potential tool comes with inherent ethical challenges. Informed consent can be difficult to obtain in many cases, and the use of confederates necessarily implies the use of deception. In this work we outline a design space for bots as virtual confederates, and we propose a set of guidelines for meeting the status quo for ethical experimentation. We draw upon examples from prior work in the CSCW community and the broader social science literature for illustration. While a handful of prior researchers have used bots in online experimentation, our work is meant to inspire future work in this area and raise awareness of the associated ethical issues.

研究の動機と目的

• オンラインフィールド実験における人間の共同研究者に代わるスケーラブルな代替手段として、ボットを仮想共同研究者（confedabots）として導入すること。
• オンライン社会科学研究において、欺瞞行為や同意の欠如を伴うボットの使用に内在する倫理的課題に対処すること。
• 研究手法の厳密性と責任ある研究実践の両立を図るための設計領域と倫理的枠組みを提供すること。
• 証拠に基づくガイドラインを通じて、予め倫理的リスクを特定し、将来のconfedabotsを用いた研究を促進すること。
• アルゴリズム的に制御されるボットを用いた制御された大規模オンライン実験を可能にすることで、計算的社会科学における因果推論を強化すること。

提案手法

• CSCW や社会心理学における既存の事例（例：アシュおよびミルグラムの実験）を基に、confedabotsの概念的枠組みを設計する。
• オンライン環境におけるボットの人口統計、性格、行動、相互作用パターンの制御を含む、設計領域を提示する。
• ベルムスト・レポートおよびIRB基準に基づく倫理的ガイドラインを適用し、リスク・リターン分析と被害最小化を重視する。
• フェイスブックの感情的伝染研究やマイクロソフトのTayボットといった実世界の事例を活用し、倫理的落とし穴を明らかにするとともに、ベストプラクティスを提示する。
• ボットコードのオープンソース化を推奨し、ボットが既に一般的で社会的に受け入れられているプラットフォームを優先することで透明性を高める。
• 可能であれば、同意の向上と正当性の強化を目的として、ユーザーのオプトインメカニズムやプラットフォーム運営者との協働体制を提言する。

実験結果

リサーチクエスチョン

• RQ1 どのようにしてボットを大規模オンラインフィールド実験における効果的な仮想共同研究者として設計できるか？
• RQ2 同意を得ないままオンライン社会的行動を操作するためにボットを使用する場合、どのような倫理的リスクが生じるか？
• RQ3 confedabotsを用いたオンライン社会科学研究実験において、実験の妥当性を保ちながらも、被害を最小限に抑えるにはどうすればよいか？
• RQ4 欺瞞が含まれる状況において、どのような文脈でconfedabotsの使用が倫理的に許容される可能性が高いか？
• RQ5 自律的デジタルエージェントが引き起こす独自の課題を反映するように、オンライン実験の倫理基準をどのようにアップデートすべきか？

主な発見

• 仮想共同研究者としてのボットは、社会的属性や行動に対する細かな制御が可能であり、スケーラブルで再現可能かつ透明なオンラインフィールド実験を可能にする。
• confedabotsの使用は、ボランティア動員に影響を与える特定のメッセージ戦略の影響をテストするなど、ソーシャルメディア研究における因果推論を向上させうる。
• 欺瞞や潜在的な感情的被害を伴う実験では倫理的懸念が高まり、フェイスブックの感情的伝染研究に対する反発がそれを裏付けている。
• Tayボットの事例は、制御のない学習アルゴリズムが有害な出力を生むリスクを示しており、ボット設計における強固な行動制約の必要性を強調している。
• 研究者は、ボットがすでに一般的で社会的に受け入れられているプラットフォームを優先することで、ユーザーの驚きや不快感を軽減できる。
• 直接的な被害がなくても、同意を得ない実験に対する一般の世論の否定的反応は、透明性の向上と対話を求める必要があることを示唆している。