[논문 리뷰] Bots as Virtual Confederates: Design and Ethics

P. M. Krafft, Michael W. Macy외 1명|arXiv (Cornell University)|2016. 11. 02.

Evolutionary Game Theory and Cooperation참고 문헌 33인용 수 18

한 줄 요약

이 논문은 온라인 현장 실험에서 '가상 동맹자'(virtual confederates)로 로봇을 활용하여 확장 가능하고 재현 가능하며 통제 가능한 사회과학 연구를 가능하게 하기 위해 제안한다. 이는 이러한 로봇의 설계 공간을 제시하고, 사기, 정보 동의, 잠재적 피해 등의 문제를 다루기 위한 윤리적 지침을 마련한다. 페이스북의 정서 전염 연구 및 마이크로소프트의 타이 로봇 사례와 같은 실제 사례를 바탕으로 디지털 사회 환경에서의 책임 있는 실험을 위한 기반을 마련한다.

ABSTRACT

The use of bots as virtual confederates in online field experiments holds extreme promise as a new methodological tool in computational social science. However, this potential tool comes with inherent ethical challenges. Informed consent can be difficult to obtain in many cases, and the use of confederates necessarily implies the use of deception. In this work we outline a design space for bots as virtual confederates, and we propose a set of guidelines for meeting the status quo for ethical experimentation. We draw upon examples from prior work in the CSCW community and the broader social science literature for illustration. While a handful of prior researchers have used bots in online experimentation, our work is meant to inspire future work in this area and raise awareness of the associated ethical issues.

연구 동기 및 목표

• 온라인 현장 실험에서 인간 동맹자에 대한 확장 가능한 대안으로 '가상 동맹자'(confedabots)로 로봇을 도입하기 위해 제안한다.
• 온라인 사회과학 연구에서 사기와 정보 동의 부족과 관련된 윤리적 과제를 다루기 위해 제안한다.
• 방법론적 엄밀함과 책임 있는 연구 관행을 균형 잡는 설계 공간과 윤리적 프레임워크를 제공하기 위해 제안한다.
• 윤리적 위험을 사전에 해결하기 위해 증거 기반 지침을 활용하여 향후 confedabots를 활용한 연구를 자극하기 위해 제안한다.
• 알고리즘적으로 통제되는 로봇을 사용해 대규모 온라인 실험을 가능하게 함으로써 계산 기반 사회과학에서 인과 추론을 강화하기 위해 제안한다.

제안 방법

• CSCW 및 사회심리학 분야에서의 기존 사례(예: 아슈 및 밀그램의 실험)를 기반으로 confedabots의 개념적 프레임워크를 설계한다.
• 온라인 환경에서의 로봇 인구통계, 성격, 행동, 상호작용 패턴에 대한 제어를 포함하는 설계 공간을 제안한다.
• 벨마운트 보고서와 IRB 기준에서 유래한 윤리적 지침을 적용하여 위험-편익 분석과 피해 최소화를 강조한다.
• 페이스북 정서 전염 연구 및 마이크로소프트의 타이 로봇 사례와 같은 실제 사례를 활용하여 윤리적 함정을 설명하고 최선의 실천 방안을 제시한다.
• 로봇 코드를 오픈소스화하고, 이미 로봇이 널리 사용되고 사회적으로 수용된 플랫폼을 우선시하여 투명성을 증진한다.
• 가능한 한, 사용자 동의와 합법성을 높이기 위해 옵트인 메커니즘 또는 플랫폼 운영자와의 협력적 배치를 권장한다.

실험 결과

연구 질문

• RQ1 대규모 온라인 현장 실험에서 로봇을 효과적인 가상 동맹자로 설계하는 방법은 무엇인가?
• RQ2 정보 동의 없이 온라인 사회적 행동을 조작하기 위해 로봇을 사용할 경우 발생하는 윤리적 위험은 무엇인가?
• RQ3 confedabots를 활용한 온라인 사회과학 실험에서 실험 유효성을 유지하면서도 피해를 최소화하는 방법은 무엇인가?
• RQ4 특히 사기와 관련된 상황에서 confedabots가 윤리적으로 허용될 가능성이 높은 맥락은 무엇인가?
• RQ5 자율적인 디지털 에이전트가 초래하는 고유한 과제를 반영하기 위해 온라인 실험의 윤리 기준을 어떻게 업데이트할 수 있는가?

주요 결과

• 가상 동맹자로 로봇을 활용하면 사회적 특성과 행동에 대해 세밀한 제어가 가능하며, 확장 가능하고 재현 가능하며 투명한 온라인 현장 실험을 실현할 수 있다.
• confedabots의 사용은 소셜미디어 연구에서 인과 추론을 향상시킬 수 있으며, 예를 들어 자원봉사 동원에 영향을 주는 특정 메시징 전략의 영향을 테스트하는 데 유용하다.
• 사기나 잠재적 정서적 피해가 수반될 경우 윤리적 우려가 심화되며, 이는 페이스북 정서 전염 연구에 대한 반발로도 입증되었다.
• 타이 로봇 사례는 제어되지 않은 학습 알고리즘으로 인해 해로운 출력이 발생할 수 있음을 보여주며, 로봇 설계 시 강력한 행동 제약 조건이 필요함을 강조한다.
• 연구자들은 이미 로봇이 널리 보급되어 있고 사회적으로 수용된 플랫폼을 우선시하여 사용자들의 놀라움이나 불쾌감을 줄여야 한다.
• 직접적인 피해가 없더라도 동의 없이 시행된 실험에 대한 대중의 인식은 부정적인 반응을 유도할 수 있으므로, 더 큰 투명성과 대화의 필요성이 제기된다.