[논문 리뷰] Visualization for Villainy

Andrew McNutt, Lilian Huang외 1명|arXiv (Cornell University)|2021. 09. 13.

Data Visualization and Analytics참고 문헌 49인용 수 4

한 줄 요약

이 논문은 악의적인 시각화를 위한 설계 공간을 제안하며, 기만적 설계, 환경 파괴, 데이터 오용을 악용하여 의도적으로 해를 끼치는 시각화 기법을 재구성한다. 기존의 기만적 관행을 새로운 악성 전략—예를 들어 정서적 스피어 피싱 및 선전을 위한 데이터 물리화—와 융합하여, 윤리적 분석이 아닌 체계적 해를 초래하는 도구로서의 시각화를 주장한다.

ABSTRACT

Visualization has long been seen as a dependable and trustworthy tool for carrying out analysis and communication tasks -- a view reinforced by the growing interest in applying it to socially positive ends. However, despite the benign light in which visualization is usually perceived, it carries the potential to do harm to people, places, concepts, and things. In this paper, we capitalize on this negative potential to serve an underrepresented (but technologically engaged) group: villains. To achieve these ends, we introduce a design space for this type of graphical violence, which allows us to unify prior work on deceptive visualization with novel data-driven dastardly deeds, such as emotional spear phishing and unsafe data physicalization. By charting this vile charting landscape, we open new doors to collaboration with terrifying domain experts, and hopefully, make the world just a bit worse.

연구 동기 및 목표

• 시각화를 선의의 도구로 보는 것에서 벗어나, 의도적인 해를 끼치는 수단으로 재정의함으로써, 시각화가 본질적으로 신뢰할 수 있다는 지배적인 서사를 뒤집는 것.
• 특히 사회적 복지에 기여하는 역할이 커지는 데 반해, 시각화의 의도적 악용 가능성에 대한 학술적 관심이 부족한 점을 보완하는 것.
• 시각화 기반의 해를 유형화하고 체계화하는 설계 공간을 구축하여, '악의적' 실무자들과의 깊이 있는 연구 및 협업을 가능하게 하는 것.
• 일상적인 시각화 관행이 검토되지 않은 채로 존재할 경우 체계적 해를 영속화할 수 있음을 드러내어 기존 질서를 도전하는 것.
• 기후 데이터의 왜곡 및 자연 풍경에 대한 데이터 물리화와 같은 새로운 악성 응용 사례를 제안하여, 시각화가 체계적 불평등을 어떻게 악용할 수 있는지 보여주는 것.

제안 방법

• 의료의 윤리적 원칙인 '먼저 해를 끼치지 말라'에서 영감을 얻어, 피해 유형(물리적 대비 비물리적)과 영향 정도(직접적 대비 간접적)로 나누어진 이원 설계 공간을 개발함.
• 윤리적 의무를 '먼저 해를 끼치자'로 뒤집어, 악성 시각화 기법의 분류 체계를 구성하는 데 활용함.
• 이미 존재하는 기만적 시각화 연구(Snider, Correll, Tomlinson 등)를 통합하고 확장하여, 시각화에서 의도적 해를 유도하는 통합 프레임워크를 수립함.
• 정서적 스피어 피싱을 위한 시각적 신호, 불평등을 심화시키기 위한 기후 데이터 조작, 자연 풍경에 대한 데이터 물리화(예: 산이나 우림에 로고를 새기는 것)와 같은 새로운 악성 전략을 도입함.
• 에너지 집약적인 데이터 웨어하우징과 환경 파괴를 자본주의 가속주의를 반영하는 '자기 서명 시각화'의 형태로 제안함.
• 예를 들어 피셔의 아름다운 꽃가루 데이터처럼 유전적 정련주의를 반영하는 유해한 데이터셋의 총람과 '어두운 차트링 패턴'의 목록 작성으로, 악성 설계를 체계화함.

실험 결과

연구 질문

• RQ1 시각화를 윤리적 또는 분석적 목적으로 쓰는 대신, 최대한의 해를 끼치기 위해 의도적으로 설계할 수 있는 방법은 무엇인가?
• RQ2 어떤 구조적 및 설계 수준의 메커니즘이, 명백히 악의적이지 않더라도 시각화가 체계적 해를 영속화하는 데 기여하는가?
• RQ3 데이터 물리화와 환경 파괴는 어떤 방식으로 시각화 기반의 악의적 행위로 활용될 수 있는가?
• RQ4 데이터 수집 및 시각화 관행의 정상화가 기후 불공정성과 같은 장기적이고 복구 불가능한 해를 초래할 수 있는가?
• RQ5 시각화 연구자들은 악의적인 목적을 위해 시각화 도구가 오용되는 데 어떤 역할을 할 수 있는가?

주요 결과

• 설계 공간은 이전의 기만적 시각화 연구를 새로운 악성 응용 사례—정서적 스피어 피싱 및 자연 풍경에 대한 데이터 물리화—와 융합하여 성공적으로 통합하였다.
• 논문은 현재 많은 시각화 관행이 명백히 악의적이지는 않지만, 무관심이나 열악한 설계 선택으로 인해 지배적인 권력 구조를 강화하고 해를 끼치는 경향이 있음을 밝혔다.
• 예를 들어 시각 예술을 위해 산림 파괴를 하거나 데이터 센터의 에너지 소비를 유발하는 것과 같은 환경 파괴는 자본주의 가속주의를 반영하는 '자기 서명 시각화'의 형태로 해석된다.
• 저자들은 가장 효과적인 악행이 복잡한 음모가 아니라, 현 상태 유지를 통해 이루어진다고 주장한다: 데이터를 사실로 정당화하고 윤리적 함의를 간과하며 비판적 성찰을 피하는 것.
• 논문은 시각화에서 '해를 끼치지 말라'는 윤리적 의무를 비판하며, 이를 뒤집어 현실 세계에서 시각화가 초래할 수 있는 해를 이해하고 대응하기 위한 필수 단계로 제안한다.
• 유해한 예시 데이터셋의 총람과 '어두운 차트링 패턴'의 목록 작성에 찬성함으로써, 이 논문은 악성 시각화 관행을 이해하고 잠재적으로 억제할 수 있는 프레임워크를 제공한다.