[논문 리뷰] Tackling the Algorithmic Control Crisis -- the Technical, Legal, and Ethical Challenges of Research into Algorithmic Agents

Balázs Bodó, Natali Helberger외 7명|UvA-DARE (University of Amsterdam)|2025. 10. 29.

Ethics and Social Impacts of AI인용 수 134

한 줄 요약

이 논문은 알고리즘 에이전트를 연구하는 데 있어 방법론적, 윤리적, 법적 도전 과제를 다루고 그 효과를 윤리적이고 법적으로 타당하게 연구하기 위한 구체적인 제안을 제시한다.

ABSTRACT

Algorithmic agents permeate every instant of our online existence. Based on our digital profiles built from the massive surveillance of our digital existence, algorithmic agents rank search results, filter our emails, hide and show news items on social networks feeds, try to guess what products we might buy next for ourselves and for others, what movies we want to watch, and when we might be pregnant. Algorithmic agents select, filter, and recommend products, information, and people. Increasingly, algorithmic agents don't just select from the range of human created alternatives, but also they create. Burgeoning algorithmic agents are capable of providing us with content made just for us, and engage with us through one-of-a-kind, personalized interactions. Studying these algorithmic agents presents a host of methodological, ethical, and logistical challenges. The objectives of our paper are two-fold. The first aim is to describe one possible approach to researching the individual and societal effects of algorithmic recommenders, and to share our experiences with the academic community. The second is to contribute to a more fundamental discussion about the ethical and legal issues of "tracking the trackers", as well as the costs and trade-offs involved. Our paper will contribute to the discussion on the relative merits, costs and benefits of different approaches to ethically and legally sound research on algorithmic governance. We will argue that besides shedding light on how users interact with algorithmic agents, we also need to be able to understand how different methods of monitoring our algorithmically controlled digital environments compare to each other in terms of costs and benefits. We conclude our article with a number of concrete suggestions for how to address the practical, ethical and legal challenges of researching algorithms and their effects on users and society.

연구 동기 및 목표

• 알고리즘 추천자(algorithmic recommenders)의 개인적 및 사회적 영향 연구에 대한 접근법을 설명한다.
• 실질적 도전 과제를 밝히기 위해 학계에 경험을 공유한다.
• 알고리즘 거버넌스 추적 및 관련 비용과 상충효과에 관한 윤리적·법적 논의에 기여한다.
• 알고리즘 환경의 모니터링 방법을 비용과 편익 측면에서 평가하고 비교할 것을 주장한다.

제안 방법

• 알고리즘 에이전트와의 사용자 상호 작용을 연구하기 위한 연구 접근법을 개략적으로 제시한다.
• 데이터 수집과 실험에서의 방법론적, 윤리적, 물류적 도전을 논의한다.
• 알고리즘 환경을 모니터링하는 다양한 방법의 비용, 이점, 및 상충을 검토한다.
• 이 연구 영역에서의 실용적, 윤리적, 법적 도전에 대응하기 위한 구체적 제안을 제시한다.

실험 결과

연구 질문

• RQ1 알고리즘 추천자의 개인적 및 사회적 영향을 효과적으로 연구할 수 있는 접근 방식은 무엇인가?
• RQ2 알고리즘적으로 제어된 환경을 모니터링하는 다양한 방법은 비용과 편익 측면에서 어떻게 비교되는가?
• RQ3 알고리즘 에이전트의 행동과 사용자에 대한 영향을 추적할 때 어떤 윤리적·법적 문제가 제기되는가?

주요 결과

• 사용자가 알고리즘 에이전트와 어떻게 상호작용하는지 그리고 이것이 사회적 효과로 어떻게 확산되는지 이해할 필요가 있다.
• 다른 모니터링 접근 방식은 평가되어야 하는 서로 다른 비용과 상충을 수반한다.
• 윤리적 및 법적 고려는 알고리즘 거버넌스 연구의 중심이며 명시적 주의가 필요하다.
• 이 글은 실용적이고 윤리적이며 법적 연구 도전에 대응하기 위한 구체적 제안을 제공한다.