[논문 리뷰] Societal, Economic, Ethical and Legal Challenges of the Digital Revolution: From Big Data to Deep Learning, Artificial Intelligence, and Manipulative Technologies

Dirk Helbing|arXiv (Cornell University)|2015. 04. 14.

Digital Transformation in Law인용 수 5

한 줄 요약

이 논문은 디지털 혁명으로 인해 발생하는 사회적, 경제적, 윤리적, 법적 과제를 다루며, 대용량 데이터, 딥 러닝, 인공지능에 초점을 맞춘다. 자동화와 데이터 기반 기술이 변혁적 이점을 제공하지만, 참여형이고 투명한 거버넌스가 아니라 상향식 통제나 개인 맞춤 광고 및 노즈잉 같은 조작 기법에 의해 지배될 경우 인간의 존엄성과 민주주의가 위협받을 수 있음을 주장한다.

ABSTRACT

In the wake of the on-going digital revolution, we will see a dramatic transformation of our economy and most of our societal institutions. While the benefits of this transformation can be massive, there are also tremendous risks to our society. After the automation of many production processes and the creation of self-driving vehicles, the automation of society is next. This is moving us to a tipping point and to a crossroads: we must decide between a society in which the actions are determined in a top-down way and then implemented by coercion or manipulative technologies (such as personalized ads and nudging) or a society, in which decisions are taken in a free and participatory way and mutually coordinated. Modern information and communication systems (ICT) enable both, but the latter has economic and strategic benefits. The fundaments of human dignity, autonomous decision-making, and democracies are shaking, but I believe that they need to be vigorously defended, as they are not only core principles of livable societies, but also the basis of greater efficiency and success.

연구 동기 및 목표

• 디지털 혁명이 초래하는 주요 사회적, 경제적, 윤리적, 법적 과제를 식별하고 분석하는 것.
• 현대 정보통신기술(ICT) 시스템의 이중적 잠재력 — 즉, 상향식 통제 또는 參與형 민주적 의사결정을 가능하게 하는 것 — 를 검토하는 것.
• 진보하는 인공지능과 데이터 기술의 흐름 속에서 인간 존엄성, 자율적 의사결정, 민주적 제도를 보호하고 강화해야 한다는 주장을 펼치는 것.
• 강압이나 조작에 의존하는 사회보다 參與형 디지털 사회가 가지는 전략적·경제적 이점이 명확히 드러나야 한다는 점을 강조하는 것.
• 인공지능과 데이터 시스템의 설계 및 구현 과정에서 인간가치를 우선시하는 선제적 거버넌스 프레임워크를 마련할 것을 촉구하는 것.

제안 방법

• 경제 및 사회 분야에서 대용량 데이터, 딥 러닝, 인공지능 응용의 현재 추세를 분석적 통합하는 것.
• 두 가지 사회 모델을 비교 평가하는 것: 개인 맞춤 광고, 노즈잉 등 조작 기술에 기반한 상향식 통제 모델과 자유로운 참여 기반의 협력 모델.
• 사회학, 정치학, 컴퓨터과학의 개념 프레임워크를 활용하여 정보통신기술(ICT) 시스템이 인간의 자율성과 민주주의에 끼치는 영향을 평가하는 것.
• 정보통신기술(ICT)이 독재적 통제 또는 민주적 능력 강화 도구로 작용할 수 있음을 강조하는 것.
• 인간 존엄성과 제도적 회복력의 원칙에 기반한 논증을 펼치며, 다학제적 통찰을 통합하는 것.
• 디지털 혁신이 윤리적 및 민주적 가치와 조화를 이룰 수 있도록 거버넌스 및 기술 설계의 체계적 개혁을 주장하는 것.

실험 결과

연구 질문

• RQ1 대용량 데이터, 딥 러닝, 인공지능은 사회 제도와 경제 체계를 어떻게 재편하고 있는가?
• RQ2 개인 맞춤 광고 및 노즈잉과 같은 조작 기술을 사용해 인간 행동을 형성하는 데서 발생하는 위험은 무엇인가?
• RQ3 효율성과 정당성 측면에서, 디지털 시스템에서의 參與형 하향식 의사결정 모델이 상향식 강압 모델을 능가할 수 있는가?
• RQ4 인공지능 시대에 인간 존엄성과 자율성을 유지하기 위해 필요한 윤리적·법적 보호장치는 무엇인가?
• RQ5 디지털 기술은 민주적 제도와 집단적 자결권을 어떻게 지원할 수 있으며, 어떻게 약화시키지 않을 수 있는가?

주요 결과

• 디지털 혁명은 사회가 상향식 통제와 조작 기술을 사용할 것인지, 아니면 參與형 자율적 조율 모델을 선택할 것인지 결정해야 하는 결정적 전환점에 이르고 있다.
• 현대의 정보통신기술(ICT) 시스템은 독재적 통제와 민주적 참여를 모두 가능하게 할 수 있지만, 후자는 장기적으로 더 뛰어난 경제적 및 전략적 이점을 제공한다.
• 데이터 기반 자동화와 행동 조작으로 인해 인간 존엄성, 자율적 의사결정, 민주적 제도가 위협받고 있다.
• 논문은 인간 존엄성과 자율성을 지키는 것이 윤리적으로 필수적인 일뿐 아니라 사회적 효율성과 혁신을 위해 필수적임을 주장한다.
• 투명성, 참여, 책임성을 우선시하는 거버넌스 모델이 인공지능과 데이터 시스템에 반드시 필요하다는 점이 명확하다.
• 논문은 조작 기술의 무제한 사용이 공공 신뢰를 약화시키고 민주적 정당성을 훼손할 수 있음을 경고한다.