[论文解读] Societal, Economic, Ethical and Legal Challenges of the Digital Revolution: From Big Data to Deep Learning, Artificial Intelligence, and Manipulative Technologies

Dirk Helbing|arXiv (Cornell University)|Apr 14, 2015

Digital Transformation in Law被引用 5

一句话总结

本文探讨了数字革命带来的社会、经济、伦理和法律挑战，重点关注大数据、深度学习和人工智能。文章认为，尽管自动化和数据驱动技术具有变革性优势，但若缺乏参与式、透明的治理，而仅依赖自上而下的控制或个性化广告、助推等操纵性技术，则可能危及人类尊严与民主制度。

ABSTRACT

In the wake of the on-going digital revolution, we will see a dramatic transformation of our economy and most of our societal institutions. While the benefits of this transformation can be massive, there are also tremendous risks to our society. After the automation of many production processes and the creation of self-driving vehicles, the automation of society is next. This is moving us to a tipping point and to a crossroads: we must decide between a society in which the actions are determined in a top-down way and then implemented by coercion or manipulative technologies (such as personalized ads and nudging) or a society, in which decisions are taken in a free and participatory way and mutually coordinated. Modern information and communication systems (ICT) enable both, but the latter has economic and strategic benefits. The fundaments of human dignity, autonomous decision-making, and democracies are shaking, but I believe that they need to be vigorously defended, as they are not only core principles of livable societies, but also the basis of greater efficiency and success.

研究动机与目标

• 识别并分析数字革命所引发的主要社会、经济、伦理和法律挑战。
• 考察现代信息与通信技术（ICT）系统的双重潜力：既能实现自上而下的控制，也能实现参与式、民主化的决策。
• 主张在人工智能与数据技术不断发展的背景下，保护并强化人类尊严、自主决策能力以及民主制度。
• 强调参与式数字社会相较于依赖强制或操纵的社会，在战略与经济上的优势。
• 呼吁建立主动的治理框架，优先考虑人类价值观，以指导人工智能与数据系统的设计与部署。

提出的方法

• 对经济与社会领域中大数据、深度学习与人工智能应用的当前趋势进行分析性综合。
• 比较两种社会模式：一种由自上而下的控制与操纵性技术（如个性化广告、助推）驱动，另一种基于自由、参与式的协调机制。
• 运用社会学、政治科学与计算机科学的概念框架，评估ICT系统对人类自主性与民主的影响。
• 强调信息与通信技术（ICT）作为工具，既可促成专制控制，也可实现民主赋权。
• 基于人类尊严与制度韧性原则进行论证，结合跨学科洞见。
• 呼吁对治理与技术设计进行系统性改革，使数字创新与伦理及民主价值保持一致。

实验结果

研究问题

• RQ1 大数据、深度学习与人工智能如何重塑社会机构与经济体系？
• RQ2 使用个性化广告、助推等操纵性技术来塑造人类行为存在哪些风险？
• RQ3 在效率与合法性方面，数字系统中的参与式、自下而上的决策模式是否优于自上而下、强制性的模式？
• RQ4 在人工智能时代，为保护人类尊严与自主性，需要哪些伦理与法律保障？
• RQ5 如何设计数字技术，使其支持而非破坏民主制度与集体自决？

主要发现

• 数字革命正推动一个关键的转折点，社会必须在依赖操纵性技术的自上而下控制与参与式、自我协调模式之间做出选择。
• 现代ICT系统既能促成专制控制，也能实现民主参与，但后者在长期具有更优的经济与战略效益。
• 数据驱动的自动化与行为操纵正对人类尊严、自主决策能力与民主制度构成威胁。
• 本文主张，捍卫人类尊严与自主性不仅是伦理上的必要之举，也是实现社会效率与创新的关键。
• 迫切需要建立以透明度、参与度与问责制为核心的治理模式，以规范人工智能与数据系统。
• 本文警告，若不对操纵性技术的使用加以约束，将可能侵蚀公众信任，削弱民主合法性。