[論文レビュー] Societal, Economic, Ethical and Legal Challenges of the Digital Revolution: From Big Data to Deep Learning, Artificial Intelligence, and Manipulative Technologies

Dirk Helbing|arXiv (Cornell University)|Apr 14, 2015

Digital Transformation in Law被引用数 5

ひとこと要約

この論文は、デジタル革命に伴う大規模データ、ディープラーニング、AIの発展が引き起こす社会的、経済的、倫理的、法的課題を検討している。自動化とデータドリブン技術は画期的な利点を提供するが、参加型で透明性のあるガバナンスによって導かれない限り、人間の尊厳や民主主義を損なうおそれがある。代わりに、トップダウンの支配や、パーソナライズ広告やナッジといった操作的技術に頼るのではなく、参加型のガバナンスを採用する必要がある。

ABSTRACT

In the wake of the on-going digital revolution, we will see a dramatic transformation of our economy and most of our societal institutions. While the benefits of this transformation can be massive, there are also tremendous risks to our society. After the automation of many production processes and the creation of self-driving vehicles, the automation of society is next. This is moving us to a tipping point and to a crossroads: we must decide between a society in which the actions are determined in a top-down way and then implemented by coercion or manipulative technologies (such as personalized ads and nudging) or a society, in which decisions are taken in a free and participatory way and mutually coordinated. Modern information and communication systems (ICT) enable both, but the latter has economic and strategic benefits. The fundaments of human dignity, autonomous decision-making, and democracies are shaking, but I believe that they need to be vigorously defended, as they are not only core principles of livable societies, but also the basis of greater efficiency and success.

研究の動機と目的

• デジタル革命が引き起こす主な社会的、経済的、倫理的、法的課題を特定し、分析すること。
• 現代の情報通信技術（ICT）システムの二重の可能性を検討すること：上位からの支配的管理または参加型・民主的意思決定の両方を可能にする。
• 進化を続けるAIおよびデータ技術の前において、人間の尊厳、自律的意思決定、民主的制度の保護と強化を主張すること。
• 抑圧や操作に依存する社会と比較して、参加型のデジタル社会が示す戦略的・経済的利点を強調すること。
• AIおよびデータシステムの設計と展開において人間の価値を最優先する、能動的なガバナンス枠組みの構築を求めること。

提案手法

• 経済的・社会的分野における大規模データ、ディープラーニング、AIの応用分野における現在のトレンドの分析的統合。
• 二つの社会的モデルの比較的評価：上位からの支配と操作的技術（例：パーソナライズ広告、ナッジ）に基づくモデルと、自由で参加型の調整に基づくモデル。
• 社会学、政治学、コンピュータサイエンスの概念的枠組みを用いて、ICTシステムが人間の自律性と民主主義に与える影響を評価すること。
• 情報通信技術（ICT）が、独裁的支配の手段としても、民主的エンパワーの手段としても機能しうることの役割に焦点を当てる。
• 人間の尊厳と制度的レジリエンスの原則に基づく議論を展開し、学際的知見を統合すること。
• デジタルイノベーションが倫理的・民主的価値と整合するように、ガバナンスと技術設計における包括的改革を提言すること。

実験結果

リサーチクエスチョン

• RQ1 大規模データ、ディープラーニング、AIは、社会的制度や経済システムをどのように再編しているか？
• RQ2 パーソナライズ広告やナッジといった操作的技術を用いることで、人間の行動を形作るリスクは何か？
• RQ3 効率性と正当性の観点から、参加型・下位からの意思決定モデルが、上位からの抑圧的モデルを上回ることができるか？
• RQ4 AIの時代において、人間の尊厳と自律性を守るために必要な倫理的・法的ガードレールは何か？
• RQ5 デジタル技術は、民主的制度や集団的自己決定を損なうのではなく、支援するようにどのように設計できるか？

主な発見

• デジタル革命は、操作的技術による上位からの支配か、参加型・自己調整的モデルかの選択を迫る、社会が直面する重要な転換点をもたらしている。
• 現代のICTシステムは、独裁的支配と民主的参加の両方を可能にするが、後者の方が長期的に見て優れた経済的・戦略的利点を有する。
• データドリブンの自動化と行動操作は、人間の尊厳、自律的意思決定、民主的制度を脅かしている。
• 本論文は、人間の尊厳と自律性を守ることは、倫理的に不可欠であるばかりでなく、社会の効率性とイノベーションにとっても不可欠であると主張する。
• 透明性、参加型、責任の取りやすさを重視するガバナンスモデルの構築が明確に必要である。
• 本論文は、操作的技術の無制限な使用が、公共の信頼を侵し、民主的正当性を損なうリスクを警告している。