[论文解读] Trust, Accountability, and Autonomy in Knowledge Graph-Based AI for Self-Determination

Luis Ibáñez, John Domingue+4 more|arXiv (Cornell University)|Jun 30, 2023

Legal and Policy Issues被引用 2

一句话总结

本文提出了一个基于知识图谱（KG）的人工智能研究议程，通过信任、问责制和自主性支持公民自我决定。该议程将神经符号人工智能与去中心化基础设施、可解释人工智能以及机器可读政策相结合，以实现透明、可审计且由用户控制的人工智能系统，将知识图谱确立为社会中伦理化、以人为本的人工智能的基础。

ABSTRACT

Knowledge Graphs (KGs) have emerged as fundamental platforms for powering intelligent decision-making and a wide range of Artificial Intelligence (AI) services across major corporations such as Google, Walmart, and AirBnb. KGs complement Machine Learning (ML) algorithms by providing data context and semantics, thereby enabling further inference and question-answering capabilities. The integration of KGs with neuronal learning (e.g., Large Language Models (LLMs)) is currently a topic of active research, commonly named neuro-symbolic AI. Despite the numerous benefits that can be accomplished with KG-based AI, its growing ubiquity within online services may result in the loss of self-determination for citizens as a fundamental societal issue. The more we rely on these technologies, which are often centralised, the less citizens will be able to determine their own destinies. To counter this threat, AI regulation, such as the European Union (EU) AI Act, is being proposed in certain regions. The regulation sets what technologists need to do, leading to questions concerning How the output of AI systems can be trusted? What is needed to ensure that the data fuelling and the inner workings of these artefacts are transparent? How can AI be made accountable for its decision-making? This paper conceptualises the foundational topics and research pillars to support KG-based AI for self-determination. Drawing upon this conceptual framework, challenges and opportunities for citizen self-determination are illustrated and analysed in a real-world scenario. As a result, we propose a research agenda aimed at accomplishing the recommended objectives.

研究动机与目标

• 解决集中式人工智能系统因数据处理不透明、不可问责而威胁公民自我决定的问题。
• 识别支持基于知识图谱的人工智能伦理发展的核心研究支柱——信任、问责制和自主性。
• 提出一个概念框架，整合机器可读规范、去中心化基础设施和可解释的神经符号人工智能，以指导伦理人工智能设计。
• 通过自我决定的视角分析人工智能治理和数据控制中的现实挑战。
• 建立一个将技术发展与基本人权及欧盟人工智能法案原则对齐的研究议程。

提出的方法

• 提出一个概念框架，其中信任、问责制和自主性是基于知识图谱的人工智能系统的三大支柱。
• 将机器可读规范和政策作为指定和强制执行伦理人工智能行为的基础组件。
• 倡导使用去中心化基础设施和去中心化的知识图谱管理，以减少对集中式平台的依赖。
• 通过将符号知识图谱与神经网络模型（例如大语言模型）结合，推动可解释的神经符号人工智能，以实现可解释的推理。
• 利用语义网标准（RDF、OWL）和去中心化身份系统（DIDs、可验证凭证）保障数据和身份的完整性。
• 使用现实世界场景说明数据控制、透明度和合规性方面的挑战，以指导研究议程的制定。

实验结果

研究问题

• RQ1 如何设计基于知识图谱的人工智能系统，以在集中式数据控制背景下支持个人对数据的自我决定？
• RQ2 确保基于知识图谱的人工智能决策具有问责制和透明度，需要哪些技术和架构组件？
• RQ3 如何实现可解释的神经符号人工智能，以在保持语义完整性的同时为人工智能输出提供合理解释？
• RQ4 去中心化基础设施和机器可读政策在实现用户对个人数据自主权方面发挥什么作用？
• RQ5 现有的监管框架（如欧盟人工智能法案）如何在基于知识图谱的人工智能系统中实现技术落地？

主要发现

• 将知识图谱与大语言模型（LLMs）结合，可实现更具可解释性和上下文感知的人工智能，支持可解释的决策。
• 去中心化基础设施和去中心化的知识图谱管理对于防止垄断控制、增强用户自主性至关重要。
• 机器可读的政策和规范可用于编码法律和伦理要求，使人工智能系统能够自动进行合规性检查。
• 当前的人工智能系统往往缺乏透明度和问责制，尤其是在数据和模型被隐藏在企业防火墙之后时。
• 所提出的研究议程识别出可操作的技术路径，使基于知识图谱的人工智能与人权（尤其是自我决定权）保持一致。
• ‘Oh yeah?’ 按钮（用于信任理由的即时验证）在主流浏览器中仍未实现，凸显了在人工智能透明度方面仍需技术和政策创新。