[논문 리뷰] Trust, Accountability, and Autonomy in Knowledge Graph-Based AI for Self-Determination

Luis Ibáñez, John Domingue외 4명|arXiv (Cornell University)|2023. 06. 30.

Legal and Policy Issues인용 수 2

한 줄 요약

이 논문은 신뢰, 책임성, 자율성을 통해 시민의 자결권을 지원하는 지식 그래프(KG) 기반 AI를 위한 연구 의제를 제안한다. 신경-기호적 AI를 탈중앙화된 인프라, 설명 가능한 AI, 기계가 읽을 수 있는 정책과 통합하여 투명하고 감사 가능하며 사용자가 제어할 수 있는 AI 시스템을 가능하게 하며, KG를 윤리적이고 인간 중심적인 AI의 기초로 위치시킨다.

ABSTRACT

Knowledge Graphs (KGs) have emerged as fundamental platforms for powering intelligent decision-making and a wide range of Artificial Intelligence (AI) services across major corporations such as Google, Walmart, and AirBnb. KGs complement Machine Learning (ML) algorithms by providing data context and semantics, thereby enabling further inference and question-answering capabilities. The integration of KGs with neuronal learning (e.g., Large Language Models (LLMs)) is currently a topic of active research, commonly named neuro-symbolic AI. Despite the numerous benefits that can be accomplished with KG-based AI, its growing ubiquity within online services may result in the loss of self-determination for citizens as a fundamental societal issue. The more we rely on these technologies, which are often centralised, the less citizens will be able to determine their own destinies. To counter this threat, AI regulation, such as the European Union (EU) AI Act, is being proposed in certain regions. The regulation sets what technologists need to do, leading to questions concerning How the output of AI systems can be trusted? What is needed to ensure that the data fuelling and the inner workings of these artefacts are transparent? How can AI be made accountable for its decision-making? This paper conceptualises the foundational topics and research pillars to support KG-based AI for self-determination. Drawing upon this conceptual framework, challenges and opportunities for citizen self-determination are illustrated and analysed in a real-world scenario. As a result, we propose a research agenda aimed at accomplishing the recommended objectives.

연구 동기 및 목표

• 투명하고 책임감 없이 처리되는 데이터로 인해 중심화된 AI 시스템이 시민의 자결권을 위협하는 데 대비하기 위해.
• 윤리적인 KG 기반 AI 개발을 이끄는 핵심 연구 분야인 신뢰, 책임성, 자율성의 세 가지 기둥을 규명하기 위해.
• 기계가 읽을 수 있는 규범, 탈중앙화된 인프라, 설명 가능한 신경-기호적 AI를 통합한 개념적 프레임워크를 제안하기 위해.
• 자결권의 관점에서 AI 거버넌스와 데이터 제어의 실제 도전 과제를 분석하기 위해.
• 기술적 발전을 기본적인 인권과 유럽연합 AI법 원칙에 부합되게 하기 위한 연구 의제를 수립하기 위해.

제안 방법

• 신뢰, 책임성, 자율성이 KG 기반 AI 시스템의 세 가지 기둥이 되는 개념적 프레임워크를 제안한다.
• 기계가 읽을 수 있는 규범과 정책을 윤리적 AI 행동을 특정하고 시행하기 위한 기본 구성 요소로 통합한다.
• 중앙 집중형 플랫폼에 대한 의존도를 줄이기 위해 탈중앙화된 인프라와 탈중앙화된 KG 관리 체계를 지지한다.
• 기호적 지식 그래프와 신경 모델(예: LLMs)을 결합하여 해석 가능한 추론을 가능하게 하기 위해 설명 가능한 신경-기호적 AI를 홍보한다.
• Semantic Web의 표준(RDF, OWL)과 탈중앙화된 신원 체계(DID, 검증 가능한 증명서)를 활용하여 데이터와 신원의 무결성을 확보한다.
• 실제 사례를 통해 데이터 제어, 투명성, 준수 문제의 과제를 설명하고 연구 의제를 뒷받침한다.

실험 결과

연구 질문

• RQ1 중앙 집중형 데이터 제어에 대비하여 KG 기반 AI 시스템은 어떻게 개인의 데이터 자결권을 지원할 수 있는가?
• RQ2 KG 기반 AI 의사결정에서 책임성과 투명성을 보장하기 위해 필요한 기술적 및 아키텍처적 구성 요소는 무엇인가?
• RQ3 설명 가능한 신경-기호적 AI는 어떻게 도입되어 AI 출력에 대한 정당성을 제공하면서도 의미적 무결성을 유지할 수 있는가?
• RQ4 탈중앙화된 인프라와 기계가 읽을 수 있는 정책은 개인 데이터에 대한 사용자 자율성을 어떻게 지원하는가?
• RQ5 기존의 규제 프레임워크, 예를 들어 EU AI법은 KG 기반 AI 시스템에서 어떻게 기술적으로 실행될 수 있는가?

주요 결과

• 지식 그래프(KG)와 대규모 언어 모델(LLMs)의 통합은 더 해석 가능하고 맥락을 고려한 AI를 가능하게 하며, 설명 가능한 의사결정을 지원한다.
• 탈중앙화된 인프라와 탈중앙화된 KG 관리는 독점적 통제를 방지하고 사용자 자율성을 향상시키기 위해 필수적이다.
• 기계가 읽을 수 있는 정책과 규범은 법적 및 윤리적 요구사항을 인코딩하여 AI 시스템에서 자동 준수 검사를 가능하게 한다.
• 현재의 AI 시스템은 데이터와 모델이 기업의 방화벽 뒤에 숨겨져 있을 경우 특히 투명성과 책임성이 떨어진다.
• 제안된 연구 의제는 인간 권리, 특히 자결권과 부합하는 KG 기반 AI의 실질적인 기술적 길을 규명한다.
• 신뢰 정당화를 위한 '오, 맞다' 버튼은 주요 브라우저에서 아직 실현되지 않았으며, 이는 AI 투명성 분야에서의 기술적·정책적 혁신이 여전히 절실하다는 것을 시사한다.