[논문 리뷰] Machine Reasoning Explainability

Kristijonas Čyras, Ramamurthy Badrinath외 6명|arXiv (Cornell University)|2020. 09. 01.

Explainable Artificial Intelligence (XAI)참고 문헌 246인용 수 4

한 줄 요약

이 논문은 기계 추론(MR) 분야의 설명 가능성 기법에 대한 종합적이고 선택적인 개요를 제공하며, 논리적 접근 방식인 논증, 논리 프로그래밍, 제약 프로그래밍, 자동 정리 증명 등을 강조한다. 이는 추론 기반 설명, 추론적 추론, 전략적 정당화와 관련된 MR의 설명 가능성에 관한 수십 년에 걸친 연구를 부각시키며, 현대적 설명 가능 인공지능(XAI)의 기초로 여겨지며, AI 시스템의 투명성과 신뢰도 향상에 통찰을 제공한다.

ABSTRACT

As a field of AI, Machine Reasoning (MR) uses largely symbolic means to formalize and emulate abstract reasoning. Studies in early MR have notably started inquiries into Explainable AI (XAI) -- arguably one of the biggest concerns today for the AI community. Work on explainable MR as well as on MR approaches to explainability in other areas of AI has continued ever since. It is especially potent in modern MR branches, such as argumentation, constraint and logic programming, planning. We hereby aim to provide a selective overview of MR explainability techniques and studies in hopes that insights from this long track of research will complement well the current XAI landscape. This document reports our work in-progress on MR explainability.

연구 동기 및 목표

• 기계 추론(MR)의 설명 가능성에 관한 40년에 걸친 연구를 통합하고 맥락화하기.
• 현대 XAI에서 아직 활용되지 못한 성숙한 상징적 기법들을 강조함으로써 현재 XAI 연구의 격차를 메우기.
• 특히 추론 기반, 추론적 추론, 논증 기반 설명을 포함한 MR 기반 설명 가능성 기법이 AI 시스템의 투명성, 정당화, 사용자 신뢰를 어떻게 향상시킬 수 있는지 보여주기.
• 논리 프로그래밍, 제약 프로그래밍, 자동 정리 증명 등의 주요 MR 하위 분야에서 설명 가능성 기법에 대한 체계적인 개요 제공.
• 기계 추론의 상징적 설명 가능성 기법을 보다 넓은 XAI 프레임워크에 통합하여 AI 에이전트의 정당화, 비판, 협업 능력을 향상시키기 위한 주장 제기

제안 방법

• 사람-컴퓨터 상호작용 및 인지과학 원리를 바탕으로 설명을 소속형, 대조형, 행동형으로 분류.
• 추론 기반 설명을 분석하기 위해 축약 공리 식별, 임플리컨트, 추론적 추론 기법을 사용하여 상징적 시스템 내의 추론 단계 추적.
• 설명 생성을 위한 추론적 논리 프로그래밍(ABD), 인도크티브 논리 프로그래밍(ILP), 답변 집합 프로그래밍(ASP) 등의 논리 프로그래밍 접근 방식 검토.
• 제약 프로그래밍(CP) 기법 중 SAT 해결 및 일반 CP를 분석하여 제약 만족 및 최적화 결정의 설명 가능성 확보.
• 자동 정리 증명(ATP) 및 증명 보조 도구를 연구하여 논리적 추론의 공식적이고 검증 가능한 설명 생성.
• 다중 에이전트 시스템에서 대화, 정당화, 비판을 통해 설명 가능한 결정을 생성하는 논증 프레임워크 탐구.

실험 결과

연구 질문

• RQ1 기계 추론에서의 상징적이고 논리 기반 접근 방식이 지난 40년간 설명 가능성에 어떻게 기여해 왔는가?
• RQ2 MR에서의 추적형, 전략형, 깊이형 설명 간의 주요 차이는 무엇이며, 사용자 이해와 신뢰를 어떻게 지원하는가?
• RQ3 추론적 추론, 논증, 제약 해결 기법을 어떻게 활용하여 AI 시스템에서 행동형 및 대조형 설명을 생성할 수 있는가?
• RQ4 ASP, ALP, ATP와 같은 현대적 상징적 AI 기법이 자율 에이전트 및 다중 에이전트 시스템에서 설명 가능한 의사결정을 어떻게 지원하는가?
• RQ5 MR에서의 상징적 설명 가능성은 정당화, 비판, 협업 측면에서 현재 XAI의 한계를 해결하는 데 어떤 역할을 할 수 있는가?

주요 결과

• 기계 추론은 오랜 기간 동안 설명 가능성에 기여해 왔으며, 특히 1970년대부터 시작된 전문가 시스템에서 추적형 설명에서 전략형 및 깊이형 설명으로 진화한 바가 있다.
• 축약 공리 식별, 추론적 추론, 임플리컨트 분석은 결론을 도출하기 위해 필요한 최소 지식을 정확히 식별할 수 있게 해주며, 정당화 및 감사 가능성 향상에 기여한다.
• 논증 프레임워크는 다중 에이전트 시스템에서 특히 결정이 대화와 비판을 통해 정당화되어야 할 경우, 대조형 및 행동형 설명을 생성하는 강력한 메커니즘을 제공한다.
• 제약 프로그래밍 및 SAT 해결 기법은 최적화 및 구성 작업에서 설명 가능한 추론을 가능하게 하며, 증명 추적 및 만족 불가 핵심을 통해 설명을 도출한다.
• 자동 정리 증명 및 증명 보조 도구는 논리적 추론의 검증 가능하고 공식적인 설명을 생성하여 상징적 추론의 정확성과 투명성 지원.
• 답변 집합 프로그래밍(ASP) 및 인도크티브 논리 프로그래밍(ILP)과 같은 상징적 접근 방식은 특히 네트워크 슬라이싱 및 계획과 같은 복잡하고 구조화된 도메인에서 설명 가능한 지식 획득 및 추론을 가능하게 한다.