[논문 리뷰] Establishing Meta-Decision-Making for AI: An Ontology of Relevance, Representation and Reasoning

Cosmin Badea, Leilani H. Gilpin|arXiv (Cornell University)|2022. 10. 02.

Explainable Artificial Intelligence (XAI)인용 수 4

한 줄 요약

이 논문은 제3세대 자율 시스템을 위한 메타결정법을 가능하게 하기 위해 세 부분으로 구성된 온톨로지—관련성, 표현, 추론—을 제안한다. 이 구성요소로 결정 과정을 모듈화함으로써 시스템의 자율성, 안전성, 적응 능력이 향상되며, 복잡하고 개방형 환경에서 보다 나은 벤치마킹, 리스크 완화, 예측적 추론이 가능해진다.

ABSTRACT

We propose an ontology of building decision-making systems, with the aim of establishing Meta-Decision-Making for Artificial Intelligence (AI), improving autonomy, and creating a framework to build metrics and benchmarks upon. To this end, we propose the three parts of Relevance, Representation, and Reasoning, and discuss their value in ensuring safety and mitigating risk in the context of third wave cognitive systems. Our nomenclature reflects the literature on decision-making, and our ontology allows researchers that adopt it to frame their work in relation to one or more of these parts.

연구 동기 및 목표

• AI에서 맥락에 적응하는 제3세대 자율 시스템을 위한 자율 결정 과정 설계를 위한 체계적 프레임워크의 부재를 해결하기 위해.
• 고립된 오류 처리와 컴포넌트 간 의존성 문제로 인한 시스템 장애를 줄이기 위해 통합적이고 모듈화된 온톨로지를 도입함으로써.
• 결정 과정의 방식에 대해 고려하는 메타결정법을 체계화하고 재사용 가능한 프레임워크를 통해 안전성과 리스크 완화를 향상시키기 위해.
• 감사 가능성과 평가를 위해 결정 과정의 구성요소를 명확히 구분함으로써 지표 및 벤치마크 개발을 지원하기 위해.
• 관련 요소 식별, 가치 표현, 추론 패러다임 적용 과정을 분리하고 표준화함으로써 더 유연하고 적응 가능하며 신뢰할 수 있는 AI 시스템을 가능하게 하기 위해.

제안 방법

• AI 결정 과정 설계를 위한 기초 프레임워크로 세 수준의 온톨로지—관련성, 표현, 추론—을 제안한다.
• 각 구성요소를 실질적으로 구현하는 데 사용된 MARS(가치 기반 도덕적 추론 시스템)의 사례를 통해 실제 적용 사례를 제시한다.
• 관련성은 맥락적으로 중요한 특징들과 그 가치와의 연결 고리를 식별하는 것으로, 예를 들어 충돌 회피를 위한 보행자 탐지 등이다.
• 표현은 가치와 규칙를 형식적이고 기계가 처리할 수 있는 형태로 정렬하는 것으로, 규범적 또는 묘사적 가치 순서를 포함한다.
• 추론은 표현된 가치와 맥락을 바탕으로 행동을 평가하기 위해 다양한 모델(예: 덧셈형, 가중치형, 패러다임 기반 등)을 적용한다.
• 다양한 추론 패러다임과 관련성 및 표현 구성요소의 동적 재가중치 설정을 통해 모듈성과 재현성을 강조함으로써 복원력을 향상시킨다.

실험 결과

연구 질문

• RQ1 메타결정법을 체계적으로 정렬함으로써 AI 시스템의 자율성과 안전성을 어떻게 향상시킬 수 있는가?
• RQ2 자율 결정 과정 설계에서 적응 가능성과 리스크 완화를 확보하기 위해 반드시 체계화되어야 할 핵심 구성요소는 무엇인가?
• RQ3 관련성, 표현, 추론의 분리가 시스템의 모듈성 향상, 결합도 감소, 그리고 벤치마킹 개선에 어떻게 기여하는가?
• RQ4 이 온톨로지는 개방형 환경에서 새로운 또는 예측 불가능한 상황을 처리하고 예측적 사고를 어떻게 지원하는가?
• RQ5 이 프레임워크는 자율주행차나 도덕적 추론 시스템과 같은 특정 결정 단계에서 성능을 감사하고 측정하는 데 어떻게 활용될 수 있는가?

주요 결과

• 관련성, 표현, 추론으로 구성된 세 부분의 온톨로지는 AI에서 메타결정법을 지원하고 시스템 자율성을 향상시키는 체계적이고 모듈화된 프레임워크를 제공한다.
• 맥락적으로 중요한 요소 식별(관련성), 가치의 형식적 표현(표현), 추론 모델 적용(추론)을 분리함으로써 시스템 복잡도가 감소하고 감사 가능성 향상이 이루어진다.
• 맥락에 따라 관련성 및 추론 패러다임을 동적으로 조정할 수 있도록 함으로써 안전이 중요한 시간 민감한 결정 과정을 더 잘 처리할 수 있다.
• 다양한 추론 모델과 탄력적인 가치 가중치 설정을 통해 규칙 폭발, 결정 정체, 局부 최적화 문제를 완화할 수 있다.
• MARS 내에서 덧셈형, 가중치형, 또는 패러다임 특화된 추론 모델을 병행 사용함으로써 불확실성 하에서의 도덕적 결정 과정에서의 더 높은 탄력성과 커버리지가 확보된다.
• 각 구성요소에 집중한 감사가 가능해지므로 지표 및 벤치마크 개발을 지원하며, 관련성 탐지나 가치 표현 정확도 평가 등 특정 요소의 평가가 가능해진다.