[논문 리뷰] Local and Global Trust Based on the Concept of Promises

J.A. Bergstra, Mark Burgess|ArXiv.org|2009. 12. 23.

Logic, Reasoning, and Knowledge참고 문헌 21인용 수 13

한 줄 요약

이 논문은 에이전트 간의 자율적 약속—즉, 약속—기반의 신뢰 모델을 제안한다. 국지적 신뢰는 약속이 이행될 것이라는 기대를 의미한다. 약속 그래프에서 고유벡터 중심성에 기반한 글로벌 신뢰 지표를 도입하여, 신뢰가 본질적으로 히ュ리스틱이며 신뢰성과 행동 유형 간의 분리가 가능하다는 점을 보여주며, PGP 웹 오브 트러스트와 신뢰할 수 있는 제3자와 같은 모델에 대한 형식적 기반을 제공한다.

ABSTRACT

We use the notion of a promise to define local trust between agents possessing autonomous decision-making. An agent is trustworthy if it is expected that it will keep a promise. This definition satisfies most commonplace meanings of trust. Reputation is then an estimation of this expectation value that is passed on from agent to agent. Our definition distinguishes types of trust, for different behaviours, and decouples the concept of agent reliability from the behaviour on which the judgement is based. We show, however, that trust is fundamentally heuristic, as it provides insufficient information for agents to make a rational judgement. A global trustworthiness, or community trust can be defined by a proportional, self-consistent voting process, as a weighted eigenvector-centrality function of the promise theoretical graph.

연구 동기 및 목표

• 신뢰의 모호함을 제거하기 위해 약속—행동 특정의 자율적 약속—개념에 기반하여 신뢰를 정의한다.
• 에이전트의 신뢰성과 평가 대상 행동 유형을 분리함으로써 세분화된 신뢰 평가를 가능하게 한다.
• 약속 그래프 위에서 자율적이고 비례적인 투표 과정으로서의 글로벌 또는 공동체 신뢰를 형식화한다.
• 신뢰가 본질적으로 히ュ리스틱이며, 정보가 불완전하기 때문에 합리적 의사결정에 부적합하다는 점을 보여준다.
• 기존의 모델들—예를 들어 웹 오브 트러스트와 신뢰할 수 있는 제3자—를 통합할 수 있는 프레임워크를 제공한다.

제안 방법

• 약속이 이행될 것이라는 기대값으로 신뢰를 정의하며, 약속은 의도된 행동에 대한 자율적 선언이다.
• 노드가 에이전트이고 간선이 약속을 나타내는 방향 그래프로 신뢰 관계를 모델링하여 약속 이론적 그래프를 구성한다.
• 신뢰 그래프의 가중치가 부여된 고유벡터 중심성 함수로 글로벌 신뢰를 유도하여 네트워크 전반에서 자율성과 비례성을 보장한다.
• 고장 트리 분석과 유사한 확률적 규칙을 사용하여 다중 약속을 조합함으로써 약속의 묶음 모델을 구축한다.
• 명예는 네트워크 전반에서 신뢰 평가가 경로 의존적이고 전염성 있는 방식으로 확산되는 것으로 구분되며, 네트워크 구조에 민감하다.
• 모델을 적용하여 기존 아키텍처—예를 들어 PGP 웹 오브 트러스트 및 신뢰할 수 있는 제3자 시스템—을 분석하고 형식화한다.

실험 결과

연구 질문

• RQ1 에이전트의 자율성과 일반 용어 사용에서의 모호함을 피하면서도 신뢰를 형식적으로 정의할 수 있는 방법은 무엇인가?
• RQ2 자율 에이전트 네트워크에서 국지적 신뢰(개별 기대)와 글로벌 신뢰(공동체 수준의 명예) 사이의 관계는 무엇인가?
• RQ3 중앙 집중적 기관에 의존하지 않고 약속 관계에서 자율적이고 확장 가능한 글로벌 신뢰 측정치를 도출할 수 있는가?
• RQ4 신뢰가 왜 본질적으로 히ュ리스틱이며, 이로 인해 신뢰 기반 시스템에서 합리적 의사결정에 어떤 제약이 따르는가?
• RQ5 기존의 신뢰 모델—예를 들어 웹 오브 트러스트와 신뢰할 수 있는 제3자—는 제안된 약속 기반 프레임워크의 특수한 경우로 어떻게 도출되는가?

주요 결과

• 신뢰는 약속—자율적 약속—이 이행될 것이라는 기대로 정의할 때 가장 잘 정의되며, 이는 명확하고 행동 특정적이며 정책 민감한 기반을 제공한다.
• 글로벌 신뢰는 약속 그래프의 가중치가 부여된 고유벡터 중심성 함수로 계산될 수 있으며, 이는 네트워크 전반에서 비례성과 자율성을 보장한다.
• 명예는 신뢰와 본질적으로 관련되지 않으며, 경로 의존적이고 전염성 있는 방식으로 신뢰 평가가 확산되며, 네트워크 구조에 민감하다.
• 모델은 신뢰가 정보가 부족하여 완전히 합리적인 판단을 내릴 수 없기 때문에 본질적으로 히ュ리스틱이며, 모든 신뢰 평가가 정책에 따라 달라지고 특수한 조건에 의존한다는 점을 보여준다.
• PGP 웹 오브 트러스트와 신뢰할 수 있는 제3자 모델은 제안된 프레임워크의 특수한 경우로 밝혀지며, 다만 전체 시각화와 일관된 신뢰 측정이 부족하다.
• 이 프레임워크는 cfengine 같은 시스템에서 에이전트가 보안 관련 약속을 이행하는지 관찰함으로써 호스트의 신뢰성 직접 측정이 가능하게 하여, 실무에서의 모델 검증을 가능하게 한다.