[논문 리뷰] Defining the Collective Intelligence Supply Chain

Iain Barclay, Alun Preece외 1명|arXiv (Cornell University)|2018. 09. 25.

Big Data and Business Intelligence참고 문헌 16인용 수 5

한 줄 요약

이 논문은 인공지능 시스템에서 사용되는 집단지능—공동으로 기여한 데이터와 지식—의 기원, 공정성, 책임성을 추적하기 위한 블록체인 기반 공급망 모델을 제안한다. 집단지능을 추적 가능한 자산으로 간주함으로써, 분산 검증을 통해 윤리적인 데이터 사용, 투명성, 검증 가능한 책임성을 보장하는 프레임워크를 제공한다.

ABSTRACT

Organisations are increasingly open to scrutiny, and need to be able to prove that they operate in a fair and ethical way. Accountability should extend to the production and use of the data and knowledge assets used in AI systems, as it would for any raw material or process used in production of physical goods. This paper considers collective intelligence, comprising data and knowledge generated by crowd-sourced workforces, which can be used as core components of AI systems. A proposal is made for the development of a supply chain model for tracking the creation and use of crowdsourced collective intelligence assets, with a blockchain based decentralised architecture identified as an appropriate means of providing validation, accountability and fairness.

연구 동기 및 목표

• 공공 및 정부 부문에서 윤리적이고 책임감 있는 AI 시스템에 대한 증가하는 수요를 해결한다.
• 인공지능 시스템 내에서 공동 기여된 데이터와 지식의 기원 및 사용을 추적하는 데서 발생하는 격차를 규명한다.
• 집단지능 생산 및 배포 과정에서의 투명성, 공정성, 검증 가능성 확보를 위한 공급망 모델을 개발한다.
• 집단지능 자산의 전 생애주기 동안 감사 및 검증을 위한 프레임워크를 수립한다.
• 물리적 제품의 공급망과 유사하게, 데이터 및 지식 원천까지 책임 범위를 확장함으로써 윤리적 AI를 촉진한다.

제안 방법

• 산업 공급망을 모델로 삼아 데이터 및 지식 자산에 맞게 조정된 집단지능 공급망 모델을 제안한다.
• 불변성, 투명성, 검증 가능한 기원을 보장하기 위해 분산된 블록체인 기반 아키텍처를 도입한다.
• 공급망의 핵심 단계를 정의한다: 데이터 생성, 셀렉션, 레이블링, 집계, 그리고 인공지능 시스템에 통합.
• 암호 해시 기법과 분산원장 기술을 사용하여 각 단계의 과정을 위변조 탐지 가능한 기록과 연결한다.
• 기여자, 셀렉터, 시스템 운영자 간의 책임을 확보하기 위해 역할 기반 접근 및 감사 히스토리 기능을 통합한다.
• 모든 공급망 단계에 데이터 거버넌스 및 윤리적 AI 원칙을 적용하여 편향 및 남용을 방지한다.

실험 결과

연구 질문

• RQ1 인공지능 시스템 내에서 집단지능 자산이 생애주기 전반에 걸쳐 체계적으로 추적되고 검증될 수 있는 방법은 무엇인가?
• RQ2 공동 기여된 데이터 및 지식의 생산 및 사용 과정에서 투명성과 책임성을 보장하는 데 필요한 아키텍처 모델은 무엇인가?
• RQ3 블록체인 기술이 집단지능 공급망에서 공정성과 윤리적 정당성을 어떻게 지원할 수 있는가?
• RQ4 기존의 인공지능 공급망 모델을 어떻게 조정하여 인간이 기여한 통찰과 같은 비물리적 지식 기반 자산을 포함시킬 수 있는가?
• RQ5 공공부문 인공지능 응용 분야에서 윤리적인 수급 및 활용을 보장하기 위해 필요한 거버넌스 메커니즘은 무엇인가?

주요 결과

• 블록체인 기반 공급망 모델은 집단지능 자산의 추적 가능성과 검증 가능성에 효과적으로 기여한다.
• 모델은 모든 생산 단계에서 데이터 및 지식의 기원을 기록함으로써 윤리적 책임을 보장한다.
• 기여 및 데이터 사용 결정의 독립적 감사를 가능하게 하여 투명성을 향상시킨다.
• 불변 기록을 통해 기여자의 공로에 대한 공정한 보상과 인정을 실현할 수 있다.
• 공공부문 인공지능 거버넌스 요구사항과 부합하기 위해, 공정성, 투명성, 감사 가능성을 체계 설계에 통합한다.
• 규제된 인공지능 응용 분야에 집단지능을 통합하기 위한 확장 가능하고 확장 가능한 기반을 제공한다.