[논문 리뷰] Trustworthy AI in the Age of Pervasive Computing and Big Data

Abhishek Kumar, Tristan Braud외 2명|arXiv (Cornell University)|2020. 01. 30.

Privacy-Preserving Technologies in Data참고 문헌 54인용 수 8

한 줄 요약

이 논문은 퍼스티브 컴퓨팅 및 빅데이터 환경을 위한 신뢰할 수 있는 AI 프레임워크를 제안하며, 알고리즘, 데이터, 실천 방식의 윤리성에 중점을 둔다. 스마트 시티 응용 분야에서 프라이버시를 보존하는 기법들인 피어드 학습과 차등적 프라이버시를 통해 투명성, 공정성, 책임성을 확보하면서도 사용자 데이터를 보호한다.

ABSTRACT

The era of pervasive computing has resulted in countless devices that continuously monitor users and their environment, generating an abundance of user behavioural data. Such data may support improving the quality of service, but may also lead to adverse usages such as surveillance and advertisement. In parallel, Artificial Intelligence (AI) systems are being applied to sensitive fields such as healthcare, justice, or human resources, raising multiple concerns on the trustworthiness of such systems. Trust in AI systems is thus intrinsically linked to ethics, including the ethics of algorithms, the ethics of data, or the ethics of practice. In this paper, we formalise the requirements of trustworthy AI systems through an ethics perspective. We specifically focus on the aspects that can be integrated into the design and development of AI systems. After discussing the state of research and the remaining challenges, we show how a concrete use-case in smart cities can benefit from these methods.

연구 동기 및 목표

• 데이터 집약적이고 퍼스티브 컴퓨팅 환경에서 AI의 신뢰성에 대한 우려가 증가하는 데 대응한다.
• 알고리즘의 공정성, 데이터 프라이버시, 책임 있는 실천 방식에 중점을 둔 AI 시스템의 윤리적 요구사항을 체계화한다.
• AI 시스템의 설계 및 개발 라이프사이클에 윤리를 통합하여 '설계 시부터 신뢰할 수 있는' AI를 달성한다.
• 전기 자동차 충전기 배치를 포함한 스마트 시티 사례를 통해 실용적 적용 가능성을 입증한다.
• 기술적 및 윤리적 보호 조치를 통해 감시, 편향, 데이터 오용의 위험을 완화한다.

제안 방법

• 신뢰할 수 있는 AI를 위한 세 구성 요소 프레임워크를 제안: 알고리즘 윤리, 데이터 윤리, 실천 윤리.
• 유럽 연합 고위 전문가 그룹의 윤리 지침—인간의 자율성, 피해 방지, 공정성, 명확성—을 核심 원칙으로 활용한다.
• 피어드 학습을 활용해 디바이스 수준에서 모델 학습을 가능하게 하여 원시 데이터가 사용자 기기 외부로 나가지 않도록 보장한다.
• 모델 업데이트 중 데이터 프라이버시를 강화하기 위해 차등적 프라이버시와 동형 암호화를 학습 파이프라인에 통합한다.
• 블록체인 기술을 활용해 모델 업데이트 기록을 로깅하고, 불변성과 분산 기록을 통해 책임성을 확보한다.
• 분산 아키텍처와 공명 메커니즘을 조합하여 대규모 IoT 배포 환경에서의 확장성과 내구성을 지원한다.

실험 결과

연구 질문

• RQ1 어떻게 윤리 원칙을 퍼스티브 컴퓨팅 환경에서 AI 시스템 설계에 체계적으로 통합할 수 있는가?
• RQ2 민감한 행동 데이터를 기반으로 학습된 AI 시스템에서 프라이버시와 공정성을 보장할 수 있는 기술적 수단은 무엇인가?
• RQ3 피어드 학습과 암호 기반 기법이 데이터 泄露 및 감시 위험을 어느 정도 완화할 수 있는가?
• RQ4 성능을 희생시키지 않고도 AI 모델의 투명성과 설명 가능성을 어떻게 달성할 수 있는가?
• RQ5 대규모이고 분산된 AI 시스템에서 책임성과 내구성을 지원하는 아키텍처 패턴은 무엇인가?

주요 결과

• 피어드 학습은 디바이스 수준에서의 학습을 가능하게 하여 원시 사용자 데이터가 개인 기기 외부로 나가지 않게 하며, 프라이버시 위험을 크게 감소시킨다.
• 차등적 프라이버시와 동형 암호화는 피어드 학습에 통합되어 모델 업데이트 중 사용자 데이터를 추가로 보호할 수 있다.
• 블록체인 기반의 모델 업데이트 로깅은 불변성과 검증 가능성을 갖춘 시스템 행동 기록을 제공함으로써 책임성을 확보한다.
• 피어드 학습과 프라이버시 보존 기법의 조합은 중앙 집중식 데이터 수집 없이도 스마트 시티에서의 신뢰할 수 있는 AI 구현을 가능하게 한다.
• 분산 아키텍처는 시스템의 내구성을 향상시키고 단일 장애 지점의 위험을 줄여 악성 공격에 대한 저항력을 높인다.
• 합성 알고리즘의 확장성 문제에도 불구하고, 관리 허브를 포함한 하이브리드 아키텍처는 대규모 IoT 네트워크에서의 성능 병목 현상을 해결할 수 있다.