[논문 리뷰] Trustworthy AI Inference Systems: An Industry Research View

Rosario Cammarota, Matthias Schunter외 27명|arXiv (Cornell University)|2020. 08. 10.

Adversarial Robustness in Machine Learning참고 문헌 88인용 수 4

한 줄 요약

이 논문은 데이터 프라이버시, 모델 지적재산권 보호, 시스템 보안을 보장하는 신뢰할 수 있는 AI 추론 시스템을 설계하고 구현하며 운영하는 데 있어 종합적인 산업 연구 시각을 제시한다. 신뢰할 수 있는 실행 환경과 고도의 암호 기법—예를 들어, 동형 암호화와 안전한 다자간 계산(sMPC) 등을 통합하여 클라우드, 엣지, 디바이스 내부 배포 환경에서 비밀리에, 안전하고 설명 가능한 AI 추론을 가능하게 한다.

ABSTRACT

In this work, we provide an industry research view for approaching the design, deployment, and operation of trustworthy Artificial Intelligence (AI) inference systems. Such systems provide customers with timely, informed, and customized inferences to aid their decision, while at the same time utilizing appropriate security protection mechanisms for AI models. Additionally, such systems should also use Privacy-Enhancing Technologies (PETs) to protect customers' data at any time. To approach the subject, we start by introducing current trends in AI inference systems. We continue by elaborating on the relationship between Intellectual Property (IP) and private data protection in such systems. Regarding the protection mechanisms, we survey the security and privacy building blocks instrumental in designing, building, deploying, and operating private AI inference systems. For example, we highlight opportunities and challenges in AI systems using trusted execution environments combined with more recent advances in cryptographic techniques to protect data in use. Finally, we outline areas of further development that require the global collective attention of industry, academia, and government researchers to sustain the operation of trustworthy AI inference systems.

연구 동기 및 목표

• 사용자 개인정보와 기업의 독점적 AI 모델을 모두 보호하는 신뢰할 수 있는 AI 추론 시스템에 대한 증가하는 수요를 해결한다.
• 실제 AI 배포 환경에서 데이터 프라이버시, 모델 지적재산권 보호, 규제 준수 간의 상호작용을 분석한다.
• AI 추론에서의 주요 보안 및 프라이버시 도전 과제—예를 들어, 사이드 채널 공격 및 모델 역전환 공격—를 특정한다.
• 안전하고 프라이버시 보장되며 조합 가능한 AI 추론 시스템을 가능하게 하는 아키텍처적 및 암호학적 빌딩 블록을 제안한다.
• 프라이버시 보존 기술의 보급을 가속화하기 위해 산업, 학계, 정부 간 유기적 협력을 촉구한다.

제안 방법

• 신뢰할 수 있는 실행 환경(TEEs), 동형 암호화, 안전한 다자간 계산(sMPC) 등을 포함한 기존 보안 및 프라이버시 빌딩 블록을 조사하고 평가한다.
• AI 추론 중 데이터를 사용 중일 때도 보호할 수 있도록 TEE와 현대 암호 기법의 통합을 분석한다.
• 실제 AI 시스템에 프라이버시 강화 기술(PETs)을 도입할 때의 실현 가능성과 성능 트레이드오프를 평가한다.
• 특수화된 AI 가속기의 경우 특히 중요한 물리적 및 사이드 채널 보안 문제를 부각한다.
• 설명 가능한 AI(XAI) 기법—예를 들어, 샐런시 맵과 LIME—을 활용해 모델의 해석 가능성을 높이되, 프라이버시를 훼손하지 않도록 한다.
• 엔드 투 엔드 신뢰성을 확보하기 위해 하드웨어 격리, 암호 기법, 안전한 계산을 조합한 하이브리드 아키텍처 솔루션을 제안한다.

실험 결과

연구 질문

• RQ1 신뢰할 수 없는 환경에서도 데이터 기밀성과 모델 무결성을 보장할 수 있도록 AI 추론 시스템을 어떻게 아키텍처화할 수 있는가?
• RQ2 실제 AI 시스템에 동형 암호화나 sMPC와 같은 프라이버시 강화 기술(PETs)을 도입할 때의 주요 기술적 및 운영적 과제는 무엇인가?
• RQ3 AI 추론 하드웨어에서 사이드 채널 공격—특히 타이밍 공격 및 전력 기반 유출—를 효과적으로 완화할 수 있는 방법은 무엇인가?
• RQ4 프라이버시 보존 기술과 모델 설명 가능성 간의 갈등은 어떤 방식으로 발생하며, 이를 어떻게 해결할 수 있는가?
• RQ5 표준화와 공-private 협력이 신뢰할 수 있는 AI 추론 시스템의 보급을 가속화하는 데 어떤 역할을 할 수 있는가?

주요 결과

• GDPR 및 CCPA와 같은 규정 준수를 위해 데이터 사용 중 보호를 포함한 프라이버시 우선 설계 원칙이 필수적이다.
• 이론적으로는 유망한 프라이버시 강화 암호 기법—예를 들어, 동형 암호화—는 광범위한 보급을 위한 성능 및 프로그래밍 복잡성의 장벽에 직면해 있다.
• 사이드 채널 공격은 여전히 심각한 위협이 되며, 특히 AI 가속기에서 중요한 문제이며, 구현 및 검증이 어려운 맞춤형 저수준 방어가 필요하다.
• 설명 가능한 AI(XAI) 도구를 프라이버시 보장 시스템과 통합하는 것은 어렵다. 모델 소유자가 입력과 출력을 더 이상 직접 볼 수 없기 때문에, 편향 탐지에 어려움이 따른다.
• TEEs와 고급 암호 기법을 조합한 하이브리드 접근 방식은 안전하고 프라이버시 보장되며 효율적인 AI 추론을 위한 실현 가능한 길이다.
• 표준화 및 확장 가능한 신뢰할 수 있는 AI 추론 시스템을 구현하기 위해 산업, 학계, 정부 간의 상당한 투자와 유기적 협력이 필요하다.