[论文解读] Trustworthy AI Inference Systems: An Industry Research View

Rosario Cammarota, Matthias Schunter+27 more|arXiv (Cornell University)|Aug 10, 2020

Adversarial Robustness in Machine Learning参考文献 88被引用 4

一句话总结

本文从产业研究的视角，全面探讨了设计、部署和运营可信AI推理系统的方法，以确保数据隐私、模型知识产权保护和系统安全。通过整合可信执行环境（Trusted Execution Environments）和先进的密码学技术（如同态加密和安全多方计算），实现了在云、边缘和设备端部署的私密、安全且可解释的AI推理。

ABSTRACT

In this work, we provide an industry research view for approaching the design, deployment, and operation of trustworthy Artificial Intelligence (AI) inference systems. Such systems provide customers with timely, informed, and customized inferences to aid their decision, while at the same time utilizing appropriate security protection mechanisms for AI models. Additionally, such systems should also use Privacy-Enhancing Technologies (PETs) to protect customers' data at any time. To approach the subject, we start by introducing current trends in AI inference systems. We continue by elaborating on the relationship between Intellectual Property (IP) and private data protection in such systems. Regarding the protection mechanisms, we survey the security and privacy building blocks instrumental in designing, building, deploying, and operating private AI inference systems. For example, we highlight opportunities and challenges in AI systems using trusted execution environments combined with more recent advances in cryptographic techniques to protect data in use. Finally, we outline areas of further development that require the global collective attention of industry, academia, and government researchers to sustain the operation of trustworthy AI inference systems.

研究动机与目标

• 应对日益增长的对可信AI推理系统的需求，以保护客户私有数据和专有AI模型。
• 探讨现实世界AI部署中数据隐私、模型知识产权保护与法规合规性之间的相互作用。
• 识别AI推理中的关键安全与隐私挑战，包括侧信道攻击和模型反演攻击。
• 提出用于实现安全、私密且可组合的AI推理系统的架构与密码学构建模块。
• 呼吁产业界、学术界与政府协同合作，加速隐私保护型AI技术的采用。

提出的方法

• 调研并评估现有的安全与隐私构建模块，包括可信执行环境（Trusted Execution Environments, TEEs）、同态加密和安全多方计算（sMPC）。
• 分析TEE与现代密码学技术的集成，以在AI推理过程中保护处理中的数据。
• 评估在现实世界AI系统中部署隐私增强技术（PETs）的可行性与性能权衡。
• 突出物理安全与侧信道安全方面的挑战，特别是针对专用AI加速器。
• 探索使用可解释AI（XAI）技术（如显著性图和LIME）来提升模型可解释性，同时不损害隐私。
• 提出结合硬件隔离、密码学与安全计算的混合架构解决方案，以实现端到端的信任。

实验结果

研究问题

• RQ1 如何设计AI推理系统，以在不可信环境中确保数据机密性与模型完整性？
• RQ2 在生产级AI系统中部署同态加密和sMPC等隐私增强技术（PETs）时，面临哪些关键技术与操作挑战？
• RQ3 在AI推理硬件中，如何有效缓解侧信道攻击（尤其是时序和功耗泄漏）？
• RQ4 隐私保护技术与模型可解释性之间存在何种冲突，这种张力又该如何调和？
• RQ5 标准化与公私合作在加速可信AI推理系统采用方面应发挥何种作用？

主要发现

• 隐私优先设计原则，包括对处理中数据的端到端保护，是符合GDPR和CCPA等法规要求的关键。
• 尽管同态加密等隐私增强密码学技术在理论上具有潜力，但其性能瓶颈与编程复杂性仍是广泛采用的主要障碍。
• 侧信道攻击仍是关键威胁，尤其在AI加速器中，需要定制化的低层防御机制，但这类防御的实现与验证极为困难。
• 将可解释AI（XAI）工具与隐私保护系统集成具有挑战性，因为模型所有者难以观察输入与输出，从而增加了偏差检测的难度。
• 结合TEE与先进密码学的混合方法，为实现安全、私密且高效的AI推理提供了切实可行的路径。
• 为实现可信AI推理系统的标准化与规模化，产业界、学术界与政府需投入大量资源并开展协同努力。