[论文解读] On the Importance of Trust in Next-Generation Networked CPS Systems: An AI Perspective

Anousheh Gholami, Nariman Torkzaban+1 more|arXiv (Cornell University)|Apr 15, 2021

Access Control and Trust被引用 4

一句话总结

本文提出了一种面向下一代网络化网络物理系统（CPS）的基于信任的框架，旨在提升去中心化、大规模环境下的安全性和弹性。该框架引入了一种基于代理交互证据的数学模型，用于信任计算与聚合，并在联邦学习和5G网络切片中进行了集成，通过仿真展示了其在抵御恶意或故障代理方面的改进鲁棒性。

ABSTRACT

With the increasing scale, complexity, and heterogeneity of the next generation networked systems, seamless control, management, and security of such systems becomes increasingly challenging. Many diverse applications have driven interest in networked systems, including large-scale distributed learning, multi-agent optimization, 5G service provisioning, and network slicing, etc. In this paper, we propose trust as a measure to evaluate the status of network agents and improve the decision-making process. We interpret trust as a relation among entities that participate in various protocols. Trust relations are based on evidence created by the interactions of entities within a protocol and may be a composite of multiple metrics such as availability, reliability, resilience, etc. depending on application context. We first elaborate on the importance of trust as a metric and then present a mathematical framework for trust computation and aggregation within a network. Then we show in practice, how trust can be integrated into network decision-making processes by presenting two examples. In the first example, we show how utilizing the trust evidence can improve the performance and the security of Federated Learning. Second, we show how a 5G network resource provisioning framework can be improved when augmented with a trust-aware decision-making scheme. We verify the validity of our trust-based approach through simulations. Finally, we explain the challenges associated with aggregating the trust evidence and briefly explain our ideas to tackle them.

研究动机与目标

• 应对在去中心化、异构且大规模的网络物理系统（CPS）中信任问题日益严峻的挑战，其中集中式控制不可行。
• 克服现有信任模型常存在的定性、不可量化或无法适应动态网络条件的局限性。
• 开发一个统一的信任计算与聚合框架，支持集中式与去中心化部署模式。
• 将信任整合到关键网络决策过程中，如代理参与、资源分配和访问控制，以提升系统的弹性与安全性。
• 解决信任系统中的实际挑战，包括信任新鲜度、通信开销以及去中心化意见共享中的隐私问题。

提出的方法

• 将信任定义为网络实体之间基于历史交互证据的关系，结合可靠性、可用性和弹性等指标。
• 提出一种数学框架，通过本地与全局信任估计进行信任计算，并在去中心化环境中实现节点间的信任聚合。
• 实施一种反应式信任更新机制，在保持信任估计时效性的同时降低通信开销。
• 应用信息年龄（AoI）指标，确保信任估计保持新鲜，真实反映当前网络状态。
• 利用联邦学习原则，实现在分布式代理间隐私保护、通信高效的信任推理。
• 设计一个信任感知的决策层，将信任评分整合到联邦学习与基于NFV的5G网络中的代理参与和资源分配决策中。

实验结果

研究问题

• RQ1 如何在大规模、去中心化的网络化CPS中正式建模并量化信任，以支持安全且弹性的决策？
• RQ2 在通信效率、准确性和隐私方面，集中式与去中心化信任聚合之间存在哪些权衡？
• RQ3 如何保持信任证据的新鲜度并真实反映当前网络状况，以避免过时或误导性决策？
• RQ4 信任可通过何种方式集成到现有系统（如联邦学习与5G网络切片）中，以提升安全性和弹性？
• RQ5 在去中心化环境中，代理之间共享彼此的信任意见时，如何保护隐私？

主要发现

• 将信任机制集成到联邦学习中，显著提升了对数据污染和模型操纵攻击的弹性，通过过滤不可靠客户端实现。
• 信任感知的5G网络功能虚拟化（NFV）通过优先选择可信网络功能，增强了资源分配的安全性与可靠性。
• 仿真结果验证了所提信任模型在对抗性条件下能提升系统性能与安全性，尤其在检测和隔离恶意或故障代理方面表现突出。
• 采用信息年龄（AoI）作为新鲜度指标，确保信任估计在实时决策中保持及时且相关。
• 采用去中心化、受联邦学习启发的方法，实现了无需依赖中心权威机构的可扩展且隐私保护的信任聚合。
• 该框架表明，结合本地证据与全局意见聚合，可获得比仅依赖本地方法更准确、更鲁棒的信任估计。