[论文解读] HERMES: A Hierarchical Broadcast-Based Silicon Photonic Interconnect for Scalable Many-Core Systems

Moustafa Mohamed, Zheng Li+2 more|arXiv (Cornell University)|Jan 19, 2014

Photonic and Optical Devices参考文献 47被引用 3

一句话总结

HERMES 提出了一种分层硅光子互连方案，将低延迟、可扩展功耗的广播网络与电路交换的点对点链路相结合，以实现在千核系统中的高吞吐量通信。通过利用绝热耦合器和二元折叠蝴蝶拓扑结构，其实现了线性功耗扩展（96% 效率），并通过基于布隆过滤器的过滤机制与贪婪工作负载迁移技术减少了全局通信流量，在可扩展性、延迟和能效方面优于以往设计。

ABSTRACT

Optical interconnection networks, as enabled by recent advances in silicon photonic device and fabrication technology, have the potential to address on-chip and off-chip communication bottlenecks in many-core systems. Although several designs have shown superior power efficiency and performance compared to electrical alternatives, these networks will not scale to the thousands of cores required in the future. In this paper, we introduce Hermes, a hybrid network composed of an optimized broadcast for power-efficient low-latency global-scale coordination and circuit-switch sub-networks for high-throughput data delivery. This network will scale for use in thousand core chip systems. At the physical level, SoI-based adiabatic coupler has been designed to provide low-loss and compact optical power splitting. Based on the adiabatic coupler, a topology based on 2-ary folded butterfly is designed to provide linear power division in a thousand core layout with minimal cross-overs. To address the network agility and provide for efficient use of optical bandwidth, a flow control and routing mechanism is introduced to dynamically allocate bandwidth and provide fairness usage of network resources. At the system level, bloom filter-based filtering for localization of communication are designed for reducing global traffic. In addition, a novel greedy-based data and workload migration are leveraged to increase the locality of communication in a NUCA (non-uniform cache access) architecture. First order analytic evaluation results have indicated that Hermes is scalable to at least 1024 cores and offers significant performance improvement and power savings over prior silicon photonic designs.

研究动机与目标

• 解决现有硅光子互连在大规模多核系统中可扩展性受限的问题。
• 克服在 1,000 个以上核心的系统中，电互连与传统光互连存在的功耗低效与延迟瓶颈问题。
• 在保持高带宽用于本地数据传输的同时，实现全局广播的线性功耗可扩展性与低延迟。
• 通过数据与工作负载迁移增强通信局部性，以最小化全局通信流量。
• 设计一种支持光学网络资源间高效、公平且动态带宽分配的系统级架构。

提出的方法

• 设计一种基于绝缘体上硅（SoI）的新型绝热耦合器，用于广播网络中低损耗、紧凑的光功率分配。
• 实现二元折叠蝴蝶拓扑结构，以在 1,024 核布局中实现最小串串扰与交叉的线性功分。
• 集成电路交换光网络，用于长消息的高吞吐量、低延迟点对点通信。
• 开发流量控制与路由机制，以动态分配带宽并确保网络中资源使用的公平性。
• 在全局-本地接口处应用基于布隆过滤器的过滤机制，以实现通信本地化并减少全局流量。
• 提出一种基于贪婪策略的数据与工作负载迁移技术，以增强非统一缓存访问（NUCA）架构中的通信局部性。

实验结果

研究问题

• RQ1 基于广播的光互连能否在保持低功耗与低延迟的前提下，高效扩展至 1,024 个核心？
• RQ2 光互连如何在不引发功耗指数级增长的情况下实现线性功耗可扩展性？
• RQ3 在多核系统中，通过数据与工作负载迁移，通信局部性可提升至何种程度？
• RQ4 分层设计如何降低全局通信开销并提升网络敏捷性？
• RQ5 与现有最先进设计相比，所提出的混合光-电网络在性能与能效之间的权衡如何？

主要发现

• HERMES 实现了线性功耗可扩展性，光学功分效率达 96%，显著优于功耗随核心数增长而急剧恶化的总线与交叉开关设计。
• 该网络可扩展至至少 1,024 个核心，功耗开销为 O(√N)，支持大规模系统的高效运行。
• 通过分层设计与优化路由，延迟被最小化至 O(√N)，接近理想低延迟网络（如 Iris）的性能，同时保持可扩展性。
• 在功耗约束下，带宽可扩展性呈现 O(1) 趋势，与高带宽设计（如总线与交叉开关网络）相当或更优。
• 基于布隆过滤器的过滤机制通过本地化通信显著减少了全局流量，提升了网络效率并降低了竞争。
• 基于贪婪策略的数据与工作负载迁移技术显著增强了通信局部性，降低了对全局广播的依赖，从而减少了整体延迟与能耗。