[논문 리뷰] DeFT: A Deadlock-Free and Fault-Tolerant Routing Algorithm for 2.5D Chiplet Networks

Ebadollah Taheri, Sudeep Pasricha외 1명|arXiv (Cornell University)|2021. 12. 16.

Interconnection Networks and Systems인용 수 4

한 줄 요약

이 논문은 2.5D 칩렛 네트워크를 위한 사전에 사전적 데드락 없이 고장 내성적인 라우팅 알고리즘인 DeFT를 제안한다. DeFT는 가상 네트워크(VN) 할당을 통해 데드락 방지를 보장하고, 동적이고 트래픽 인식형 수직 링크(VL) 선택을 통해 최대 25%의 VL 고장을 견디도록 한다. DeFT는 고장 상황에서도 네트워크 도달 가능성 100%를 확보하며, 최신 기술 대비 면적 오 overhead 2% 미만으로 지연 시간을 최대 40%까지 감소시킨다.

ABSTRACT

By interconnecting smaller chiplets through an interposer, 2.5D integration offers a cost-effective and high-yield solution to implement large-scale modular systems. Nevertheless, the underlying network is prone to deadlock, despite deadlock-free chiplets, and to different faults on the vertical links used for connecting the chiplets to the interposer. Unfortunately, existing fault-tolerant routing techniques proposed for 2D and 3D on-chip networks cannot be applied to chiplet networks. To address these problems, this paper presents the first deadlock-free and fault-tolerant routing algorithm, called DeFT, for 2.5D integrated chiplet systems. DeFT improves the redundancy in vertical-link selection to tolerate faults in vertical links while considering network congestion. Moreover, DeFT can tolerate different vertical-link-fault scenarios while accounting for vertical-link utilization. Compared to the state-of-the-art routing algorithms in 2.5D chiplet systems, our simulation results show that DeFT improves network reachability by up to 75% with a fault rate of up to 25% and reduces the network latency by up to 40% for multi-application execution scenarios with less than 2% area overhead.

연구 동기 및 목표

• 2.5D 칩렛 네트워크는 순환적 의존성과 수직 링크(VL) 고장을 야기하기 쉬우나, 아직 사전적 데드락 방지 및 고장 내성적인 라우팅 기술이 부족한 문제를 해결하기 위해.
• 기존 2D 및 3D 네트워크의 고장 내성 기술은 비정규적이고 다중 칩렛인 2.5D 아키텍처에 적용되지 않는 한계를 극복하기 위해.
• 변동하는 트래픽 및 고장 조건 하에서 전체 경로의 부가성과 동적 VL 선택을 통해 고장 내성성과 로드 밸런싱을 향상시키기 위해.
• 모듈러 칩렛 시스템에서 데드락 방지와 함께 최대한의 라우팅 유연성과 최소한의 하드웨어 오버헤드를 유지하기 위해.
• 다양한 응용 프로그램과 실제 트래픽 환경에서 높은 네트워크 신뢰성과 낮은 지연 시간을 달성하면서도 면적 비용을 최소화하기 위해.

제안 방법

• DeFT는 제한 없는 VL 선택 조건 하에서도 가상 채널(VC) 이용률을 균형 있게 유지하고 데드락 방지를 보장하기 위해 새로운 가상 네트워크(VN) 할당 전략을 도입한다.
• 저하된 이용률과 고장 내성적인 VL을 우선순위로 삼는 동적이고 트래픽 인식형 수직 링크 선택 메커니즘을 도입하여 혼잡을 줄이고 고장 내성성을 향상시킨다.
• 고장 내성적인 룩업 테이블을 사용하여 라우팅 상태를 유지하고 VL 장애 발생 시 경로 재구성 기능을 제공한다.
• 제한적인 턴 모델을 피하기 위해 모든 VL을 라우팅에 사용할 수 있도록 허용함으로써, 최대 25%의 VL 고장 상황에서도 전체 도달 가능성을 확보한다.
• VN 할당 및 고장 인식 VL 선택을 위한 최소한의 하드웨어 논리 회로를 통합하여, 면적 오 overhead 2% 미만을 기록한다.
• 4- 및 6-칩렛 시스템에서 다양한 트래픽 부하 조건 하에 실제 응용 프로그램 워크로드와 고장 주입 모델을 기반으로 DeFT를 평가한다.

실험 결과

연구 질문

• RQ1 제한 없는 수직 링크(VL) 선택 조건 하에서도 2.5D 칩렛 네트워크에서 데드락 방지가 가능한가?
• RQ2 기존 2D/3D 기술이 실패하는 상황에서, 특히 비정규적인 VL 고장 패턴이 존재할 경우 2.5D 칩렛 네트워크에서 고장 내성성을 어떻게 달성할 수 있는가?
• RQ3 동적이고 트래픽 인식형 VL 선택 전략이 높은 고장률과 트래픽 부하 조건 하에서 네트워크 지연 시간을 얼마나 줄이고 로드 밸런싱을 향상시킬 수 있는가?
• RQ4 2.5D 칩렛 시스템에 고장 내성적이고 데드락 방지 라우팅을 통합할 경우 하드웨어 및 전력 오 overhead 는 어느 정도인가?
• RQ5 실제 고장 및 트래픽 조건 하에서 DeFT는 MTR 및 RC와 같은 최신 기술 대비 도달 가능성과 지연 시간 측면에서 어떻게 비교되는가?

주요 결과

• DeFT는 최대 25%의 수직 링크 고장률 조건 하에서도 네트워크 도달 가능성 100%를 확보하며, 4-칩렛 시스템에서 MTR(≤3.1% 고장 내성성)와 RC(고장 내성성 없음)를 크게 앞서나간다.
• 다양한 응용 프로그램 환경에서 DeFT는 MTR 및 RC 대비 최대 40%의 네트워크 지연 시간 감소를 기록하며, 특히 고부하 트래픽 조건에서 두드러진다.
• 25% 고장률 조건 하에서 DeFT는 MTR 대비 최대 75% 향상된 최악의 상황 도달 가능성과 RC 대비 최대 50% 향상된 결과를 기록한다.
• 하드웨어 오 overhead 는 MTR 및 RC 대비 면적 오 overhead 2% 미만, 전력 오 overhead 1% 미만을 기록하여 매우 낮은 수준을 유지한다.
• 동적 VL 선택 전략은 거리 기반 또는 무작위 선택 전략 대비 고장률이 높은 환경에서 지연 시간 감소 효과가 뛰어나며, 특히 고장에 취약한 환경에서 유리하다.
• 제안된 동적 VL 선택 전략은 정적 또는 무작위 선택 전략보다 로드 밸런싱을 균형 있게 유지하고 혼잡을 최소화하여 성능을 향상시킨다.