[논문 리뷰] Why Atomicity Matters to AI/ML Infrastructure: Snapshots, Firmware Updates, and the Cost of the Forward-In-Time-Only Category Mistake

Paul Borrill|arXiv (Cornell University)|2026. 03. 03.

Distributed systems and fault tolerance인용 수 0

한 줄 요약

이 논문은 비동기 크래시-리커버리 설정에서 원자 체크포인트와 원자 펌웨어 배포를 보장할 수 없다고 주장하고, 체크포인트/업그레이드 이벤트를 시간적 경계로 다루는 것은 범주적 착오이며, 대신 수렴 기반 대안을 제안한다.

ABSTRACT

Large-scale AI/ML training systems depend on two assumptions that are rarely examined: (1) that checkpoints represent atomic snapshots of global training state, and (2) that infrastructure updates can be applied without inducing mixed-protocol cluster states. Both assumptions are instances of a deeper structural error: the Forward-In-Time-Only (FITO) category mistake, which confuses protocol convergence properties with temporal predicates. We formalize this confusion as a type error: the identification of a temporal snapshot $\mathsf{Snap}(t)$ with a convergence property $\mathsf{Conv}(\mathcal{P},e)$. We model checkpoint execution in a process-algebraic framework and prove that under asynchronous composition with crash-recovery failures, no temporal instant can serve as an atomicity boundary. We reformulate checkpoint inconsistency on an epoch lattice and show that atomicity is a measure-zero event whose complement grows exponentially with the number of independent persistence domains. We formalize mixed-epoch recovery as a type violation in the optimization algebra and show that the resulting update is not a valid step of any standard optimizer. For firmware fleet updates, we strengthen the known consensus-hardness result: atomic deployment requires not merely agreement but common knowledge of the epoch transition, which is strictly unattainable in asynchronous systems with unreliable communication. We conclude by sketching a bilateral convergence protocol, inspired by Open Atomic Ethernet, that achieves $\mathsf{Conv}(\mathcal{P},e)$ without requiring $\mathsf{Snap}(t)$ -- replacing the FITO assumption with constraint semantics.

연구 동기 및 목표

• AI/ML 인프라에서 Forward-In-Time-Only(FITO) 카테고리 오류를 형식화한다.
• 추적 특성과 시간 숏조건을 구분하기 위해 체크포인팅과 펌웨어 업데이트를 비동기 프로세스 구성으로 모델링한다.
• 크래시-리커버리 실패 하에서 시간적 스냅샷 경계의 비존재를 증명한다.
• 에폭 격자에서 체크포인트 일관성을 재구성하고 원자성을 측도가 0인 사건으로 수량화한다.
• 체크포인트 및 업그레이드를 위한 시간적 경계의 대안으로 수렴 기반 프로토콜을 제안한다.

제안 방법

• 지속성 프로세스의 비동기 합성으로 체크포인팅을 형식적 프로세스 대수 모델링한다.
• Snap(t,e) 를 시간적 스냅샷 술어로, Conv(P,e) 를 프로토콜 수렴 속성으로 정의하고 두 타입이 서로 구분된다는 것을 증명한다.
• 독립적 실패 도메인을 갖는 비동기 크래시-리커버리 실패 모델을 사용하여 시간적 경계의 불가능성 결과를 도출한다.
• 에폭 격자와 측도 이론적 주장을 도입하여 지속성 도메인이 커질수록 원자성이 측도 0인 것으로 보임을 보인다.

실험 결과

연구 질문

• RQ1 비동기 크래시-리커버리 하에서 모든 구성요소에 걸쳐 원자적 커밋을 보장하는 시간적 경계 t_c 가 존재할 수 있는가?
• RQ2 에폭 전환에 대한 공통 지식 없이 비동기에서 펌웨어의 원자 배포가 가능한가?
• RQ3 혼합 에폭 회복이 AI/ML 학습에서 표준 옵티마이저 업데이트에 어떤 영향을 미치는가?
• RQ4 일관된 글로벌 상태를 보장하기 위해 어떤 수렴 기반 메커니즘이 시간적 스냅샷을 대체할 수 있는가?
• RQ5 불가능성 결과를 고려할 때 원자성을 근사하는 어떤 실용적 프로토콜이 있는가?

주요 결과

• 다수의 지속성 단위를 가진 대규모 시스템에서 체크포인트 원자성은 측도 0의 사건이다.
• 독립적 크래시-리커버리 실패 하에서 어떤 비동기 체크포인트 프로토콜도 모든 구성요소가 동일한 커밋된 에폭을 반영하는 시간적 경계를 보장할 수 없다.
• 혼합 에폭 회복은 옵티마이저 스텝(예: AdamW)이 단일 에폭 궤적에 대해 무효가 되도록 한다.
• 비동기 시스템에서 에폭 전환에 대한 일반 지식은 달성될 수 없으며, 순수 메시지 기반 조정으로 원자 펌웨어 배포를 불가능하게 한다.
• 양자간 수렴 프로토콜은 시간적 스냅샷 경계에 의존하지 않고 Conv(P,e) 를 달성할 수 있으며, 체크포인팅을 시간 기반에서 프로토콜 기반 수렴으로 재구성한다.