[论文解读] The Vera C. Rubin Observatory Prompt Processing System

K. Findeisen, K. J. LIM+5 more|arXiv (Cornell University)|Mar 20, 2026

Astrophysics and Cosmic Phenomena被引用 0

一句话总结

论文描述了 Rubin Observatory 的 Prompt Processing System 的设计、实现与调试结果，该系统采用可扩展的 Kubernetes 架构，在日处理 10 TB 数据、在快门关闭后 60–120 秒内生成多达 1000 万条瞬变警报。

ABSTRACT

Vera C. Rubin Observatory's Prompt Processing system will automatically process 10 TB of raw images to produce up to 10 million transient alerts per night. We summarize how Prompt Processing meets its throughput, latency, and reliability requirements and present results from Rubin Observatory Commissioning.

研究动机与目标

• 推动需要对瞬变警报进行实时生成以支持 LSST 科学目标的理由。
• 描述实现低延迟、高吞吐的 Prompt Processing 的架构与工作流。
• 解释早期部署与扩展测试中的调试结果与可靠性/吞吐量指标。
• 识别当前瓶颈及为提升到全 survey 速率而计划的改进。

提出的方法

• 采用以任务为单位的架构，每个探测器在一次观测中对应一个任务（visit-detector）。
• 使用基于 Kubernetes 的工作池来运行独立任务以实现可扩展性与并行性。
• 通过在本地工作区预加载输入并导出产物来最小化外部 I/O，并对警报与目标目录进行选择性共享数据存储。
• 通过 Rubin Observatory Middleware 框架将管线进行抽象，以允许按 nextVisit metadata 配置管线。
• 实现集中式数据生态系统，包括中央仓库、APDB、mpsky 和 Sattle 服务，用于输入与审核。

实验结果

研究问题

• RQ1 Prompt Processing 如何在吞吐量（每晚最多 1,000 万警报）和时延（快门关闭后 60–120 秒）要求下运行？
• RQ2 哪些架构选择（基于任务、Kubernetes、缓存）在大规模 Prompt Processing 中优化并行性与容错？
• RQ3 哪些调试结果显示系统的可靠性，以及瓶颈或故障模式在哪里？
• RQ4 为扩展到全 survey 速率需要哪些改进，如何验证？

主要发现

• 在调试阶段的两晚中，Prompt Processing 在 1–2 小时内处理了 400 万条警报，证明了所需的吞吐量。
• 系统在 LSSTCam 调试中实现了最高处理全科学生成影像的 73%，但因副本及其他故障造成部分损失。
• 中央仓库与 APDB 的瓶颈限制了初期规模下的时延与可靠性，促使引入副本并简化写入。
• 架构可扩展至最多 1700 个 Kubernetes pod，受集群内存限制。
• 计划在基于 KEDA 的工作流中引入重试与再尝试机制，以提高对瞬态故障的鲁棒性。
• 已经实施了只读数据库副本与序列化写入服务等改进，以缓解数据访问瓶颈。