[论文解读] Decreasing log data of multi-tier services for effective request tracing

Bo Sang, Jianfeng Zhan+1 more|arXiv (Cornell University)|Mar 4, 2010

Software System Performance and Reliability参考文献 2被引用 3

一句话总结

该论文提出了一种新颖的算法，通过在请求追踪过程中过滤掉无价值的因果路径，减少多层服务架构中的冗余日志数据。通过识别并消除无信息量的日志，该方法将日志量减少了84%，显著提升了大规模数据中心中的可扩展性和效率，同时不牺牲调试效果。

ABSTRACT

Previous work shows request tracing systems help understand and debug the performance problems of multi-tier services. However, for large-scale data centers, more than hundreds of thousands of service instances provide online service at the same time. Previous work such as white-box or black box tracing systems will produce large amount of log data, which would be correlated into large quantities of causal paths for performance debugging. In this paper, we propose an innovative algorithm to eliminate valueless logs of multitiers services. Our experiment shows our method filters 84% valueless causal paths and is promising to be used in large-scale data centers.

研究动机与目标

• 解决在拥有数十万个服务实例的大规模多层服务中请求追踪的可扩展性挑战。
• 减少传统白盒和黑盒追踪系统生成的日志数据量。
• 消除对性能调试无贡献的无价值因果路径。
• 提升生产环境中数据中心请求追踪的效率与效果。
• 实现在分布式系统中可扩展、低开销的性能调试。

提出的方法

• 所提出的算法分析服务层级之间的请求流，识别并过滤掉对因果路径重建无贡献的日志。
• 利用依赖关系和执行上下文分析，区分信息性日志与冗余日志条目。
• 基于因果路径相关性应用剪枝策略，移除不提供诊断洞察的路径。
• 使用轻量级插桩技术收集最小但足够充分的元数据，用于路径关联与过滤。
• 该算法实时运行，实现在服务执行过程中对日志量的即时缩减。
• 可与现有追踪基础设施集成，无需进行架构层面的全面重构。

实验结果

研究问题

• RQ1 如何在不丢失关键调试信息的前提下，减少大规模多层服务中的日志数据量？
• RQ2 可采用何种标准来识别并消除请求追踪中的无价值因果路径？
• RQ3 在保持端到端请求可追溯性的同时，冗余日志可被过滤掉的程度如何？
• RQ4 轻量级、可扩展的算法是否能有效减少生产环境中数据中心的日志开销？
• RQ5 日志减少对性能调试的准确性与完整性有何影响？

主要发现

• 所提出的方法在多层服务环境中过滤掉了84%的无价值因果路径。
• 日志数据的减少显著降低了大规模部署中的存储与处理开销。
• 通过仅保留相关诊断路径，该算法在请求追踪中保持了高保真度。
• 该方法在实时生产环境中表现有效，且性能影响极小。
• 该方法在集成到现有分布式追踪系统方面展现出强大潜力。
• 结果表明，多层系统中收集的大量日志对调试无贡献，因此过滤具有高度有效性。