[论文解读] Circuit Breakers, Discovery, and API Gateways in Microservices

Fabrizio Montesi, Janine Weber|arXiv (Cornell University)|Sep 19, 2016

Software System Performance and Reliability参考文献 12被引用 44

一句话总结

本文对三种核心微服务模式——熔断器、服务发现和API网关——进行了系统性分析，展示了其在原生微服务编程语言Jolie中的实现。研究揭示了将熔断器部署于客户端之外的新型见解，强调了参数化重用对API演进的支持，并倡导采用组合式、基于模式的设计方法，以提升微服务架构的弹性与灵活性。

ABSTRACT

We review some of the most widely used patterns for the programming of microservices: circuit breaker, service discovery, and API gateway. By systematically analysing different deployment strategies for these patterns, we reach new insight especially for the application of circuit breakers. We also evaluate the applicability of Jolie, a language for the programming of microservices, for these patterns and report on other standard frameworks offering similar solutions. Finally, considerations for future developments are presented.

研究动机与目标

• 分析并比较关键微服务模式（熔断器、服务发现和API网关）的部署策略。
• 研究熔断器如何在客户端之外有效应用，以提升系统弹性与容错能力。
• 评估Jolie在实现这些模式方面的适用性，重点强调参数化与可重用性。
• 识别现有服务编排形式化模型中的不足，并提出未来与这些模式集成的方向。
• 为开发者提供统一、基于原理的模式概述，以指导构建更可靠、可扩展的微服务系统。

提出的方法

• 使用三状态模型（关闭、打开、半开）系统分析熔断器的状态机行为。
• 提出一种基于Jolie的熔断器原型，其目标服务接口具有参数化特性，支持在不同部署位置透明重用。
• 评估客户端和服务端服务发现策略，对比Eureka（客户端基于）与AWS ELB（服务端基于）方法。
• 展示如何在Jolie中由可重用组件组合构建API网关，集成熔断器与负载均衡，以实现安全、监控与流量管理。
• 利用Jolie原生支持的服务组合与接口定义，以类型安全、模块化的方式实现并验证这些模式。
• 识别当前形式化编排模型的局限性，并提出扩展以支持超时、故障、动态绑定与参数化行为，从而支持这些模式。

实验结果

研究问题

• RQ1 如何在客户端之外有效部署熔断器，以提升微服务系统范围的弹性？
• RQ2 在可扩展性、容错能力与性能方面，客户端发现与服务端发现之间的权衡是什么？
• RQ3 如何通过模块化、可重用组件组合构建API网关，以支持动态API管理与横切关注点？
• RQ4 现有形式化编排模型在多大程度上能够支持熔断器、服务发现与API网关的实现？
• RQ5 接口参数化在提升熔断器等模式在演进式微服务系统中长期可维护性与可重用性方面发挥什么作用？

主要发现

• 熔断器可透明地部署在通信链的任意位置，而不仅限于客户端，从而提供对级联故障更广泛的防护。
• 基于Jolie的熔断器原型支持接口参数化，使其可在服务接口演进时仍被跨服务重用，而无需像Hystrix那样为新操作重新实现。
• 客户端发现（如Eureka）更具弹性，因其具备客户端缓存机制；而服务端发现（如AWS ELB）在高负载下可能成为瓶颈。
• 使用Jolie构建的API网关可由模块化组件（如熔断器与负载均衡器）组合而成，实现关注点分离与可扩展性。
• 现有形式化编排模型缺乏对关键模式特性（如超时、故障、动态绑定）的本机支持，表明需要更先进的模型。
• 将熔断器、服务发现与API网关整合到单一形式化模型中仍是开放挑战，需对当前过程演算与基于组件的系统框架进行扩展。