[论文解读] TANGO: Transparent heterogeneous hardware Architecture deployment for eNergy Gain in Operation

Karim Djemame, Django Armstrong+8 more|arXiv (Cornell University)|Mar 4, 2016

Parallel Computing and Optimization Techniques参考文献 5被引用 7

一句话总结

TANGO 提出了一种透明的、自我适应的异构硬件平台参考架构，通过将能源感知软件工程与工作负载、性能和质量服务需求的动态适应相结合，实现了从设计、部署到运行时的全生命周期能源效率优化。其核心贡献是一个统一的、与设备无关的框架，通过集成工具链和运行时自适应机制，使多样化的系统（从嵌入式到高性能计算环境）能够实现能源高效的执行。

ABSTRACT

The paper is concerned with the issue of how software systems actually use Heterogeneous Parallel Architectures (HPAs), with the goal of optimizing power consumption on these resources. It argues the need for novel methods and tools to support software developers aiming to optimise power consumption resulting from designing, developing, deploying and running software on HPAs, while maintaining other quality aspects of software to adequate and agreed levels. To do so, a reference architecture to support energy efficiency at application construction, deployment, and operation is discussed, as well as its implementation and evaluation plans.

研究动机与目标

• 为解决物联网、信息物理系统和高性能计算系统中广泛使用的异构并行架构（HPAs）日益增长的能耗挑战。
• 支持软件开发人员在不牺牲性能、可靠性或实时性的情况下优化能源效率。
• 通过一种整体的、全生命周期集成的架构，弥合硬件异构性与软件能源感知设计之间的差距。
• 实现在从嵌入式系统到数据中心规模系统等多样化平台上的透明、与设备无关的应用程序部署。
• 提供集成的工具支持，用于设计时建模、性能分析以及运行时自适应，重点关注能源效率和关键绩效指标（KPIs）

提出的方法

• 该架构将能源感知原则整合到自适应软件密集型系统的需求工程和设计建模中。
• 采用分层参考架构，包含面向异构设备（如 CPU、GPU、FPGA、SoC 等）的应用建模、部署和运行时自适应的组件。
• 通过一个管理组件实现运行时自适应，该组件实时监控并根据关键绩效指标（KPIs），包括功耗、性能和延迟，重新配置代码执行。
• 系统支持通过转换和编译技术自动生成应用程序变体，实现对特定硬件目标的优化。
• 通过透明的虚拟化层抽象硬件多样性，实现与设备无关的部署和高效资源利用。
• 该架构设计为可与现有集成开发环境（IDE）和工具链集成，支持在设计和运行时进行性能分析与性能剖析。

实验结果

研究问题

• RQ1 如何系统性地将能源效率整合到异构并行架构的全生命周期软件开发与部署中？
• RQ2 为实现透明的、与设备无关的部署，同时优化能源、性能和质量服务，需要哪些架构组件和自适应机制？
• RQ3 如何增强软件开发工具以支持能源感知设计、性能剖析和运行时自适应？
• RQ4 在异构系统中，能源效率、性能、实时性与可靠性之间存在哪些权衡？这些权衡如何管理？
• RQ5 如何在从嵌入式到高性能计算（HPC）的多样化硬件平台上应用自适应机制，同时保持应用程序的可移植性和效率？

主要发现

• 所提出的 TANGO 架构通过集成的建模与自适应组件，实现了从设计到运行时的全生命周期能源感知优化。
• 该架构支持在包括 CPU、GPU、FPGA 和 SoC 在内的多样化异构平台上的透明部署，且无需对应用程序进行修改即可实现可移植性。
• 运行时自适应机制可根据实时 KPI（包括功耗、性能和延迟）动态重新配置应用程序执行，以维持最优运行状态。
• 该框架支持使用编译和转换技术自动生成优化后的应用程序变体，显著减少手动调优工作量。
• 该架构设计为可扩展且与现有开发工具和 IDE 兼容，可无缝集成到工业级软件工程工作流中。
• 目前正在通过两个工业案例研究进行评估，以验证该架构在真实部署场景中的有效性。