[论文解读] Demeter: A Fast and Energy-Efficient Food Profiler Using Hyperdimensional Computing in Memory

Taha Shahroodi, Mahdi Zahedi+5 more|arXiv (Cornell University)|Jan 1, 2022

Ferroelectric and Negative Capacitance Devices被引用 3

一句话总结

Demeter 是一种与平台无关的、基于超维计算（HDC）的食物剖析框架，可实现食品样本中物种分类的快速、精准且节能。通过利用基于 PCM 的计算内存一体（PIM）加速器（Acc-Demeter）进行内存内计算，其吞吐量分别比 Kraken2 和 MetaCache 提高 192× 和 724×，内存使用量分别降低 36× 和 33×，同时保持与最先进工具相差不超过 2% 的准确率。

ABSTRACT

Food profiling is an essential step in any food monitoring system needed to prevent health risks and potential frauds in the food industry. Significant improvements in sequencing technologies are pushing food profiling to become the main computational bottleneck. State-of-the-art profilers are unfortunately too costly for food profiling. Our goal is to design a food profiler that solves the main limitations of existing profilers, namely (1) working on massive data structures and (2) incurring considerable data movement for a real-time monitoring system. To this end, we propose Demeter, the first platform-independent framework for food profiling. Demeter overcomes the first limitation through the use of hyperdimensional computing (HDC) and efficiently performs the accurate few-species classification required in food profiling. We overcome the second limitation by using an in-memory hardware accelerator for Demeter (named Acc-Demeter) based on memristor devices. Acc-Demeter actualizes several domain-specific optimizations and exploits the inherent characteristics of memristors to improve the overall performance and energy consumption of Acc-Demeter. We compare Demeter's accuracy with other industrial food profilers using detailed software modeling. We synthesize Acc-Demeter's required hardware using UMC's 65nm library by considering an accurate PCM model based on silicon-based prototypes. Our evaluations demonstrate that Acc-Demeter achieves a (1) throughput improvement of 192x and 724x and (2) memory reduction of 36x and 33x compared to Kraken2 and MetaCache (2 state-of-the-art profilers), respectively, on typical food-related databases. Demeter maintains an acceptable profiling accuracy (within 2% of existing tools) and incurs a very low area overhead.

研究动机与目标

• 解决现有食物剖析工具因依赖庞大数据结构和过度数据移动而导致的高计算与内存开销问题。
• 克服当前最先进（SOTA）剖析工具（如 Kraken2 和 MetaCache）在实时食物监测中因速度慢和资源消耗过高而存在的局限性。
• 设计一种与平台无关的框架，在大幅降低能耗与内存消耗的同时保持高准确率。
• 通过最小化数据移动并消除对大内存占用高端服务器的依赖，实现对食物的实时监测。
• 开发一种基于忆阻器的相变存储器（PCM）技术的专用内存内加速器（Acc-Demeter），原生支持 HDC 操作，以优化性能与能效。

提出的方法

• 将食物剖析问题简化为使用超维计算（HDC）的多物种分类问题，将生物序列表示为高维二值向量。
• 通过 DNA 序列的 N-gram 编码生成保留语义与分类关系的 HD 向量，用于分类。
• 实现五步流程：(1) 序列预处理，(2) N-gram 提取，(3) HD 向量编码，(4) 基于余弦相似度的分类，(5) 丰度估计。
• 设计 Acc-Demeter，一种基于 PCM 的内存内加速器，可在内存中直接执行向量操作（如 VMM、pop-count），以消除片外数据移动。
• 通过并行 VMM 与 ADC 输出累加，优化 Acc-Demeter 实现单周期内精确 pop-count，相比先前 HDC 加速器降低延迟。
• 利用相变存储器（PCM）固有的内存内计算能力与非易失性，加速 HDC 操作并降低能耗。

实验结果

研究问题

• RQ1 超维计算能否有效应用于食物剖析，以减小数据结构大小并提升计算效率？
• RQ2 基于 PCM 的内存内计算加速器在食物剖析工作负载中，能在多大程度上减少数据移动与能耗？
• RQ3 所提出的基于 HDC 的框架（Demeter）在准确率与性能上与现有 SOTA 剖析工具（如 Kraken2 和 MetaCache）相比如何？
• RQ4 基于 PIM 的加速器（Acc-Demeter）能否在保持高分类准确率的同时实现显著的加速与内存减少？
• RQ5 在软硬件协同设计的食物剖析系统中，集成领域特定优化后，性能与能耗收益如何？

主要发现

• Acc-Demeter 在典型食物相关数据库上，相比 Kraken2 实现 192× 吞吐量提升，相比 MetaCache 实现 724× 提升。
• 与 Kraken2 相比，系统内存占用减少 36×；与 MetaCache 相比，减少 33×，显著降低硬件资源需求。
• Demeter 在保持与现有 SOTA 工具相差不超过 2% 的分类准确率，证明在数据结构与计算复杂度大幅降低的情况下仍具备高保真度。
• 内存内加速器设计实现单周期内精确 pop-count 操作，相比先前 HDC 加速器（需 log₂D+1 个周期）降低延迟。
• 采用基于 PCM 的内存内计算显著降低能耗，并消除了因内存与处理单元间数据移动导致的瓶颈。
• 使用 UMC 的 65nm 工艺库与硅级准确 PCM 模型进行硬件综合，验证了 Acc-Demeter 在大规模应用中的可行性与性能增益。