[论文解读] MUSEFood: Multi-sensor-based Food Volume Estimation on Smartphones

Junyi Gao, Weihao Tan+3 more|arXiv (Cornell University)|Mar 18, 2019

Nutritional Studies and Diet参考文献 25被引用 9

一句话总结

MUSEFood 提出了一种基于智能手机的食品体积估算系统，通过融合多传感器信息——摄像头、麦克风和扬声器——实现无需参考物体或带体积标注的训练数据的体积估算。通过采用多任务学习框架实现精确的食品分割，并利用差分模型校正容器形状的影响，MUSEFood 在多种食物类型和容器中均实现了高精度与高速度的体积估算，优于当前最先进的方法。

ABSTRACT

Researches have shown that diet recording can help people increase awareness of food intake and improve nutrition management, and thereby maintain a healthier life. Recently, researchers have been working on smartphone-based diet recording methods and applications that help users accomplish two tasks: record what they eat and how much they eat. Although the former task has made great progress through adopting image recognition technology, it is still a challenge to estimate the volume of foods accurately and conveniently. In this paper, we propose a novel method, named MUSEFood, for food volume estimation. MUSEFood uses the camera to capture photos of the food, but unlike existing volume measurement methods, MUSEFood requires neither training images with volume information nor placing a reference object of known size while taking photos. In addition, considering the impact of different containers on the contour shape of foods, MUSEFood uses a multi-task learning framework to improve the accuracy of food segmentation, and uses a differential model applicable for various containers to further reduce the negative impact of container differences on volume estimation accuracy. Furthermore, MUSEFood uses the microphone and the speaker to accurately measure the vertical distance from the camera to the food in a noisy environment, thus scaling the size of food in the image to its actual size. The experiments on real foods indicate that MUSEFood outperforms state-of-the-art approaches, and highly improves the speed of food volume estimation.

研究动机与目标

• 解决智能手机饮食追踪应用中食品体积估算的精确性与便捷性挑战。
• 消除对参考物体（如信用卡、筷子）或带体积标注的专用训练数据的依赖。
• 通过多任务学习利用容器形状信息，提升复杂背景中食品分割的准确性。
• 通过麦克风与扬声器实现的超声波测距，实现图像中食品尺寸的精确缩放。
• 开发一个鲁棒且可泛化的系统，适用于各种食品形状与容器类型。

提出的方法

• MUSEFood 使用全卷积网络（FCN）结合多任务学习，联合分割食品并预测容器形状，从而提升分割精度。
• 应用差分模型以适应不同的容器几何形状，减少因容器形状差异引入的误差。
• 利用智能手机麦克风与扬声器进行超声波往返时间测量，估算摄像头到食物的垂直距离，实现图像测量的精确缩放。
• 通过融合视觉分割与距离估算，将二维图像测量结果转换为真实世界中的食品体积。
• 通过结合分割出的食品面积与深度信息，利用几何缩放模型计算食品体积。
• 该方法设计高效，使用基于FCN的分割处理100张图像仅需约10秒。

实验结果

研究问题

• RQ1 智能手机上的多传感器融合能否在无需参考物体的情况下实现精确的食品体积估算？
• RQ2 容器形状信息在复杂场景中如何提升食品分割的准确性？
• RQ3 基于超声波的距离测量能否在真实环境中提供可靠的深度缩放？
• RQ4 所提出的多任务学习框架与传统方法（如Grabcut）相比，在分割速度与精度方面表现如何？
• RQ5 该系统在不同食品形状与容器类型上的泛化能力如何？

主要发现

• MUSEFood 在所有测试食品中，包括不规则形状的食品，其食品体积估算精度均优于当前最先进的基于参考物体的方法。
• 基于多任务学习的MFCN模型在平均交并比（mIoU）上优于单任务FCN与基于Grabcut的方法，其中MFCN-B表现最佳。
• 基于FCN的分割处理100张图像仅需约10秒，显著快于最快的传统Grabcut方法（27秒），同时精度更高。
• 基于超声波的距离测量实现了图像中食品尺寸的精确缩放，消除了对物理参考物体的需求。
• MUSEFood 在多种食品类型中表现出鲁棒性与低误差，包括鸡 drumsticks、炸猪肉和粥，无论使用盘子还是碗均表现良好。
• 即使在不规则形状食品上，系统也保持高精度，显著低于基线方法的误差率。