[論文レビュー] Prediction of Red Wine Quality Using One-dimensional Convolutional Neural Networks

Shengnan Di, Yang, Y.|arXiv (Cornell University)|Aug 30, 2022

Fermentation and Sensory Analysis被引用数 8

ひとこと要約

本稿では、ピアソン相関分析、主成分分析（PCA）、ドロップアウトやバッチ正則化などの技術を用いて、物理化学的特徴量間の相関を捉える1D-CNNモデルを提案する。このモデルは、従来の機械学習ベースラインを上回り、F1スコアで4.1%高い85.8%を達成し、小規模データセットにおける複雑な特徴量相互作用の取り扱いにおいて1D-CNNと正則化の有効性を示している。

ABSTRACT

As an alcoholic beverage, wine has remained prevalent for thousands of years, and the quality assessment of wines has been significant in wine production and trade. Scholars have proposed various deep learning and machine learning algorithms for wine quality prediction, such as Support vector machine (SVM), Random Forest (RF), K-nearest neighbors (KNN), Deep neural network (DNN), and Logistic regression (LR). However, these methods ignore the inner relationship between the physical and chemical properties of the wine, for example, the correlations between pH values, fixed acidity, citric acid, and so on. To fill the gap, this paper conducts the Pearson correlation analysis, PCA analysis, and Shapiro-Wilk test on those properties and incorporates 1D-CNN architecture to capture the correlations among neighboring features. In addition, it implemented dropout and batch normalization techniques to improve the robustness of the proposed model. Massive experiments have shown that our method can outperform baseline approaches in wine quality prediction. Moreover, ablation experiments also demonstrate the effectiveness of incorporating the 1-D CNN module, Dropout, and normalization techniques.

研究の動機と目的

• 既存のモデルがワインの物理化学的性質の間にある内在的な相関関係を捉えられていないという限界を解決すること。
• 深層学習を用いて隣接する特徴量間の局所的関係をモデル化することで、ワインの品質予測精度を向上させること。
• ドロップアウトとバッチ正則化の技術を用いて、小規模データセットにおける過学習を低減すること。
• 従来の機械学習モデルと比較して、1D-CNNアーキテクチャが特徴量相互作用をどのように効果的に捉えられるかを検証すること。
• 主観的な感官評価に代わる、データ駆動的でスケーラブルな代替手法を提供すること。

提案手法

• pH、遊離酸度、クエン酸などの物理化学的特徴量間の関係を特定するためにピアソン相関分析を適用した。
• 次元削減と相関する特徴量からの主要成分の抽出のためにPCAを用いた。
• 隣接する物理化学的特徴量を1つの畳み込みステップで処理する1D-CNNアーキテクチャを設計し、局所的相関を捉えた。
• モデルの汎化性能を向上させ、過学習を低減するために、3つのドロップアウト層とバッチ正則化層を統合した。
• 交差エントロピー損失関数とAdam最適化法を用いて、赤ワイン品質データセット上でモデルを学習した。
• アブレーションスタディとして、DNN-D（正則化なし）、DNN（ドロップアウト／バッチ正則化あり）、1DCNN-D（1D-CNNはありだが正則化なし）、および完全な1DCNNモデルのバリエーションを比較した。

実験結果

リサーチクエスチョン

• RQ1 1D-CNNモデルは、赤ワインの品質予測において、隣接する物理化学的特徴量間の相関関係を効果的に学習・活用できるか？
• RQ2 完全に接続されたDNNと比較して、1D-CNNブロックの導入は性能と頑健性においてどのように差をつけるか？
• RQ3 ドロップアウトとバッチ正則化は、小規模なワイン品質データセットにおいて、モデルの汎化性能をどの程度向上させるか？
• RQ4 提案されたモデルは、SVM、RF、KNN、LRなどの従来の機械学習ベースラインを上回るか？
• RQ5 特徴量相関分析とPCAは、モデルの性能と解釈可能性にどのような貢献をしているか？

主な発見

• 1D-CNNモデルは平均F1スコア85.8%を達成し、最良のベースライン（ランダムフォレスト）を4.1ポイント上回った。
• 1D-CNNモデルは、最良のベースラインモデルと比較して、精度（Precision）を4.1%、正解率（Accuracy）を2.7%、再現率（Recall）を2.5%、F1スコアを4.1%向上させた。
• アブレーションスタディの結果、DNN-Dと比較して1D-CNNブロック単体でも、すべての指標で少なくとも1.4%の性能向上が確認された。
• ドロップアウトとバッチ正則化の導入により、精度、正解率、再現率、F1スコアのすべてで、少なくとも1.4%の性能向上が得られた。
• 正則化を施したDNNベースのモデルは、kNN、SVM、LR、RFといった従来の機械学習モデルを上回った。
• 完全な1D-CNNモデルは、評価されたすべてのモデルの中で最高の正解率（83.2%）、再現率（84.6%）、F1スコア（85.8%）を達成した。