[논문 리뷰] Prediction of Red Wine Quality Using One-dimensional Convolutional Neural Networks

Shengnan Di, Yang, Y.|arXiv (Cornell University)|2022. 08. 30.

Fermentation and Sensory Analysis인용 수 8

한 줄 요약

이 논문은 피어슨 상관계수 분석, 주성분 분석(PCA), 드롭아웃 및 배치 정규화와 같은 기법을 활용하여 물리화학적 특성 간의 상관관계를 포착하기 위해 1D-CNN 모델을 제안한다. 이 모델은 기존의 기계학습 기반 모델보다 뛰어나며, F1-스코어가 85.8%로 4.1% 높아졌으며, 소규모 데이터셋에서 복잡한 특성 간 상호작용을 다룰 때 1D-CNN과 정규화 기법의 효과성을 입증한다.

ABSTRACT

As an alcoholic beverage, wine has remained prevalent for thousands of years, and the quality assessment of wines has been significant in wine production and trade. Scholars have proposed various deep learning and machine learning algorithms for wine quality prediction, such as Support vector machine (SVM), Random Forest (RF), K-nearest neighbors (KNN), Deep neural network (DNN), and Logistic regression (LR). However, these methods ignore the inner relationship between the physical and chemical properties of the wine, for example, the correlations between pH values, fixed acidity, citric acid, and so on. To fill the gap, this paper conducts the Pearson correlation analysis, PCA analysis, and Shapiro-Wilk test on those properties and incorporates 1D-CNN architecture to capture the correlations among neighboring features. In addition, it implemented dropout and batch normalization techniques to improve the robustness of the proposed model. Massive experiments have shown that our method can outperform baseline approaches in wine quality prediction. Moreover, ablation experiments also demonstrate the effectiveness of incorporating the 1-D CNN module, Dropout, and normalization techniques.

연구 동기 및 목표

• 기존 모델이 와인의 물리화학적 성질 간 내재된 상관관계를 포착하는 데에 한계가 있음을 해결하기 위해.
• 딥러닝을 활용해 인접한 특성 간 局소적 관계를 모델링하여 와인 품질 예측 정확도를 향상시키기 위해.
• 드롭아웃 및 배치 정규화 기법을 통해 소규모 데이터셋에서 과적합을 줄이기 위해.
• 기존 기계학습 모델과 비교했을 때 1D-CNN 아키텍처가 특성 간 상호작용을 얼마나 효과적으로 포착하는지 검증하기 위해.
• 주관적인 감각 평가에 대한 데이터 기반으로 확장 가능한 대안을 제공하기 위해.

제안 방법

• pH, 고정 산도, 구연산 등 물리화학적 특성 간의 관계를 파악하기 위해 피어슨 상관계수 분석을 적용하였다.
• 상관관계가 있는 특성들로부터 주성분을 추출하고 차원을 축소하기 위해 주성분 분석(PCA)을 사용하였다.
• 인접한 물리화학적 특성을 한 번의 컨볼루션 단계에서 처리할 수 있도록 1D-CNN 아키텍처를 설계하여 국소적 상관관계를 포착하였다.
• 모델의 일반화 능력을 향상시키고 과적합을 줄이기 위해 3개의 드롭아웃 레이어와 배치 정규화 레이어를 통합하였다.
• 교차 엔트로피 손실 함수와 Adam 최적화 기법을 사용하여 적색와인 품질 데이터셋에서 모델을 훈련시켰다.
• 다양한 변형 모델을 비교한 아블레이션 연구를 수행하였으며, DNN-D(정규화 없음), DNN(드롭아웃/BatchNorm 포함), 1DCNN-D(1D-CNN는 있으나 정규화 없음), 그리고 전체 1DCNN 모델을 대조하였다.

실험 결과

연구 질문

• RQ1 1D-CNN 모델은 적색와인의 인접한 물리화학적 특성 간 상관관계를 효과적으로 학습하고 활용할 수 있는가?
• RQ2 완전 연결 신경망(DNN)에 비해 1D-CNN 블록이 성능과 강건성 측면에서 어떻게 우월한가?
• RQ3 드롭아웃과 배치 정규화는 소규모 와인 품질 데이터셋에서 모델 일반화 능력을 얼마나 향상시키는가?
• RQ4 제안된 모델은 SVM, RF, KNN, LR 등의 기존 기계학습 기반 모델보다 와인 품질 예측에서 뛰어나게 성능을 발휘하는가?
• RQ5 특성 간 상관관계 분석과 PCA는 모델 성능 향상과 해석 가능성에 어떤 기여를 하는가?

주요 결과

• 1D-CNN 모델은 평균 F1-스코어 85.8%를 기록하여 최고의 베이스라인(랜덤 포레스트)보다 4.1% 높았다.
• 1D-CNN 모델은 최고의 베이스라인 모델 대비 정밀도(Precision) 4.1%, 정확도(Accuracy) 2.7%, 재현율(Recall) 2.5%, F1-스코어 4.1% 향상되었다.
• 아블레이션 연구 결과, DNN-D 대비 1D-CNN 블록 자체만으로도 모든 평가 지표에서 최소 1.4% 이상의 성능 향상이 확인되었다.
• 드롭아웃 및 배치 정규화의 포함으로 정밀도, 정확도, 재현율, F1-스코어 전반에서 최소 1.4% 이상의 성능 향상이 이루어졌다.
• 정규화 기법을 적용한 DNN 기반 모델이 kNN, SVM, LR, RF 등의 기존 기계학습 모델보다 와인 품질 예측에서 뛰어난 성능을 보였다.
• 전체 1D-CNN 모델은 모든 평가된 모델 중에서 가장 높은 정확도(83.2%), 재현율(84.6%), F1-스코어(85.8%)를 기록하였다.