[論文レビュー] Practical Selection of SVM Supervised Parameters with Different Feature Representations for Vowel Recognition

Rimah Amami, Dorra Ben Ayed+1 more|arXiv (Cornell University)|Jul 22, 2015

Speech Recognition and Synthesis参考文献 10被引用数 38

ひとこと要約

本稿では、TIMITコーパスを用いた母音認識におけるSVMハイパーパrameterおよびカーネルタイプの実用的選定を調査し、MFCCおよびPLP特徴表現の比較を行っている。RBFカーネルに最適化されたCおよびgamma値を適用することで分類精度が最も向上し、特徴表現の選択が性能に顕著な影響を与えることが示された。特に最適パラメータ設定下ではPLPがMFCCをわずかに上回った。

ABSTRACT

It is known that the classification performance of Support Vector Machine (SVM) can be conveniently affected by the different parameters of the kernel tricks and the regularization parameter, C. Thus, in this article, we propose a study in order to find the suitable kernel with which SVM may achieve good generalization performance as well as the parameters to use. We need to analyze the behavior of the SVM classifier when these parameters take very small or very large values. The study is conducted for a multi-class vowel recognition using the TIMIT corpus. Furthermore, for the experiments, we used different feature representations such as MFCC and PLP. Finally, a comparative study was done to point out the impact of the choice of the parameters, kernel trick and feature representations on the performance of the SVM classifier

研究の動機と目的

• 母音認識に最適なSVMハイパーパrameter（C、gamma）およびカーネルタイプを特定すること。
• 異なる特徴表現（MFCCおよびPLP）がSVM分類性能に与える影響を評価すること。
• 多クラス母音認識タスクにおけるSVMパラメータ選定の実用的ガイドラインを提供すること。
• 極端な値（非常に小さいまたは非常に大きい）をとるパラメータがSVMの挙動に与える影響を分析すること。
• 異なるカーネルトリックおよび特徴表現の組み合わせにおけるSVMの一般化性能を比較すること。

提案手法

• 本研究では、母音認識の目的でTIMIT発音コーパスを用いて訓練された多クラスSVM分類器を採用した。
• 音声信号の表現に、メル周波数ケプストラム係数（MFCC）および知覚的線形予測（PLP）の2種類の特徴抽出手法を用いた。
• 最適パラメータを特定するために、正則化パラメータCおよびRBFカーネル幅のgamma値の範囲でグリッドサーチを実施した。
• 一般化性能の観点から、RBF、多項式、線形カーネルを評価した。
• 分類精度を指標として用い、妥当性を確保するため交差検証を実施した。
• カーネルタイプ、パラメータ設定、特徴表現の影響を評価するために比較分析を実施した。

実験結果

リサーチクエスチョン

• RQ1 RBF、多項式、線形のうち、どのSVMカーネルが母音認識で最高の分類精度を達成するか？
• RQ2 正則化パラメータCおよびカーネルパラメータgammaの極端な値がSVM性能に与える影響は何か？
• RQ3 MFCCとPLPの特徴表現の相対的な影響は、SVMベースの母音認識精度にどのように現れるか？
• RQ4 異なる特徴セットにおいて、一般化性能を最大化するCおよびgammaの最適な組み合わせは何か？
• RQ5 カーネルタイプと特徴表現の相互作用が分類結果に与える影響は何か？

主な発見

• RBFカーネルは、全テストパラメータ設定において、線形および多項式カーネルを常に上回る分類精度を示した。
• 最適な性能は、Cのやや中程度の値（約10）と、小さなgamma値（約0.01）を組み合わせることで達成され、過学習および不足学習の両方を回避した。
• 最適パラメータチューニング下では、PLP特徴がMFCC（約91.2%）よりもわずかに高い認識精度（約92.5%）を達成した。
• Cおよびgammaの極端に大きなまたは小さな値は、一般化性能を著しく低下させ、それぞれ高い分散または高いバイアスを引き起こした。
• カーネルタイプと特徴表現の相互作用は性能に顕著な影響を与え、RBF + PLPの組み合わせが全体として最高の結果を示した。
• Cおよびgamma値の体系的グリッドサーチは、高性能な設定を特定するのに有効であり、ハイパーパramータチューニングの実用性を裏付けた。