[論文レビュー] Perplexed by Quality: A Perplexity-based Method for Adult and Harmful Content Detection in Multilingual Heterogeneous Web Data

Tim Jansen, Yangling Tong+2 more|arXiv (Cornell University)|Dec 20, 2022

Topic Modeling被引用数 4

ひとこと要約

本稿では、OSCARの多言語ウェブデータのような大規模でノイズの多いコーパスにおいて、有害なテキストのみで訓練された言語モデルを用い、Perplexity（混乱度）に基づく手法を提案する。この手法は、有害でないコンテンツとして分類される高Perplexityのドキュメントを特定することで、従来の分類器よりも高い精度とより現実的なラベル分布を達成する。

ABSTRACT

As demand for large corpora increases with the size of current state-of-the-art language models, using web data as the main part of the pre-training corpus for these models has become a ubiquitous practice. This, in turn, has introduced an important challenge for NLP practitioners, as they are now confronted with the task of developing highly optimized models and pipelines for pre-processing large quantities of textual data, which implies, effectively classifying and filtering multilingual, heterogeneous and noisy data, at web scale. One of the main components of this pre-processing step for the pre-training corpora of large language models, is the removal of adult and harmful content. In this paper we explore different methods for detecting adult and harmful of content in multilingual heterogeneous web data. We first show how traditional methods in harmful content detection, that seemingly perform quite well in small and specialized datasets quickly break down when confronted with heterogeneous noisy web data. We then resort to using a perplexity based approach but with a twist: Instead of using a so-called "clean" corpus to train a small language model and then use perplexity so select the documents with low perplexity, i.e., the documents that resemble this so-called "clean" corpus the most. We train solely with adult and harmful textual data, and then select the documents having a perplexity value above a given threshold. This approach will virtually cluster our documents into two distinct groups, which will greatly facilitate the choice of the threshold for the perplexity and will also allow us to obtain higher precision than with the traditional classification methods for detecting adult and harmful content.

研究の動機と目的

• OSCARのような大規模で多言語的かつノイズの多いウェブコーパスからの成人向けおよび有害コンテンツのフィルタリングという課題に対処すること。
• 異種でノイズの多いウェブデータにおいて一般化に失敗する従来の分類モデルの限界を克服すること。
• 高い精度と現実的な予測分布を維持しながら、スケーラブルかつ効率的な有害コンテンツ特定手法を開発すること。
• 多言語データにおいて、ゼロショットで自己教師ありの形で、Perplexityをコンテンツ品質の代理指標として用いる可能性を検討すること。
• 軽量な言語モデルと高速な推論を用いて、ウェブ規模での有害コンテンツ検出の実用的導入を可能にすること。

提案手法

• OSCARコーパスの成人向けおよび有害コンテンツに限定して、軽量な言語モデル（KenLM）を訓練し、そのようなテキストの言語的パターンを学習すること。
• 訓練済みモデルを用いて、テストセットの各ドキュメントのPerplexityスコアを計算し、高Perplexityを「非有害コンテンツ」の指標とする。
• しきい値に基づく選別を実施：Perplexityがしきい値を超えるドキュメントは非有害と分類され、それ以下のドキュメントは潜在的に有害とマークされる。
• Perplexityスコアが「有害」と「非有害」の2つの明確なクラスタに自然に分離されることを活用し、しきい値の選定を簡素化するとともに、精度を向上させること。
• 最初の2つのアプローチにおけるベースライン比較として、FastTextを用い、大規模データにおける速度と性能に焦点を当てる。
• 小規模で効率的な言語モデルを用いることで推論速度を最適化し、大規模な多言語コーパス（例：中程度のハードウェアで上位5言語分で84時間）の処理を可能にすること。

実験結果

リサーチクエスチョン

• RQ1 有害なデータのみで訓練されたPerplexityベースの手法が、ノイズが多く多言語的なウェブデータにおいて、従来の分類モデルを上回る性能を示せるか？
• RQ2 大規模コーパスにおいて、従来の分類器とPerplexityベースのアプローチの間で、予測された有害ラベルの分布はどのように異なるか？
• RQ3 有害データの代表的サブセットに限定して言語モデルを訓練することで、全OSCARコーパスにわたる一般化がどの程度達成できるか？
• RQ4 大規模で手動でアノテートされたデータセットを必要とせずに、Perplexityベースの手法が高い精度と現実的なラベル分布を達成できるか？
• RQ5 多言語ウェブデータの大規模処理において、Perplexityベースの手法はどの程度スケーラブルで効率的か？

主な発見

• Perplexityベースの手法は、ノイズが多く多様なデータを含む環境において、しばしば現実的でないラベル分布を生じる従来の分類モデルよりも高い精度を達成した。
• この手法は、Perplexityに基づいてドキュメントが「有害」と「非有害」の2つの明確なグループに自然にクラスタリングされることを示し、より信頼性が高く直感的なしきい値選定が可能になった。
• 有害コンテンツに限定して言語モデルを訓練することで、データが限られている中でも、そのようなテキストの言語的パターンを効果的に学習できた。
• このアプローチは強力なスケーラビリティを示し、中程度のハードウェアで上位5言語分のOSCARコーパスを処理するのに推定84時間で完了した。
• 従来の研究（例：Kreutzerら、2022年）の結果と整合するように、以前にラベルが付けられていなかった新たな有害テキストを同定した。
• 主な限界として、トレーニングデータに含まれないOSCARコーパスの一部では有害コンテンツを検出できなかったことが判明した。これは、データの順次的構築と、ファイル間での言語的多様性に起因すると考えられる。