[論文レビュー] Automatic Wrappers for Large Scale Web Extraction

Nilesh Dalvi, Ravi Kumar+1 more|arXiv (Cornell University)|Mar 12, 2011

Web Data Mining and Analysis参考文献 17被引用数 11

ひとこと要約

本論文では、辞書や正規表現から安価に生成されたノイズのあるラベルを活用することで、ノイズの多い自己教師あり学習データに対して耐性を持つラッパー学習アルゴリズムを設計し、Web規模での高精度な情報抽出を達成する新規フレームワークを提示する。このシステムにより、サイトレベルの手動ラベル付けに依存する必要がなくなり、完全に自己教師ありの学習が可能となり、Yahoo!の本番環境で稼働している実装において、最新の精度を達成した。

ABSTRACT

We present a generic framework to make wrapper induction algorithms tolerant to noise in the training data. This enables us to learn wrappers in a completely unsupervised manner from automatically and cheaply obtained noisy training data, e.g., using dictionaries and regular expressions. By removing the site-level supervision that wrapper-based techniques require, we are able to perform information extraction at web-scale, with accuracy unattained with existing unsupervised extraction techniques. Our system is used in production at Yahoo! and powers live applications.

研究の動機と目的

• 大規模Webデータ抽出におけるラッパー誘導のための高コストなサイトレベルの監視を解決すること。
• 手動でラベル付けされた学習データを一切必要としない、正確なWebページからの情報抽出を可能にすること。
• 辞書や正規表現などのヒューリスティクスから生成されたノイズを含む自動ラベルを耐容できるフレームワークを開発すること。
• 自己教師あり学習手法を用いて、生産環境で使用可能な精度を達成するWebスケールの情報抽出を実現すること。
• 自己教師あり抽出手法と実運用で求められる精度のギャップを埋めること。

提案手法

• 学習データのノイズに強いラッパー誘導フレームワークを設計し、低品質な自動ラベルの使用を可能にする。
• 辞書や正規表現などの弱い監視信号を用いて、大規模でノイズを含む学習例を生成する。
• ノイズに耐性を持つ学習アルゴリズムを適用し、ラッパー学習中にノイズデータ内の不整合を特定・是正する。
• 確率的または判別モデルを用いて、ノイズデータから抽出ルールを学習し、誤差の拡大を最小限に抑える。
• 数百万枚のWebページを処理可能なスケーラブルなパイプラインに訓練済みラッパーを統合する。
• 実世界のWebデータを用いた評価と、既存の自己教師あり手法との比較を通じて、フレームワークの耐性と精度を検証する。

実験結果

リサーチクエスチョン

• RQ1 大規模なノイズを含む自動生成ラベルを処理できるほど、ラッパー誘導が十分に耐性を持つことができるか？
• RQ2 高精度を維持しながら、Web抽出においてサイトレベルの監視をどの程度排除できるか？
• RQ3 ヒューリスティクスベースのラベリング手法（例：辞書、正規表現）が、ノイズに耐性を持つ学習と組み合わせてどの程度効果的か？
• RQ4 完全に自己教師ありのラッパー誘導システムは、実世界のWebデータに対して生産環境レベルの精度を達成できるか？
• RQ5 提案手法は、既存の自己教師ありまたは弱い監視付きWeb抽出手法に比べて、どの程度の性能向上を達成できるか？

主な発見

• 提案フレームワークは、サイトレベルの監視を一切必要とせず、完全に自己教師ありの学習が可能であり、高い抽出精度を達成した。
• このシステムは、辞書や正規表現を用いて生成されたノイズを含む学習データから効果的に学習し、ラベル付けコストを顕著に削減した。
• Yahoo!の実運用環境での検証を通じて、既存の自己教師あり抽出手法よりも優れた精度を示した。
• フレームワークはWebスケールのデータに効果的にスケーリングでき、生産環境での大規模情報抽出を可能にした。
• フレームワークはYahoo!で本番環境にデプロイされ、実際のアプリケーションを駆動しており、耐性と実用的妥当性を確認した。
• ノイズを効果的に低減しながら抽出精度を保持することで、先行する自己教師あり手法を上回る性能を発揮した。