[論文レビュー] Multiple Retrieval Models and Regression Models for Prior Art Search

Patrice Lopez, Laurent Romary|ArXiv.org|Aug 30, 2009

Rough Sets and Fuzzy Logic参考文献 12被引用数 23

ひとこと要約

本論文は、英語、フランス語、ドイツ語の3言語で、複数の検索モデル（KL、オーキパ）と語彙インデックス（語の原形、句、概念）を統合した多言語特許先行技術検索システム、PATATRASを提示する。回帰に基づく結果統合とメタデータ／引用構造を活用して順序付けを向上させ、CLEF 2009 IP トラックにおいて多言語タスクでMAP 0.2802の最先端性能を達成した。

ABSTRACT

This paper presents the system called PATATRAS (PATent and Article Tracking, Retrieval and AnalysiS) realized for the IP track of CLEF 2009. Our approach presents three main characteristics: 1. The usage of multiple retrieval models (KL, Okapi) and term index definitions (lemma, phrase, concept) for the three languages considered in the present track (English, French, German) producing ten different sets of ranked results. 2. The merging of the different results based on multiple regression models using an additional validation set created from the patent collection. 3. The exploitation of patent metadata and of the citation structures for creating restricted initial working sets of patents and for producing a final re-ranking regression model. As we exploit specific metadata of the patent documents and the citation relations only at the creation of initial working sets and during the final post ranking step, our architecture remains generic and easy to extend.

研究の動機と目的

• 特許を含む多言語の技術的・科学的文献における先行技術検索のスケーラブルで汎用的なフレームワークの開発。
• 英語、フランス語、ドイツ語の3言語で複数の検索モデルとインデックス戦略を統合することで、検索パフォーマンスの向上。
• 特許のメタデータと引用構造を用いて初期作業セットの作成と最終的な再順序付けを実施しながら、システムの汎用性を損なわないようにすること。
• 特許コレクションから抽出した検証セットを用いて、機械学習ベースの結果統合の有効性を評価すること。
• 情報検索におけるノイズが多く、曖昧で多言語的な特許の言語的特徴に対処すること。

提案手法

• KLおよびオーキパモデルを用い、語の原形、句、概念インデックスを3言語で適用した10種類の異なる検索設定を採用した。
• 手動で整備された約4,000件の特許からなる検証セットを用いて、複数の回帰モデルを訓練し、複数のモデルからの結果を統合した。
• 特許のメタデータ（例：IPC/ECLA分類）と引用構造を活用して、各トピックの制限付き初期作業セットを作成した。
• 引用ベースの特徴とメタデータを統合した最終的な回帰ベースの再順序付けモデルを適用し、上位結果を精緻化した。
• Wikipedia XMLファイルから語彙的データベースを構築し、トークン化、品詞タグ付け、句抽出、制御された概念インデックス化を実施した。
• 64ビットMac OSを搭載した4台のマシンを用いて190万件の特許コレクションを処理し、トレーニングおよび集約パイプラインをオフライン処理に最適化した。

実験結果

リサーチクエスチョン

• RQ1 複数の検索モデルとインデックス戦略を統合することで、多言語特許コレクションにおける先行技術検索パフォーマンスが向上するか？
• RQ2 特許コーパスから抽出した検証セットを用いて訓練された回帰ベースの結果統合は、どの程度効果的か？
• RQ3 初期作業セット選択および最終的な再順序付けにおいて、特許のメタデータと引用構造を活用することで、検索性能がどの程度向上するか？
• RQ4 語の原形、句、概念といった多言語語彙インデックスの統合は、単一言語アプローチよりも優れたパフォーマンスをもたらすか？
• RQ5 最小限の再設定で特許文献だけでなく一般技術文献にも対応できる汎用アーキテクチャを設計できるか？

主な発見

• 多言語システムはMAP 0.2802を達成し、すべての言語別実行結果を大きく上回り、クロスリンガル統合の有効性を示した。
• 英語のみの検索が最高の個別パフォーマンス（MAP 0.2358）を示し、特許記述における英語の優位性を反映していた。
• 3言語を統合した結果が最良の全体的パフォーマンスをもたらし、多言語インデックス化の価値を裏付けた。
• 回帰ベースの結果統合により、多様な検索信号を効果的に統合し、ノイズを低減することで検索パフォーマンスが向上した。
• 初期作業セット作成および最終的な再順序付けにおいて引用構造とメタデータを活用することで、上位順位での精度が向上した。
• トピックあたりの合計処理時間は約43秒であったが、これはオンライン利用を想定して最適化されていなかった。