[論文レビュー] Artificial Intelligence Algorithms for Natural Language Processing and the Semantic Web Ontology Learning

Bryar A. Hassan, Tarik A. Rashid|arXiv (Cornell University)|Aug 31, 2021

Evolutionary Algorithms and Applications被引用数 12

ひとこと要約

本稿では、異種データセットにおけるクラスタリング精度と効率性を向上させる、拡張された進化的クラスタリングアルゴリズムECA*を提案する。ECA*は、オントロジー学習における形式的文脈のサイズを縮小するために適用され、概念ラティス構造の品質の89%を維持しながら、Wikipediaコーパスからの概念階層抽出を高速化する。

ABSTRACT

Evolutionary clustering algorithms have considered as the most popular and widely used evolutionary algorithms for minimising optimisation and practical problems in nearly all fields. In this thesis, a new evolutionary clustering algorithm star (ECA*) is proposed. Additionally, a number of experiments were conducted to evaluate ECA* against five state-of-the-art approaches. For this, 32 heterogeneous and multi-featured datasets were used to examine their performance using internal and external clustering measures, and to measure the sensitivity of their performance towards dataset features in the form of operational framework. The results indicate that ECA* overcomes its competitive techniques in terms of the ability to find the right clusters. Based on its superior performance, exploiting and adapting ECA* on the ontology learning had a vital possibility. In the process of deriving concept hierarchies from corpora, generating formal context may lead to a time-consuming process. Therefore, formal context size reduction results in removing uninterested and erroneous pairs, taking less time to extract the concept lattice and concept hierarchies accordingly. In this premise, this work aims to propose a framework to reduce the ambiguity of the formal context of the existing framework using an adaptive version of ECA*. In turn, an experiment was conducted by applying 385 sample corpora from Wikipedia on the two frameworks to examine the reduction of formal context size, which leads to yield concept lattice and concept hierarchy. The resulting lattice of formal context was evaluated to the original one using concept lattice-invariants. Accordingly, the homomorphic between the two lattices preserves the quality of resulting concept hierarchies by 89% in contrast to the basic ones, and the reduced concept lattice inherits the structural relation of the original one.

研究の動機と目的

• 既存の手法を上回るクラスタリング精度と頑健性を実現する、新しい進化的クラスタリングアルゴリズムECA*の開発。
• 特に大規模コーパスにおいて顕著な計算非効率性を示す、オントロジー学習における形式的文脈構築の問題の解決。
• 概念ラティスの構造的整合性を損なわずに、形式的文脈の曖昧さとサイズを低減すること。
• ECA*が形式的文脈を最小限に抑える効果を、概念階層の品質を保持する観点から評価すること。
• 意味的データの適応的クラスタリングを通じて、スケーラブルで効率的なオントロジー学習の実現。

提案手法

• ECA*は、多様で多機能なデータセットにおいて最適なクラスタリングパフォーマンスを達成するように設計された、適応的進化的クラスタリングアルゴリズムである。
• ECA*を5つの最先端のクラスタリング手法と比較するため、内部および外部のクラスタリング評価指標を用いて32のデータセット上でベンチマークを実施する。
• 意味的コーパス内の無関係および誤った属性-オブジェクトペアをフィルタリングすることで、ECA*を用いて形式的文脈のサイズを縮小する。
• 元のラティスと縮小されたラティス間の構造的忠実度を比較するために、概念ラティス不変量を用いる。
• スケーラビリティと実世界のNLPおよびオントロジー学習タスクにおけるパフォーマンスを評価するため、385のWikipediaコーパスにフレームワークを適用する。
• 縮小されたラティスが元の概念ラティスの関係的構造を保持していることを検証するために、同型解析を用いる。

実験結果

リサーチクエスチョン

• RQ1 ECA*は、異種データセットにおいて、クラスタリング精度と安定性の観点で、既存の進化的クラスタリングアルゴリズムを上回ることができるか？
• RQ2 ECA*を用いた形式的文脈の縮小は、元の概念ラティスの構造的性質をどの程度保持するか？
• RQ3 ECA*は、オントロジー学習における概念ラティス生成の計算コストをどの程度低減できるか？
• RQ4 データセットの特徴が、ECA*のクラスタリングおよび文脈縮小におけるパフォーマンスにどのような影響を与えるか？
• RQ5 縮小された形式的文脈は、下流のオントロジー構築タスクに十分な品質を維持しているか？

主な発見

• ECA*は、32の異種データセットにおいて、内部および外部の評価指標の両方を用いて、5つの最先端のアルゴリズムと比較して優れたクラスタリングパフォーマンスを示した。
• ECA*を用いた形式的文脈の縮小は、ラティス不変量を用いて測定したところ、概念ラティス構造の品質を89%の割合で保持した。
• 縮小された形式的文脈は、意味的忠実度を損なわずに、概念ラティスおよび階層抽出の計算時間を顕著に短縮した。
• 元のラティスと縮小されたラティスの間の同型関係が確認されたことで、概念階層内の構造的関係が保持されていることが裏付けられた。
• ECA*の適応的バージョンは、ノイズが多く無関係な属性-オブジェクトペアを効果的にフィルタリングし、大規模なNLPおよびオントロジー学習パイプラインにおけるスケーラビリティを向上させた。
• 本フレームワークは385のWikipediaコーパスに成功裏に適用され、実世界の意味的データ処理における実用的妥当性とパフォーマンス向上を示した。