[論文レビュー] Hierarchical Dirichlet process for tracking complex topical structure evolution and its application to autism research literature

Adham Beykikhoshk, Ognjen Arandjelović+2 more|arXiv (Cornell University)|Feb 8, 2015

Biomedical Text Mining and Ontologies参考文献 2被引用数 9

ひとこと要約

本稿では、時間的に離散化されたエポックと時間的類似性グラフを用いて、トピックの出現、進化、分裂、統合、消滅をモデル化することで、縦断的医療文献における変化するトピックを発見・追跡するための階層的ディリクレ過程（HDP）ベースのフレームワークを提案する。1970年から2012年までの18,000件を超える自閉症スペクトラム障害（ASD）関連の論文に適用された結果、遺伝学やワクチン関連トピックの上昇といった研究の焦点の動的なシフトが明らかになり、2つの無料オンラインツールを介して意味的ナビゲーションが可能になった。

ABSTRACT

In this paper we describe a novel framework for the discovery of the topical content of a data corpus, and the tracking of its complex structural changes across the temporal dimension. In contrast to previous work our model does not impose a prior on the rate at which documents are added to the corpus nor does it adopt the Markovian assumption which overly restricts the type of changes that the model can capture. Our key technical contribution is a framework based on (i) discretization of time into epochs, (ii) epoch-wise topic discovery using a hierarchical Dirichlet process-based model, and (iii) a temporal similarity graph which allows for the modelling of complex topic changes: emergence and disappearance, evolution, and splitting and merging. The power of the proposed framework is demonstrated on the medical literature corpus concerned with the autism spectrum disorder (ASD) - an increasingly important research subject of significant social and healthcare importance. In addition to the collected ASD literature corpus which we will make freely available, our contributions also include two free online tools we built as aids to ASD researchers. These can be used for semantically meaningful navigation and searching, as well as knowledge discovery from this large and rapidly growing corpus of literature.

研究の動機と目的

• 急速に増加する時間的変化を伴う生物医学文献を分析する課題に取り組むこと、特に手作業によるナビゲーションが非現実的である自閉症研究分野を対象とする。
• 固定されたトピック数やマルコフ的時間的依存性を仮定しない静的トピックモデルの限界を乗り越え、トピックの出現、分裂、統合、消滅といった複雑な時間的ダイナミクスの検出を可能にする。
• 固定されたトピック数やマーカフ連鎖的時間的依存性を仮定しないスケーラブルで非パrametricなフレームワークを構築し、データ駆動でトピック構造とその進化を推定する。
• 研究者に18,000件を超えるASD関連論文の無料で利用可能なコーパスと、意味的ナビゲーションとトピック探索を可能にする2つのインタラクティブなオンラインツールを提供する。

提案手法

• コーパスの時間的次元を重複するエポックに離散化することで、時間的区間における局所的トピックモデリングを可能にする。
• 各エポック内で階層的ディリクレ過程（HDP）を適用し、事前にトピック数を指定せずにデータ駆動で自動的にトピック数を特定する。
• 連続するエポック間のトピック分布のコサインベースの測度を用いて、トピック間の類似性グラフを構築し、時間的関係をモデル化する。
• 類似性グラフを用いて時間的ダイナミクスを推定する：トピックの出現（初回登場）、進化（徐々に変化）、分裂（1つのトピックが複数に分離）、統合（複数のトピックが合体）、消滅（消失）。
• HDPの非パrametric性を活用し、データに応じてトピックの複雑さを増減可能にすることで、過学習やトピックの変化率に関する事前仮定を回避する。
• フレームワークを2つの公開ウェブツールに統合する：1つはトピックのブラウジングと意味的検索を、もう1つはトピックの進化と関係性の可視化を目的とする。

実験結果

リサーチクエスチョン

• RQ1 固定されたトピック数やマルコフ的時間的依存性を仮定しないで、縦断的生物医学文献コーパスにおけるトピックの自動的発見と進化追跡は、どのように可能になるか？
• RQ2 42年間にわたる自閉症文献における研究トピックの主要な時間的ダイナミクス（出現、分裂、統合、消滅）は何か？
• RQ3 提案されたフレームワークは、遺伝学やワクチン関連自閉症研究といった高インパクトの研究テーマを、意味的・時間的正確性を保ちつつ検出・モデル化できるか？
• RQ4 このフレームワークは、急激に増加する大規模な科学的文献における複雑なトピック的構造の意味的でインタラクティブな探索をどの程度支援できるか？

主な発見

• フレームワークは、『ワクチンと自閉症』関連研究トピックが1996年から2001年にかけて出現したと特定した。これは、ウォーキンズらの懸念を呼び起こした論文が発表された時期と一致する。
• 論文の発表後、トピックの分裂が顕著に観察され、『ワクチン』トピックが懸念の高まりに伴い、多様な研究方向性に分岐した。
• フレームワークは『遺伝学』トピックが『乳児期のASD』という初期の概念から進化したことを明らかにした。これは研究テーマの歴史的連続性を示している。
• 『16p11.2欠失』関連トピックは2000年代に出現したと検出され、ASDにおける既知の遺伝的発見と整合的であった。
• 公衆のチミオールサルファート（チオマール）懸念の影響で、科学的根拠がなくとも『水銀』と『ワクチン』という別々のトピックが1つの進化するトピックに統合された。
• フレームワークは、主張が撤回された後も、継続的に変化を遂げるトピック（例：『ワクチン』トピック）を特定でき、その存在を変形した形で維持していた。