[論文レビュー] Toward Interpretable Topic Discovery via Anchored Correlation Explanation

Kyle Reing, David C. Kale+2 more|arXiv (Cornell University)|Jun 22, 2016

Topic Modeling参考文献 23被引用数 6

ひとこと要約

本稿では、全相関説明（CorEx）と情報ボトルネックを組み合わせた、新たな情報理論的フレームワークであるAnchored CorExを提案する。この手法は、人間がガイドする潜在的トピックを、解釈可能で意味的に整合性のある形で発見することを目的としている。非公式な専門家提供のアンカーワード（例：'diabetes'、'insulin'）を用いることで、トピックの整合性と解釈可能性が向上し、臨床データおよびニュースグループデータにおける弱教師付き分類タスクで優れた性能を示した。特に、肥満チャレンジデータセットにおいて、教師なしCorExおよびナイーブベイズベースラインを上回った。

ABSTRACT

Many predictive tasks, such as diagnosing a patient based on their medical chart, are ultimately defined by the decisions of human experts. Unfortunately, encoding experts' knowledge is often time consuming and expensive. We propose a simple way to use fuzzy and informal knowledge from experts to guide discovery of interpretable latent topics in text. The underlying intuition of our approach is that latent factors should be informative about both correlations in the data and a set of relevance variables specified by an expert. Mathematically, this approach is a combination of the information bottleneck and Total Correlation Explanation (CorEx). We give a preliminary evaluation of Anchored CorEx, showing that it produces more coherent and interpretable topics on two distinct corpora.

研究の動機と目的

• トピックモデリングにおける機械学習に有効で、かつ人間にとって実用的な方法で専門家知識を統合する課題に対処すること。
• アンカーワードを通じて非公式で曖昧な分野知識を統合することで、テキストコーパスから発見される潜在的トピックの解釈可能性と整合性を向上させること。
• 完全なラベル付けが不可能な低リソース環境において、クラスラベルの代理としてアンカーワードを用いることで、弱教師付き学習を可能にすること。
• ドメイン関連のキーワードを用いて、ユーザーが段階的にトピックモデルを改善できる柔軟でインタラクティブなフレームワークを構築すること。
• 関連変数による潜在要因のアンカーリングが、トピック品質と下流分類性能の両方を向上させることを示すこと。

提案手法

• CorExの全相関目的関数と情報ボトルネックの相互情報量最大化を組み合わせ、多次元的依存性とアンカーバリエーブルとの関連性を同時に最適化する。
• 観測変数と潜在要因間の全相関を最大化するとともに、潜在要因と指定されたアンカーバリエーブル間の相互情報量を保持する目的関数を定式化する。
• 学習の可能性を高めるために全相関の下界を用い、各単語が1つのトピックにのみ関連するようにスパース接続制約を課すことで、計算効率を向上させる。
• アンカーワード（例：'diabetes'、'sleep apnea'）を用いてトピックの発見をガイドし、各アンカーが1つ以上の潜在要因に関連することで意味的構造を強制する。
• 反復的改善が可能：ユーザーはアンカーワードの追加・削除により、トピックの特異性と整合性を向上させることができる。
• 本手法はオープンソースのCorExライブラリを用いて実装され、臨床ノートおよび20 Newsgroupsデータで評価された。

実験結果

リサーチクエスチョン

• RQ1 非公式で専門家が提供するアンカーワードは、教師なしトピックモデリングによって発見されるトピックの解釈可能性と整合性を向上させることができるか？
• RQ2 ドメイン関連キーワードを用いて潜在要因をアンカーリングすることで、標準的なCorExと比較してトピック発見の質はどのように変化するか？
• RQ3 完全なラベル付けが不可能な状況において、Anchored CorExは有効な弱教師付き分類手法として機能するか？
• RQ4 複数の関連する疾患（例：肥満とOSA）がデータに存在する場合、本フレームワークはトピック割り当ての曖昧さをどの程度低減できるか？
• RQ5 アンカーワードの導入により、教師なしCorExや従来のベースラインと比較して、下流分類タスクでの性能が向上するか？

主な発見

• アンカーワードとして'obesity'を用いた場合、Anchored CorExは一貫性があり特異な'肥満'トピックを効果的に発見した。このトピックには'acebutolol' や 'klonopin' といった関連薬剤も含まれていた。
• OSAトピックに'obstructive sleep apnea'を追加した第二のアンカーとして用いることで、呼吸器症状やOSA関連薬剤を含む、非常に特異的かつ関連性の高いトピックが得られ、肥満と高い相関を示すことで生じる曖昧さが解消された。
• 20 Newsgroupsデータセットでは、Anchored CorExは'soc.religion.christianity'カテゴリでMacro-F1スコア0.5328、Macro-AUC 0.7445を達成し、教師なしCorEx（F1: 0.45、AUC: 0.7120）およびナイーブベイズベースライン（F1: 0.4638）を上回った。
• 肥満2008チャレンジデータセットでは、根本的に教師なしであるにもかかわらず、Anchored CorExはナイーブベイズベースラインをMacro-F1およびMacro-AUCの両面で上回った。
• アンカーワードの追加によりトピックの整合性が顕著に向上したが、他のトピックの性能に悪影響を及げず、特に高相関な複数の疾患が存在する状況でも同様の効果が得られた。
• 本フレームワークは、アンカーワードの追加・削除によりユーザーが段階的にトピックを改善できる柔軟性と頑健性を示し、解釈可能性の向上に寄与した。