[論文レビュー] A Map of Knowledge.

Zachary A. Pardos, Andrew Nam|arXiv (Cornell University)|Nov 19, 2018

Topic Modeling参考文献 1被引用数 5

ひとこと要約

本稿では、学生の受講履歴を用いた行動データからドメイン知識を抽出する手法を提案する。学生の受講パターンをもとに大学の授業のベクトル表現を学習することで、受講行動から導かれた知識マップを用いて、88%の授業属性と40%の関係的類似性（アナロジー）を、カリキュラム記述よりも高い意味的整合性で回復した。これは、行動データが豊富で解釈可能な知識構造を明らかにできることを示している。

ABSTRACT

Knowledge representation has gained in relevance as data from the ubiquitous digitization of behaviors amass and academia and industry seek methods to understand and reason about the information they encode. Success in this pursuit has emerged with data from natural language, where skip-grams and other linear connectionist models of distributed representation have surfaced scrutable relational structures which have also served as artifacts of anthropological interest. Natural language is, however, only a fraction of the big data deluge. Here we show that latent semantic structure, comprised of elements from digital records of our interactions, can be informed by behavioral data and that domain knowledge can be extracted from this structure through visualization and a novel mapping of the literal descriptions of elements onto this behaviorally informed representation. We use the course enrollment behaviors of 124,000 students at a public university to learn vector representations of its courses. From these behaviorally informed representations, a notable 88% of course attribute information were recovered (e.g., department and division), as well as 40% of course relationships constructed from prior domain knowledge and evaluated by analogy (e.g., Math 1B is to Math H1B as Physics 7B is to Physics H7B). To aid in interpretation of the learned structure, we create a semantic interpolation, translating course vectors to a bag-of-words of their respective catalog descriptions. We find that the representations learned from enrollments resolved course vectors to a level of semantic fidelity exceeding that of their catalog descriptions, depicting a vector space of high conceptual rationality. We end with a discussion of the possible mechanisms by which this knowledge structure may be informed and its implications for data science.

研究の動機と目的

• 学生の授業受講行動データが、学術的知識の意味的で解釈可能な表現を学ぶ基盤として機能するかどうかを検討すること。
• 受講パターンから導かれる潜在的意味的構造が、ドメイン固有の授業属性や関係性をどれだけ回復できるかを調査すること。
• 授業の自然言語記述にマッピングすることで、抽象的なベクトル表現を解釈する手法を開発すること。
• 行動に裏付けられたベクトル空間の意味的整合性と忠実度を、従来のテキスト記述と比較して評価すること。

提案手法

• 学生の受講パターンを行動的シグナルとして用いて、大学の授業の密なベクトル表現を学習する。
• スキャン・グラム風のモデルを適用し、授業の同時発生パターンをモデル化することで、分散表現を生成する。
• 公式カリキュラム記述の単語の袋（bag-of-words）表現に授業ベクトルをマッピングすることで、意味的補間を実現する。
• 属性回復（例：学部、専攻）とアナロジーに基づく推論タスクを通じて、学習済み表現の品質を評価する。
• 得られたベクトル空間を可視化し、授業の概念的構造と関係的整合性を解釈する。
• 事前に得られたドメイン知識に基づいて、学習済み表現を用いて授業の関係性を再構築し、アナロジータスクによる評価を実施する。

実験結果

リサーチクエスチョン

• RQ1 授業受講行動の行動データを用いて、学術的知識における意味的・関係的構造を捉えるベクトル表現を学習できるか？
• RQ2 これらの行動に裏付けられた表現が、学部や専攻といった既知の授業属性をどの程度回復できるか？
• RQ3 授業の系列を含むアナロジータスクを通じて測定した場合、学習済み表現がどの程度関係的推論を支援できるか？
• RQ4 行動に裏付けられたベクトル表現の意味的忠実度は、カリキュラム記述のテキスト記述と比べてどうか？
• RQ5 生の受講行動から、合理的で解釈可能な知識構造がどのようにして出現するのか、そのメカニズムは何か？

主な発見

• 行動に裏付けられたベクトル表現から、88%の授業属性情報（例：学部、専攻）が回復された。
• アナロジーに基づく推論タスクで40%の成功率を達成し、特にハイレベル授業と通常授業の関係性を予測した。
• 意味的補間手法により、授業ベクトルを自然言語記述にマッピングした結果、元のカリキュラムテキストよりも高い概念的整合性が示された。
• 受講行動から学習されたベクトル空間は高い意味的忠実度を示し、授業の意味を捉える点でカリキュラム記述を上回った。
• 学習済み構造の可視化により、学術的ドメイン知識と整合的な一貫性のあるクラスターや関係的パターンが明らかになった。
• 結果から、明示的なテキストアノテーションに依存せずに、行動データそのものから解釈可能で知識豊富な表現が得られることを示唆している。