[論文レビュー] Creating Auxiliary Representations from Charge Definitions for Criminal Charge Prediction

Liangyi Kang, Jie Liu+3 more|arXiv (Cornell University)|Nov 12, 2019

Artificial Intelligence in Law参考文献 24被引用数 7

ひとこと要約

本論文は、刑法における正式な罪名定義から補助的事実表現を生成することで、犯罪罪名予測のための新規手法を提案する。2段階のアテンション機構（文レベルで関連する罪名定義を特定し、語レベルでキーワードを対応付ける）を用いることで、特に低リソースな罪名クラスにおいて表現のロバスト性を向上させ、中国語の2つの犯罪事件データセットにおいて顕著なF1スコアの向上を達成した。

ABSTRACT

Charge prediction, determining charges for criminal cases by analyzing the textual fact descriptions, is a promising technology in legal assistant systems. In practice, the fact descriptions could exhibit a significant intra-class variation due to factors like non-normative use of language, which makes the prediction task very challenging, especially for charge classes with too few samples to cover the expression variation. In this work, we explore to use the charge definitions from criminal law to alleviate this issue. The key idea is that the expressions in a fact description should have corresponding formal terms in charge definitions, and those terms are shared across classes and could account for the diversity in the fact descriptions. Thus, we propose to create auxiliary fact representations from charge definitions to augment fact descriptions representation. The generated auxiliary representations are created through the interaction of fact description with the relevant charge definitions and terms in those definitions by integrated sentence- and word-level attention scheme. Experimental results on two datasets show that our model achieves significant improvement than baselines, especially for classes with few samples.

研究の動機と目的

• 非公式な言語使用が原因で生じる事実記述内のクラス内ばらつきを軽減すること。
• 特に訓練データが限られるレアな罪名クラスにおいて、罪名予測のパフォーマンスを向上させること。
• 刑法における正式な罪名定義を外部知識として活用し、事実表現学習の質を向上させること。
• 事実記述と罪名定義の間の文レベルおよび語レベルの相互作用を統合するマルチレベルアテンション機構を設計すること。
• 補助的表現がクラス内ばらつきを低減し、一般化性能を向上させる有効性を検証すること。

提案手法

• モデルは、事実記述との類似度に基づいて、刑法の関連する罪名定義を文レベルのアテンションで特定する。
• 特定された罪名定義からの特徴を統合することで、罪に関連する事実表現を生成する。
• 語レベルのアテンションにより、事実記述内の特定語句を関連する罪名定義の正式語句に一致させる。
• 再帰的ニューラルネットワークが、注目された語句を統合して、罪トークンに関連する事実表現を形成する。
• 最終的な事実表現は、元の事実表現と2つの補助的表現を連結することで作成される。
• モデルは2段階のアテンション機構を採用している：まず関連する罪名を特定し、次に語レベルでの調整を施して意味的一致性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 刑法における正式な罪名定義を組み込むことで、罪名予測における事実表現のロバスト性が向上するか？
• RQ2 提案された二段階アテンション機構は、低リソースな罪名クラスにおけるパフォーマンスにどのように影響するか？
• RQ3 補助的表現は、事実記述内のクラス内ばらつきをどの程度低減するか？
• RQ4 罪名定義の統合は、未知または多様な表現パターンに対する一般化性能を向上させるか？
• RQ5 個々の構成要素（文レベルおよび語レベルのアテンション）は、全体のパフォーマンスにどの程度寄与しているか？

主な発見

• 提案モデルは、強力なベースラインと比較して顕著なF1スコアの向上を達成しており、特に100件未満の訓練サンプルを持つ罪名クラスで顕著である。
• CAIL150Kデータセットでは、補助的表現がなければ多数のレアな罪名でF1スコアが0であったが、補助的表現を導入することで性能が著しく向上した。
• 補助的表現を統合した際、事実表現のクラス内ばらつきは30〜40％低減され、両方の補助的表現を用いた際に最も低いばらつきが達成された。
• アブレーションスタディの結果、文レベルまたは語レベルのアテンション機構を削除するとパフォーマンスが低下し、二段階設計の必要性が確認された。
• アテンション機構は、非公式表現（例：「電動自転車を盗んだ」）を正式な法的用語（例：「窃盗」）に成功裏に一致させ、意味的一致性を向上させた。
• 可視化結果から、モデルが関連する罪名を正しく特定し、キーワード（例：「逮捕を拒否した」を「逮捕を拒否する」に、および「包丁」を「暴力を行使する」に）を適切に一致させていることが確認された。