[論文レビュー] Sex Trafficking Detection with Ordinal Regression Neural Networks

Longshaokan Wang, Eric B. Laber+2 more|arXiv (Cornell University)|Aug 15, 2019

Sex work and related issues参考文献 34被引用数 10

ひとこと要約

本論文は、語彙埋め込みとt-SNEを活用して売買春用語の語彙を拡張することで、escort広告における売買春検出を向上させる順序回帰ニューラルネットワーク（ORNN）を提案する。修正されたコスト関数により単調性違反を低減し、予測の解釈性を向上させることで、Trafficking-10Kデータセットで最先端の性能を達成した。

ABSTRACT

Sex trafficking is a global epidemic. Escort websites are a primary vehicle for selling the services of such trafficking victims and thus a major driver of trafficker revenue. Many law enforcement agencies do not have the resources to manually identify leads from the millions of escort ads posted across dozens of public websites. We propose an ordinal regression neural network to identify escort ads that are likely linked to sex trafficking. Our model uses a modified cost function to mitigate inconsistencies in predictions often associated with nonparametric ordinal regression and leverages recent advancements in deep learning to improve prediction accuracy. The proposed method significantly improves on the previous state-of-the-art on Trafficking-10K, an expert-annotated dataset of escort ads. Additionally, because traffickers use acronyms, deliberate typographical errors, and emojis to replace explicit keywords, we demonstrate how to expand the lexicon of trafficking flags through word embeddings and t-SNE.

研究の動機と目的

• 数百万件のオンライン広告から売買春関連のescort広告をスケーラブルかつ正確に同定するための手法を開発すること。
• 非パラメトリック順序回帰における一貫性のない予測の課題に、修正されたコスト関数を用いて対処すること。
• 語彙埋め込みとt-SNEを用いて、絵文字、略語、タイポなどのトラフィックインジケーターの語彙を拡張すること。
• 上位でフラグが立った広告の定性的分析を通じて、反売買春専門家に実用的なインサイトを提供すること。
• モデルとコードをオープンソース化し、法執行部門や今後の研究を支援すること。

提案手法

• モデルは、escort広告のテキスト上で訓練されたスキップグラム語彙埋め込みモデルを用い、語を密なベクトル表現に変換する。
• ゲート付きフィードバック再帰的ニューラルネットワーク（GF-RNN）が語ベクトルを逐次処理し、テキスト内の文脈的依存関係を捉える。
• 修正されたコスト関数を備えた順序回帰層により、予測の単調性が強制され、非パラメトリック順序回帰で一般的な一貫性の欠如を低減する。
• コスト関数には、単調性違反を防ぐためのペナルティ項が含まれており、計算コストが著しく増加することなく解釈性を向上させる。
• t-SNEを用いて学習済みの絵文字埋め込みを可視化し、意味的クラスタが明らかになった。これにより、新たな売買春関連キーワードの特定が可能となった。
• バッチ正則化、ドロップアウト、リサイクル接続などの正則化技術を用いて、モデルの汎化性能と学習安定性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 順序回帰出力を備えた深層ニューラルネットワークは、以前のモデルと比較して、escort広告における売買春検出精度を向上させることができるか？
• RQ2 修正されたコスト関数は、テキスト分類における非パラメトリック順序回帰の単調性違反をどのように低減できるか？
• RQ3 語彙埋め込みとt-SNEのような生テキストデータに対する非教師あり学習は、絵文字や暗号語を含む新たな売買春関連キーワードをどの程度特定できるか？
• RQ4 上位でフラグが立った広告に見られるパターンは、反売買春専門家が検出ヒューリスティクスを検証または改善するためにどのように役立つか？
• RQ5 モデルのアーキテクチャは、テキストと画像の両方のデータを用いたマルチモーダル設定に拡張可能か？

主な発見

• 提案されたORNNは、Trafficking-10Kデータセットで最先端の性能を達成し、Human Trafficking Deep Networkを含む以前のモデルを著しく上回った。
• 修正されたコスト関数は、単調性違反を効果的に緩和し、計算コストが著しく増加することなく、モデルの解釈性を向上させた。
• 絵文字埋め込みのt-SNE可視化により、意味的クラスタが明らかになった。たとえば、ハート、花、キャンディーの絵文字が既知の売買春インジケーターの近くに集まっていた。
• パールドール、グレープ、ストロベリーの絵文字が、既知のフラグ（チェリー、ラollipop）の近くにクラスタリングされた。これは、これらも10代の被害者を示す可能性があり、語彙の更新に追加すべきであることを示唆している。
• モデルの上位予測には、暗号語や意図的なスペルミスといった一貫した言語的パターンが見られた。反売買春専門家はこれを用いて、検出ルールを洗練できる。
• 著者らは、GitLab上で訓練済みモデルとコードを公開しており、法執行部門や研究者が再現・実運用に活用できるようにした。