[論文レビュー] CD-CNN: A Partially Supervised Cross-Domain Deep Learning Model or Urban Resident Recognition

Jingyuan Wang, Xu He+5 more|arXiv (Cornell University)|Apr 26, 2018

Human Mobility and Location-Based Analysis参考文献 22被引用数 14

ひとこと要約

本稿では、移動人口と都市住民を識別するために、スマートフォンの信号データと不完全なアンケートラベルを活用する部分的教師ありクロスドメインディープラーニングモデル、CD-CNNを提案する。行動を位置と通信の2つのドメインに分解し、3段階のトレーニングプロセス（事前学習、相互学習、ファインチューニング）を経る共同畳み込みニューラルネットワークを用いることで、無錫市において高い予測精度を達成し、移住者の行動分析を詳細に行える。

ABSTRACT

Driven by the wave of urbanization in recent decades, the research topic about migrant behavior analysis draws great attention from both academia and the government. Nevertheless, subject to the cost of data collection and the lack of modeling methods, most of existing studies use only questionnaire surveys with sparse samples and non-individual level statistical data to achieve coarse-grained studies of migrant behaviors. In this paper, a partially supervised cross-domain deep learning model named CD-CNN is proposed for migrant/native recognition using mobile phone signaling data as behavioral features and questionnaire survey data as incomplete labels. Specifically, CD-CNN features in decomposing the mobile data into location domain and communication domain, and adopts a joint learning framework that combines two convolutional neural networks with a feature balancing scheme. Moreover, CD-CNN employs a three-step algorithm for training, in which the co-training step is of great value to partially supervised cross-domain learning. Comparative experiments on the city Wuxi demonstrate the high predictive power of CD-CNN. Two interesting applications further highlight the ability of CD-CNN for in-depth migrant behavioral analysis.

研究の動機と目的

• 高コストなデータ収集と希なサンプリングのため、移住者行動研究において個人レベルの行動データが不足している問題に対処する。
• 従来のアンケート調査の限界を克服し、行動特徴としてスマートフォン信号データを統合する。
• アンケートからの不完全なラベルと豊富なモバイルデータを効果的に活用する部分的教師あり学習フレームワークを開発する。
• クロスドメインディープラーニングを用いて、部分的監督のもとで個々の移住者行動を細分化して分析可能にする。
• 限られたラベルデータのもとで、異なる都市やデータソース（ドメイン）に一般化可能なモデルを設計する。

提案手法

• CD-CNNは、スマートフォンデータを2つの行動ドメインに分解する：位置（空間的移動パターン）と通信（通話およびメッセージ活動）。
• 位置ドメインと通信ドメインから独立して特徴を抽出するために、2つの別個の畳み込みニューラルネットワーク（CNN）を採用する。
• 2つのドメインからの表現を整列・統合し、共同学習を向上させるために、特徴バランス化スキームを適用する。
• 3段階のトレーニングアルゴリズム（事前学習、相互学習、ファインチューニング）を用いる。特に相互学習が、未ラベルデータを活用する上で重要である。
• 相互学習段階では、未ラベルサンプル上でお互いのネットワークが生成した偽ラベルを用いて、2つのドメイン特化ネットワークが相互に学習を進める。
• 共同学習フレームワークにより、部分的監督とドメインシフトの下でも、モデルがドメイン間で一般化可能である。

実験結果

リサーチクエスチョン

• RQ1 不完全なアンケートラベルとモバイル信号データのみを用いて、部分的教師ありディープラーニングモデルが都市住民（移住者対都市住民）を効果的に識別できるか？
• RQ2 行動を位置と通信のドメインに分解することで、識別性能がどのように向上するか？
• RQ3 相互学習戦略は、ラベルが少ない状況下でモデル性能をどの程度向上させるか？
• RQ4 ドメインシフトと不完全ラベリングの下でも、CD-CNNモデルは異なる都市的文脈に一般化可能か？
• RQ5 分類の単純な結果を超えて、モデルが学習した表現からどのような移住者行動のインサイトが得られるか？

主な発見

• CD-CNNは、不完全なラベルがある中でも無錫市における都市住民の分類において高い予測精度を達成し、優れた性能を示した。
• ドメイン特化CNNと特徴バランス化を組み合わせた共同学習フレームワークは、単一ドメインまたは非共同モデルよりも顕著に分類性能を向上させた。
• 相互学習ステップにより、部分的教師あり設定下でのモデル学習効率と精度が著しく向上した。
• モデルは二値分類をはるかに超えた詳細な行動分析を可能にし、移住者の移動行動および通信行動における意味のあるパターンを明らかにした。
• 比較実験により、CD-CNNは無錫データセットにおいてベースライン手法よりも優れた予測能力を示した。
• 2つの実世界の応用事例により、モデルの実用性が裏付けられ、移住者の移動頻度や社会的相互作用パターンといった、微細な行動的特徴を解明できることが示された。