[論文レビュー] Lightweight and Unobtrusive Data Obfuscation at IoT Edge for Remote Inference

Dixing Xu, Mengyao Zheng+4 more|arXiv (Cornell University)|Dec 20, 2019

Privacy-Preserving Technologies in Data参考文献 32被引用数 6

ひとこと要約

本稿では、リモートディープラーニング推論における生の推論データのプライバシーを保護するため、IoTエッジデバイスで軽量で非干渉的なニューラルネットワークベースのデータオブフスケーション技術（ObfNet）を提案する。送信前に小規模で可逆でないニューラル変換を適用することで、バックエンドの推論精度を維持しつつ、元のデータを効果的に隠蔽する。エッジデバイスにおける計算およびエネルギー消費を最小限に抑え、高帯域幅ネットワークにおける遅延への影響も無視できるほど小さい。

ABSTRACT

Executing deep neural networks for inference on the server-class or cloud backend based on data generated at the edge of Internet of Things is desirable due primarily to the limited compute power of edge devices and the need to protect the confidentiality of the inference neural networks. However, such a remote inference scheme incurs concerns regarding the privacy of the inference data transmitted by the edge devices to the curious backend. This paper presents a lightweight and unobtrusive approach to obfuscate the inference data at the edge devices. It is lightweight in that the edge device only needs to execute a small-scale neural network; it is unobtrusive in that the edge device does not need to indicate whether obfuscation is applied. Extensive evaluation by three case studies of free spoken digit recognition, handwritten digit recognition, and American sign language recognition shows that our approach effectively protects the confidentiality of the raw forms of the inference data while effectively preserving the backend's inference accuracy.

研究の動機と目的

• エッジデバイスがクラウドバックエンドに生のデータを送信するリモート推論システムにおけるプライバシー漏洩を解決すること。
• バックエンドモデルの精度を損なわせることなく、生の推論データの機密性を保護すること。
• リソース制限のあるIoTエッジデバイスに最小限の計算およびエネルギー消費をもたらすソリューションを設計すること。
• 明示的なシグナル送信や既存の推論パイプラインの変更を必要としない、非干渉的なオブフスケーションメカニズムを確保すること。
• 音声、筆跡、および手話認識を含む多様な実世界の応用分野において、アプローチを評価すること。

提案手法

• エッジで小さなスケールのニューラルネットワーク、ObfNetを導入し、送信前に生の推論データをオブフスケート形式に変換する。
• ObfNetは、バックエンド推論モデル（InfNet）における元のデータの分類予測を維持するように学習され、ほとんどの入力に対して I(O(x)) ≈ I(x) が成り立つようにする。
• オブフスケーションは非可逆的かつ非線形的であり、好奇なバックエンドが元のデータを復元することが困難になる。
• シグナル送信やバックエンド推論パイプラインの変更なしに動作するため、非干渉性が保証される。
• 自由な発話音声認識（FSD）、MNIST筆跡認識、およびアメリカ手話（ASL）認識の3つの実世界の事例を用いて評価する。
• 性能は、推論精度の維持、エネルギー消費、実行時間、データ送信オーバーヘッドの観点から測定される。

実験結果

リサーチクエスチョン

• RQ1 エッジに軽量なニューラルオブフスケーションネットワークを導入することで、リモートディープラーニング推論の精度を保ちながら、生のデータプライバシーを保護できるか？
• RQ2 提案されたオブフスケーション手法は、エッジデバイスにおける計算およびエネルギー消費の観点でどの程度のオーバーヘッドをもたらすか？
• RQ3 好奇なバックエンドが、元のデータの再構築や推論をどの程度防げるか？
• RQ4 リモート推論の遅延およびエネルギー効率は、エッジデバイスでのローカル推論と比べてどうか？
• RQ5 音声、画像、ジェスチャー認識といった多様なセンシングモダリティに、この手法は効果的に適用可能か？

主な発見

• FSD、MNIST、ASLの3つの事例すべてにおいて、生のデータがオブフスケートされても、バックエンドの推論精度が保持されている。
• Coral TPUでは、FSD、MNIST、ASLの各サンプルあたり、エネルギー消費はそれぞれ20 mJ、2 mJ、9.5 mJにとどまり、極めて低いエネルギーオーバーヘッドを示した。
• Jetsonでの1サンプルあたりの推論時間は、FSDで14.318 ms、MNISTで8.351 ms、ASLで100.467 msであり、高性能なエッジハードウェアでも低遅延であることが確認された。
• データ送信時間は無視できるほど短く、15 Mbpsの帯域幅でも1 ms未満であったため、ネットワーク速度が15 Mbpsを超えると、リモート推論がローカル推論よりも速くなった。
• 高帯域幅接続（例：4G > 100 Mbps）を用いる場合、リモート推論はエッジデバイスでのローカル推論よりも総合的な遅延が低く、エネルギー効率が優れていた。
• ボランティアは耳でオブフスケートされた音声を区別できず、視覚的検査でも元の画像の有意義な回復が確認されなかったため、強力なプライバシー保護が実証された。