[論文レビュー] Responsible Facial Recognition and Beyond

Yi Zeng, Enmeng Lu+2 more|arXiv (Cornell University)|Sep 19, 2019

Biometric Identification and Security参考文献 9被引用数 15

ひとこと要約

この論文は、倫理的リスク、規制枠組み、技術的セーフティーメクニズムを分析することで、顔認識および広範なバイオメトリック技術の責任ある開発を提唱している。バイオメトリックシステムが社会的善を実現すると同時に、バイアス、監視、プライバシー侵害などの被害を軽減するため、政策、技術的イノベーション、社会的参加を統合した多分野的アプローチを提言する。

ABSTRACT

Facial recognition is changing the way we live in and interact with our society. Here we discuss the two sides of facial recognition, summarizing potential risks and current concerns. We introduce current policies and regulations in different countries. Very importantly, we point out that the risks and concerns are not only from facial recognition, but also realistically very similar to other biometric recognition technology, including but not limited to gait recognition, iris recognition, fingerprint recognition, voice recognition, etc. To create a responsible future, we discuss possible technological moves and efforts that should be made to keep facial recognition (and biometric recognition in general) developing for social good.

研究の動機と目的

• 顔認識技術がプライバシー、監視、バイアスの懸念を含め、社会に与える二面的影響を検討すること。
• バイオメトリック技術を規制する既存の国家的および国際的政策と規制を分析すること。
• リスクが顔認識に限らず、歩行、虹彩、指紋、音声認識などの他のバイオメトリックモダリティにも広がっていることを強調すること。
• 技術的、倫理的、政策的措置を通じて、バイオメトリックシステムの責任ある開発の枠組みを提言すること。
• 予防的ガバナンスとイノベーションを通じて、悪用を防ぎ、被害を最小限に抑える一方で、バイオメトリック技術を社会的善に活用することを促進すること。

提案手法

• 現在のバイオメトリック認識技術とそれらが共有する倫理的課題を比較分析すること。
• バイオメトリックデータの使用に関連する既存の国家的および国際的政策と規制を調査・統合すること。
• プライバシー侵害、アルゴリズムバイアス、当局による悪用といった、バイオメトリックシステム全体に共通するリスクを特定すること。
• 技術的改善、規制基準、公共の監視を統合した多分野的アプローチを提言すること。
• バイオメトリックシステムの設計および展開における透明性、責任性、公平性の必要性を強調すること。
• 技術者、政策立案者、市民社会が連携して責任あるイノベーションを形作る必要があることを提唱すること。

実験結果

リサーチクエスチョン

• RQ1 顔認識およびその他のバイオメトリック認識技術に関連する主な倫理的・社会的リスクは何か？
• RQ2 既存の国家的および国際的規制は、公共および民間セクターにおけるバイオメトリックデータの使用をどのように扱っているか？
• RQ3 顔認識のリスクは、バイオメトリック認識システム全体の一般的な課題をどれほど代表しているか？
• RQ4 バイオメトリック技術が社会的善を実現するのを保証するための技術的および政策的措置は何か？
• RQ5 ステークホルダーはどのように連携し、プライバシーを保護し、悪用を防ぐ責任あるバイオメトリックシステムを構築できるか？

主な発見

• 顔認識およびその他のバイオメトリック技術は、プライバシー、監視、制度的バイアスに関する顕著なリスクを孕んでいる。
• 規制枠組みは国によって大きく異なり、バイオメトリックデータガバナンスのグローバル基準は存在しない。
• リスクは顔認識に特有のものではなく、歩行、虹彩、指紋、音声認識などのモダリティ間でも共有されている。
• 責任ある開発には、技術的セーフティーメクニズム、透明な政策、包摂的ガバナンスの組み合わせが必要である。
• 悪用を防ぎ、公平な結果を実現するためには、技術者、政策立案者、市民社会の積極的連携が不可欠である。
• 本論文は、バイオメトリック技術が強い倫理的・規制的監視のもとで開発・展開されない限り、社会的善を支援できないと結論づける。