[論文レビュー] Developing Future Human-Centered Smart Cities: Critical Analysis of Smart City Security, Interpretability, and Ethical Challenges

Kashif Ahmad, Majdi Maabreh+4 more|arXiv (Cornell University)|Dec 14, 2020

Ethics and Social Impacts of AI被引用数 11

ひとこと要約

本論文は、AIドリブンスマートシティにおけるセキュリティ、解釈可能性、倫理的課題を批判的に分析し、信頼できる都市型AIシステムの構築には、強固なデータガバナンス、説明可能なAI、文化的に包摂的な倫理を支援する人間中心のデザインが不可欠であると提言する。本研究は、課題間の相互依存関係を特定し、安全で公平かつ透明なスマートシティの今後の開発に向けた研究ギャップを提示する。

ABSTRACT

As the globally increasing population drives rapid urbanisation in various parts of the world, there is a great need to deliberate on the future of the cities worth living. In particular, as modern smart cities embrace more and more data-driven artificial intelligence services, it is worth remembering that technology can facilitate prosperity, wellbeing, urban livability, or social justice, but only when it has the right analog complements (such as well-thought out policies, mature institutions, responsible governance); and the ultimate objective of these smart cities is to facilitate and enhance human welfare and social flourishing. Researchers have shown that various technological business models and features can in fact contribute to social problems such as extremism, polarization, misinformation, and Internet addiction. In the light of these observations, addressing the philosophical and ethical questions involved in ensuring the security, safety, and interpretability of such AI algorithms that will form the technological bedrock of future cities assumes paramount importance. Globally there are calls for technology to be made more humane and human-centered. In this paper, we analyze and explore key challenges including security, robustness, interpretability, and ethical (data and algorithmic) challenges to a successful deployment of AI in human-centric applications, with a particular emphasis on the convergence of these concepts/challenges. We provide a detailed review of existing literature on these key challenges and analyze how one of these challenges may lead to others or help in solving other challenges. The paper also advises on the current limitations, pitfalls, and future directions of research in these domains, and how it can fill the current gaps and lead to better solutions. We believe such rigorous analysis will provide a baseline for future research in the domain.

研究の動機と目的

• スマートシティ応用におけるAIセキュリティ、解釈可能性、倫理的課題の相互作用を検討すること。
• データバイアス、敵対的攻撃、透明性の欠如が、人間の福祉と社会的繁栄にどのように脅かされるかを特定すること。
• 理論的AI倫理と都市技術の実装現場との間のギャップを解消すること。
• イスラム世界や非西洋的視点を含む多様な世界観に基づいた、文化的に包摂的で政策的関連性のあるAI倫理を提唱すること。
• 人間中心の都市環境における、安全で解釈可能かつ倫理的に整合性のあるAIの今後の研究の基盤を確立すること。

提案手法

• スマートシティ文脈におけるAIセキュリティ、解釈可能性、倫理に関する包括的な文献レビューの実施。
• 悪用攻撃（例：回避攻撃、トロイの木馬、データ汚染）と、都市システムにおけるAIの信頼性に与える影響の分析。
• 敵対的入力を検出およびモデルの透明性を向上させるために、説明可能技術（例：LIME、SHAP）の評価。
• データ監査、所有権モデル、バイアス低減などのデータ管理手法を統合し、公平性の向上を図ること。
• 解釈可能性と耐性、倫理的適合性を結びつけるフレームワークの提案により、AIリスクの低減を図ること。
• 特にムスリム多数の国々からの視点を統合し、西洋フレームワークにとどまらないAI倫理議論の多様化を図ること。

実験結果

リサーチクエスチョン

• RQ1 敵対的攻撃は、交通や医療など重要な都市インフラにおけるAIの信頼性と安全性をどのように損なうか？
• RQ2 解釈可能性技術は、敵対的入力の検出をどの程度向上させ、AIシステムへの信頼をどのように高められるか？
• RQ3 スマートシティにおけるAIの導入に際しての主な倫理的・文化的障壁は何か。それらは包摂的政策と設計によってどのように克服できるか？
• RQ4 データバイアスと不十分なデータガバナンスは、人間中心の都市型AI応用において、差別の的結果を生じる要因となるメカニズムは何か？
• RQ5 学際的連携は、AI開発を人間の福祉、社会的正義、制度的ガバナンスと整合させるために、どのような役割を果たせるか？

主な発見

• LIME や SHAP などの解釈可能性技術は、敵対的入力を検出するのに役立つが、攻撃者によっても悪用され、より効果的な攻撃を設計する手段としても利用される可能性がある。
• 学習データセット内のバイアスは、犯罪司法や医療など感受性の高い応用分野で差別的AI結果を生じさせ、既存の社会的不平等を強化する。
• 現在のAI倫理議論は西洋的哲学的フレームワークに支配されており、非西洋的文化的・宗教的文脈においてはその関連性と適用可能性が制限されている。
• 学術的なAI倫理研究と実際の現場実装との間に顕著なギャップが存在し、多くの産業関係者は倫理的原則よりも経済的インcentivesを優先している。
• 監査、所有権モデル、バイアス低減を含む強固なデータガバナンスは、AIドリブン都市サービスにおける公平性と責任の確保に不可欠である。
• セキュリティ、解釈可能性、倫理の統合的連携が重要である：一つの課題に取り組むことは、他の課題に対しても対応を要するため、統合的で人間中心のAI設計の必要性が浮き彫りになる。