[논문 리뷰] Responsible Urban Intelligence: Towards a Research Agenda

Rui Cao, Qili Gao외 1명|arXiv (Cornell University)|2022. 08. 07.

Smart Cities and Technologies인용 수 1

한 줄 요약

이 논문은 도시 문제, AI 및 지리정보 대량 데이터와 같은 유효 기술, 그리고 투명성, 공정성, 친환경성이라는 세 가지 핵심 책임을 통합하는 개념적 프레임워크인 책임 있는 도시 지능(RUI)을 제안한다. 이는 네 단계로 구성된 구현 과정을 포함한다. 이 연구는 도시의 지속 가능한 발전 목표(SDGs)를 지원하기 위해 데이터/모델의 투명성, 성능-공정성 간 상충 관계, 지속 가능한 AI에 관한 연구 의제를 제시한다.

ABSTRACT

Acceleration of urbanisation is posing great challenges to sustainable development. Growing accessibility to big data and artificial intelligence (AI) technologies have revolutionised many fields and offered great potential for addressing pressing urban problems. However, using these technologies without explicitly considering responsibilities would bring new societal and environmental issues. To maximise the benefits of big data and AI while minimising potential issues, we envisage a conceptual framework of Responsible Urban Intelligence (RUI) and advocate an agenda for action. We first define RUI as consisting of three major components including urban problems, enabling technologies, and responsibilities; then introduce transparency, fairness, and eco-friendliness as the three dimensions of responsibilities which naturally link with the human, space, and time dimensions of cities; and further develop a four-stage implementation framework for responsibilities as consisting of solution design, data preparation, model building, and practical application; and finally present a research agenda for RUI addressing challenging issues including data and model transparency, tension between performance and fairness, and solving urban problems in an eco-friendly manner.

연구 동기 및 목표

• 규제되지 않은 AI 및 대량 데이터 사용이 도시 환경에서 사회적 불평등과 환경 피해를 악화시킬 수 있는 위험 증가를 해결하기 위해.
• 지속 가능한 발전 목표(SDGs)와 부합하는 데이터 기반 기술을 활용한 도시 문제 해결을 위한 체계적이고 책임감 있는 접근 방식을 수립하기 위해.
• 도시 인포매틱스에서 기술적 잠재력과 윤리적 책임 간 격차를 해소하기 위해 책임감, 투명성, 지속 가능성을 도시 AI 시스템에 통합함으로써.
• 다학제적 연구와 유효 혁신을 통해 인간 중심적이고 공정하며 환경에 친화적인 도시 발전을 촉진하기 위해.
• 투명성, 공정성, 에너지 효율성에 중점을 둔 미래의 도시를 위한 유효 AI 연구를 이끄는 연구 의제를 개발하기 위해.

제안 방법

• 도시 문제, 유효 기술(예: AI, 지리정보시스템, 데이터 마이닝), 책임(투명성, 공정성, 친환경성)이라는 세 가지 구성 요소로 구성된 개념적 프레임워크를 제안한다.
• 해결책 설계, 데이터 준비, 모델 구축, 실용적 적용의 네 단계로 구성된 구현 프레임워크를 도입하며, 각 단계는 책임 원칙에 따라 이행된다.
• 책임의 세 차원을 도시 시스템의 인간(공정성), 공간(투명성), 시간(친환경성) 차원과 연계한다.
• 모델 설명 가능성, 편향 완화, 에너지 효율적인 계산을 모델 구축 단계의 핵심 기술적 요구사항으로 강조한다.
• 열린 도시 데이터, 시민 참여, 영역별 컴퓨팅 인프라를 통해 유효한 구현를 지원한다.
• 단계 간 반복적 피드백 루프를 통해 솔루션을 동적으로 개선하고 윤리적 및 실용적 목표와의 일치를 보장한다.

실험 결과

연구 질문

• RQ1 투명성, 공정성, 친환경성은 어떻게 체계적으로 데이터 기반 도시 지능 시스템에 통합될 수 있는가?
• RQ2 도시 AI 응용에서 높은 성능을 유지하면서도 모델 설명 가능성을 확보하는 데 있어 핵심 과제는 무엇인가?
• RQ3 특히 소외되거나 약자로 간주되는 도시 공동체에서 모델 성능와 공정성 간의 갈등을 어떻게 완화할 수 있는가?
• RQ4 기능성 손실 없이 대규모 AI 모델의 환경적 영향을 줄일 수 있는 전략은 무엇인가?
• RQ5 시민 참여와 포괄적 표현은 도시 AI 시스템의 설계 및 구현 과정에 어떻게 통합될 수 있는가?

주요 결과

• RUI 프레임워크는 윤리적이고 지속 가능한 원칙을 도시 AI 응용에 통합하기 위한 체계적이고 다학제적 접근을 제공한다.
• 공공 신뢰와 책임성 확보를 위해 데이터 및 모델 설계의 투명성이 필수적이지만, 데이터 품질, 개인정보 보호 우려, 모델의 투명성 부족으로 인해 여전히 제한되어 있다.
• 특히 교통 또는 주거 배정과 같은 고위험 도시 응용 분야에서 정확도와 해석 가능성 간 상당한 상충 관계가 존재한다.
• 도시 AI의 공정성은 표준화된 측정 기준 부족과 데이터 및 의사결정 과정에서 소외된 집단의 부재로 인해 저해된다.
• 현재의 딥 러닝 모델은 탄소 배출에 상당한 기여를 하고 있어, 경량 아키텍처 및 최적화된 영역별 컴퓨팅 인프라의 필요성이 강조된다.
• 구현 단계 간 반복적 피드백은 솔루션의 신뢰성 향상과 AI 라이프사이클 전반에 걸친 윤리적 책임과의 일치를 보장한다.