[논문 리뷰] Fast or Accurate? Governing Conflicting Goals in Highly Autonomous Vehicles

A. Feder Cooper, Karen Levy|arXiv (Cornell University)|2022. 08. 03.

Human-Automation Interaction and Safety인용 수 4

한 줄 요약

이 논문은 자율주행차(AV)의 속도와 정확도 사이의 핵심 공학적 트레이드오프를 규제적 도전 과제로 규명하며, 안전성, 책임성, 형평성 확보를 위해 정책 입안자들이 이 긴장 관계를 규제해야 한다고 주장한다. 저자들은 AV 시스템이 반응성과 정밀도를 어떻게 균형 잡는지 분석함으로써, 제조업체에서 공공으로 권한을 이동시키기 위해 사전 안전 기준과 사후 배상 메커니즘을 도입할 것을 주장한다.

ABSTRACT

The tremendous excitement around the deployment of autonomous vehicles (AVs) comes from their purported promise. In addition to decreasing accidents, AVs are projected to usher in a new era of equity in human autonomy by providing affordable, accessible, and widespread mobility for disabled, elderly, and low-income populations. However, to realize this promise, it is necessary to ensure that AVs are safe for deployment, and to contend with the risks AV technology poses, which threaten to eclipse its benefits. In this Article, we focus on an aspect of AV engineering currently unexamined in the legal literature, but with critical implications for safety, accountability, liability, and power. Specifically, we explain how understanding the fundamental engineering trade-off between accuracy and speed in AVs is critical for policymakers to regulate the uncertainty and risk inherent in AV systems. We discuss how understanding the trade-off will help create tools that will enable policymakers to assess how the trade-off is being implemented. Such tools will facilitate opportunities for developing concrete, ex ante AV safety standards and conclusive mechanisms for ex post determination of accountability after accidents occur. This will shift the balance of power from manufacturers to the public by facilitating effective regulation, reducing barriers to tort recovery, and ensuring that public values like safety and accountability are appropriately balanced.

연구 동기 및 목표

• 자율주행차(AV) 시스템에서 미처 다루어지지 않은 속도와 정확도 사이의 공학적 트레이드오프를 안전성과 책임성의 핵심 요소로 규명하는 것.
• 이 기술적 트레이드오프를 고려하지 않는 법적 및 규제 프레임워크의 부재를 해결하기 위한 것.
• 정책 입안자가 AV 시스템에서 속도-정확도 트레이드오프가 어떻게 구현되는지 평가할 수 있도록 도구를 제공하는 것.
• AV 사고 이후에 적용 가능한 구체적 사전 안전 기준과 확실한 사후 책임 메커니즘을 마련하는 데에 지원하는 것.
• 규제 설계에 공공가치인 안전성과 형평성을 통합함으로써 제조업체에서 공공으로 권한을 재균형화하는 것.

제안 방법

• AV 인식 및 의사결정 시스템의 기술적 아키텍처를 분석하여 속도와 정확도 트레이드오프가 발생하는 지점을 규명한다.
• 실시간 처리 제약 조건이 충돌 회피와 같은 고위험 상황에서 AV의 반응에 어떻게 영향을 미치는지 분석한다.
• 속도-정확도 트레이드오프를 기술적 필연성이 아닌 규제 가능한 변수로 간주하는 규제 프레임워크를 제안한다.
• 정책 입안자가 AV 시스템의 설계 및 운영에서 속도와 정확도를 어떻게 우선순위를 정하는지 평가할 수 있는 개념적 도구를 개발한다.
• 법적 및 기술적 관점을 통합하여, 배포 이전에 적용 가능한 표준(사전 기준)과 사고 이후에 활용 가능한 메커니즘을 제안한다.
• 사례 기반 추론을 활용하여 다양한 트레이드오프 선택이 책임 소재와 자율주행차에 대한 공공 신뢰에 어떻게 영향을 미치는지 설명한다.

실험 결과

연구 질문

• RQ1 AV 시스템에서의 속도-정확도 트레이드오프는 안전성 결과와 사고 책임에 어떤 영향을 미치는가?
• RQ2 AV 공학 결정보다 이 트레이드오프를 규제할 수 있는 메커니즘은 무엇인가?
• RQ3 정책 입안자는 AV 시스템이 공공 안전을 해칠 수 있는 방식으로 속도를 정확도보다 우선시하는지 평가할 수 있는가?
• RQ4 현재 이 트레이드오프에 대한 규제적 관심 부재가 AV 사고 이후 책임성에 어떻게 악영향을 미치는가?
• RQ5 형평성과 안전성과 같은 공공가치를 반영하기 위해 사전 기준과 사후 책임 메커니즘은 어떻게 설계할 수 있는가?

주요 결과

• AV 시스템에서의 속도-정확도 트레이드오프는 안전성과 책임성 결과에 직접적인 영향을 미치는 근본적인 공학적 제약이다.
• 현재의 법적 및 규제 프레임워크는 이 트레이드오프를 고려하지 않아 책임성과 리스크 관리의 격차를 만들어내고 있다.
• 정책 입안자는 AV가 속도-정확도 트레이드오프를 어떻게 구현하는지 평가할 수 있는 도구를 개발할 수 있다.
• 트레이드오프 규제를 기반으로 한 사전 안전 기준은 배포 이전에 위험한 AV 행동의 위험을 줄일 수 있다.
• AV의 의사결정 과정에서 속도와 정확도가 어떻게 균형을 이루었는지 분석을 포함하면, 사후 책임 메커니즘의 결론성이 더 높아질 수 있다.
• 이 트레이드오프에 대한 규제 초점을 재편하면 제조업체에서 공공으로 권한을 이동시켜 자율주행차 배포의 형평성과 투명성을 향상시킬 수 있다.