[논문 리뷰] Human-In-The-Loop Machine Learning for Safe and Ethical Autonomous Vehicles: Principles, Challenges, and Opportunities

Yousef Emami, Lúıs Almeida외 3명|arXiv (Cornell University)|2024. 08. 22.

Autonomous Vehicle Technology and Safety인용 수 4

한 줄 요약

이 논문은 인간 전문 지식을 교육 과정 학습, 강화 학습, 그리고 능동 학습에 통합함으로써 안전하고 윤리적인 자율주행차를 위한 인간-기계 협업 기반 기계학습(HITL-ML)을 제안한다. 인간의 감시를 통해 모델의 강건성, 윤리적 의사결정 능력 및 대중의 신뢰를 향상시키며, 안전성, 보안성, 규제 프레임워크 분야에서 주요 기여를 이룬다.

ABSTRACT

Rapid advances in Machine Learning (ML) have triggered new trends in Autonomous Vehicles (AVs). ML algorithms play a crucial role in interpreting sensor data, predicting potential hazards, and optimizing navigation strategies. However, achieving full autonomy in cluttered and complex situations, such as intricate intersections, diverse sceneries, varied trajectories, and complex missions, is still challenging, and the cost of data labeling remains a significant bottleneck. The adaptability and robustness of humans in complex scenarios motivate the inclusion of humans in the ML process, leveraging their creativity, ethical power, and emotional intelligence to improve ML effectiveness. The scientific community knows this approach as Human-In-The-Loop Machine Learning (HITL-ML). Towards safe and ethical autonomy, we present a review of HITL-ML for AVs, focusing on Curriculum Learning (CL), Human-In-The-Loop Reinforcement Learning (HITL-RL), Active Learning (AL), and ethical principles. In CL, human experts systematically train ML models by starting with simple tasks and gradually progressing to more difficult ones. HITL-RL significantly enhances the RL process by incorporating human input through techniques like reward shaping, action injection, and interactive learning. AL streamlines the annotation process by targeting specific instances that need to be labeled with human oversight, reducing the overall time and cost associated with training. Ethical principles must be embedded in AVs to align their behavior with societal values and norms. In addition, we provide insights and specify future research directions.

연구 동기 및 목표

• 희귀하거나 문화적으로 특수한 행동을 포함하지 않을 수 있는 훈련 데이터로 인해 복잡한 실제 도로 주행 환경에서 완전 자율 기계학습의 한계를 해결한다.
• 교육 과정 학습, 강화 학습, 능동 학습 워크플로우에 인간 피드백을 통합하여 모델의 일반화 능력과 안전성을 향상시킨다.
• 윤리적 사고와 맥락 인식을 인간-기계 협업 통합을 통해 사회적 기준과 일치시키기 위해 자율주행차의 행동을 윤리적으로 조율한다.
• 인간 감시를 지원하면서도 편향을 최소화하고 규제 준수를 보장하는 보안성 있고 책임감 있으며 투명한 HITL-ML 시스템을 개발한다.

제안 방법

• 복잡한 도심 교차로에서의 복잡한 주행 시나리오로 점진적으로 복잡도를 높이는 교육 과정 학습(CL)을 적용하여 자율주행 모델을 훈련시킨다.
• 보상 함수 조정, 행동 주입, 상호작용 학습을 활용한 인간-기계 협업 강화 학습(HITL-RL)을 도입하여 인간 피드백을 통한 정책 학습을 정교화한다.
• 불확실하거나 모호한 데이터 샘플을 우선적으로 인간의 주석 처리하도록 하는 능동 학습(AL)을 적용하여 레이블링 비용을 절감하고 모델 효율성을 향상시킨다.
• 보상 함수와 행동 정책에 인간이 정의한 가치와 규범을 통합하여 자율주행차 의사결정에 윤리 원칙을 통합한다.
• 세션 탈취 및 변조를 방지하기 위해 엔드 투 엔드 암호화, 이중 인증, 그리고 후량자기 암호화(예: 린 학습 오류)를 포함한 강력한 보안 메커니즘을 구현한다.
• 인간 운영자 책임, 법적 책임 보장을, 개인정보 보호를 확보하기 위해 인간 운영자 역할, 간섭 프로토콜, 데이터 책임성을 정의하는 규제 및 문서화 프레임워크를 수립한다.

실험 결과

연구 질문

• RQ1 어떻게 인간-기계 협업 메커니즘이 복잡한 실제 도로 주행 환경에서 자율주행차의 안전성과 적응 능력을 향상시킬 수 있는가?
• RQ2 자율주행차에서 피할 수 없는 사고 상황에서 인간 피드백은 윤리적 의사결정을 어떻게 향상시키는가?
• RQ3 능동 학습과 교육 과정 학습은 자율주행 분야에서 데이터 레이블링 비용을 어떻게 줄이고 모델 성능을 향상시킬 수 있는가?
• RQ4 HITL-ML 파이프라인에서 인간 운영자와 자율주행 시스템을 사이버 위협으로부터 보호하기 위해 필요한 보안 및 개인정보 보호 메커니즘은 무엇인가?
• RQ5 HITL-ML 기반 자율주행차에서 책임감, 투명성, 윤리 준수를 확보하기 위해 규제 프레임워크는 어떻게 설계되어야 하는가?

주요 결과

• HITL-RL은 특히 낯선 교통 행동과 같은 극단적인 경우에서 보상 함수의 인간-기계 협업 보정을 통해 안전성 향상과 대중 신뢰를 크게 향상시킨다.
• 능동 학습은 정보성 샘플을 우선적으로 인간 주석 처리하도록 하여 객체 검출, 이상 탐지, 의미 맵핑 분야에서 레이블링 비용 절감과 성능 향상을 달성한다.
• 교육 과정 학습은 간단한 주행 작업에서 복잡한 주행 작업으로 훈련을 체계화함으로써 모델 수렴성과 성능을 향상시키며, 다양한 환경에서의 일반화 능력을 향상시킨다.
• 적절히 검증된 인간 입력은 비표준 교통 규칙이나 문화적 주행 규범이 있는 지역에서 자율주행차의 장면 이해 및 자기 인식 능력을 향상시킨다.
• 세션 탈취를 방지하고 안정적인 인간-기계 상호작용을 확보하기 위해 후량자기 암호화 및 상호 인증을 포함한 강력한 보안 프로토콜이 필수적이다.
• 인간 운영자 역할, 간섭 프로토콜, 데이터 책임성을 정의하는 규제 프레임워크는 법적 준수와 HITL-ML 기반 자율주행차의 대중 수용에 있어 핵심적이다.