[논문 리뷰] Designing Autonomous Vehicles: Evaluating the Role of Human Emotions and Social Norms

Faisal Riaz, Muaz A. Niazi|arXiv (Cornell University)|2017. 08. 06.

Ethics and Social Impacts of AI참고 문헌 5인용 수 3

한 줄 요약

이 논문은 자율주행차(AV)의 사회적 규범 준수 메커니즘을 제안하며, 감정 기반 의사결정, 특히 OCC 모델에서 유래한 공포 감정을 흐린 논리로 정량화한 것을 포함한다. SimConnect를 사용해 NetLogo에서 시뮬레이션된 인공 사회에서의 자율주행차는 충돌 회피 성능에서 무작위 보행 기반 기준선보다 뛰어나, 감정 기반 사회적 규범이 자율주행차의 안전성과 사회적 수용 가능성을 향상시킨다는 것을 입증한다.

ABSTRACT

Humans are going to delegate the rights of driving to the autonomous vehicles in near future. However, to fulfill this complicated task, there is a need for a mechanism, which enforces the autonomous vehicles to obey the road and social rules that have been practiced by well-behaved drivers. This task can be achieved by introducing social norms compliance mechanism in the autonomous vehicles. This research paper is proposing an artificial society of autonomous vehicles as an analogy of human social society. Each AV has been assigned a social personality having different social influence. Social norms have been introduced which help the AVs in making the decisions, influenced by emotions, regarding road collision avoidance. Furthermore, social norms compliance mechanism, by artificial social AVs, has been proposed using prospect based emotion i.e. fear, which is conceived from OCC model. Fuzzy logic has been employed to compute the emotions quantitatively. Then, using SimConnect approach, fuzzy values of fear has been provided to the Netlogo simulation environment to simulate artificial society of AVs. Extensive testing has been performed using the behavior space tool to find out the performance of the proposed approach in terms of the number of collisions. For comparison, the random-walk model based artificial society of AVs has been proposed as well. A comparative study with a random walk, prove that proposed approach provides a better option to tailor the autopilots of future AVS, Which will be more socially acceptable and trustworthy by their riders in terms of safe road travel.

연구 동기 및 목표

• 인간과 유사한 감정적 및 규범적 행동을 통합하여 자율주행차의 사회적 수용 가능성을 높이는 데 도전하는 것.
• 특히 공포 감정이 충돌 회피 시나리오에서 자율주행차의 의사결정을 어떻게 이끌 수 있는지 모델링하는 것.
• 사회적 책임 있는 주행 행동을 모방할 수 있도록 감정 기반 사회적 규범 준수 메커니즘을 개발하는 것.
• 감정 기반 자율주행차가 감정이 없는 무작위 보행 기반 자율주행차보다 안전성과 신뢰성 측면에서 뛰어나다는지 평가하는 것.

제안 방법

• 저자는 자율주행차를 사회적 성격과 감정 상태를 갖춘 인공 에이전트로 모델링하며, OCC 모델을 사용해 공포를 전망 기반 감정으로 정의한다.
• 흐린 논리를 적용해 교통 및 환경 조건에 기반해 공포 감정의 강도를 정량적으로 계산한다.
• SimConnect를 사용해 흐린 감정 값과 NetLogo 시뮬레이션 환경을 연동하여 자율주행차 행동을 제어한다.
• 사회적 규범 준수 메커니즘을 구현하여 자율주행차가 감정 상태와 사회적 규칙에 따라 행동을 조정함으로써 충돌을 방지한다.
• 충돌 빈도를 다수의 시뮬레이션 런 동안 평가하기 위해 NetLogo의 BehaviorSpace 도구를 사용해 인공 사회를 테스트한다.
• 비감정적이고 비규범적인 자율주행차 행동을 나타내는 무작위 보행 모델을 기준선으로 사용하여 비교한다.

실험 결과

연구 질문

• RQ1 공포와 같은 인간 감정은 어떻게 모델링하고 자율주행차 의사결정에 통합되어 더 안전한 주행을 이끌 수 있는가?
• RQ2 감정 기반 자율주행차는 감정이 없는 자율주행차에 비해 충돌 빈도를 얼마나 줄일 수 있는가?
• RQ3 감정 상태에 의해 이끄는 사회적 규범 준수는 자율주행차의 사회적 수용 가능성과 신뢰성 향상에 기여하는가?
• RQ4 흐린 논리의 통합은 자율주행차에서 감정 반응의 정량화 및 적용을 어떻게 향상시키는가?

주요 결과

• 제안된 감정 기반 자율주행차 시스템은 무작위 보행 기준선 모델 대비 유의미하게 낮은 충돌 빈도를 기록했다.
• 흐린 논리의 사용은 공포 감정의 효과적인 정량화를 가능하게 하여 세밀하고 맥락에 민감한 자율주행차 반응을 가능케 하였다.
• 감정 상태에 의해 이끄는 사회적 규범 준수 덕분에 자율주행차의 인공 사회는 안전성 성능 향상을 보였다.
• 시뮬레이션 결과는 감정과 사회적 규범에 따라 이끄는 자율주행차가 무작위 행동을 사용하는 자율주행차보다 더 신뢰성 있고 안정적인 것으로 확인되었다.