[논문 리뷰] From Human Negotiation to Agent Negotiation: Personal Mobility Agents in Automated Traffic

Pascal Jansen|arXiv (Cornell University)|2026. 03. 01.

Human-Automation Interaction and Safety인용 수 0

한 줄 요약

논문은 자동화된 트래픽에서 사용자 대리인 역할을 하는 개인 모빌리티 에이전트를 제안하며, 사용자를 대신해 실시간 협상을 처리하고 상호작용을 순간별 제어에서 고수준 위임 및 정책 감독으로 전환합니다.

ABSTRACT

Conflicts between user preferences and automated system behavior already shape the experience of automated mobility. For example, a passenger may prefer assertive driving, yet the vehicle slows down early to follow a conservative policy or yield to other actors. Similar conflicts arise at merges, crossings, or right-of-way situations, where users must accept opaque decisions or attempt to negotiate through interfaces not designed for continuous, multi-actor relationships. This position paper argues that such approaches do not scale as mobility becomes more heterogeneous and automated. Instead, it proposes personal mobility agents that act as proxies for users, encode preferences such as comfort and safety margins, and negotiate traffic behavior with other agents under shared safety rules. The central idea is a shift from moment-to-moment user negotiation interfaces to delegation and oversight interfaces, in which proxy agents manage real-time conflicts while users can shape high-level policies and preferences.

연구 동기 및 목표

• 이종 자동화 트래픽에서 직접 사용자의 협상이 비현실적이 되는 상황에서 확장 가능한 상호작용을 동기화하기.
• 사용자 선호도와 위임 정책을 인코딩하는 개인 모빌리티 에이전트를 도입하기.
• 공유 안전 규칙하에서 작동하는 대리인 기반 협상 모델을 개요화하기.
• 대리인 매개 상호작용에서 설계 긴장, 안전성, 투명성 및 책임성에 대해 논의하기.

제안 방법

• 사용자 선호도 학습 및 에이전시 AI 능력을 포함한 개인 모빌리티 에이전트의 기술적 기초를 설명하기.
• 선호도 모델링, 트래픽 협상, 인터페이스 관리의 핵심 기능 구성 요소 정의하기.
• 설정, 온라인 적응, 장기 정책 업데이트의 에이전트 수명주기를 개요화하기.
• 선호 정렬을 안전 제약 하에서 달성하는 설계 긴장, 조작 위험, 혼합 트래픽 확장성, 투명성 등을 식별하기.

실험 결과

연구 질문

• RQ1 자동화된 트래픽에서 프록시 기반 협상을 구현하기 위해 필요한 설계 고려사항과 메커니즘은 무엇인가?
• RQ2 안전 및 법적 제약을 존중하면서 사용자 선호도와 위임 정책을 어떻게 모델링해야 하는가?
• RQ3 에이전트–에이전트 및 에이전트–인간 상호작용을 어떻게 설계하면 이해 가능하고 신뢰할 수 있으며 책임을 질 수 있는가?
• RQ4 혼합 트래픽에서 프록시 협상 확장의 도전과 결과에 대한 책임 귀속은 무엇인가?
• RQ5 사용자 에이전시와 수용을 유지하기 위해 위임과 투명성을 어떻게 균형 있게 다루어야 하는가?

주요 결과

• 프록시 기반 협상은 자율적으로 상호작용을 처리하여 인지 부담을 줄이고 자동화 모빌리티의 수용성을 향상시킬 수 있다.
• 선호도와 안전/법적 제약의 정렬, 사용자 에이전시 유지, 투명성 및 책임성 보장 사이에 상당한 설계 긴장이 존재한다.
• 지속적 프록시는 다에이전트 협상에서 조작, 위임 신뢰성, 책임 귀속 등의 거버넌스 문제를 제기한다.
• 혼합 트래픽 환경에서 프록시는 다른 행위자가 에이전트를 갖지 않을 때 행위 기반 추론으로 원활하게 축소되어야 한다.
• 투명성 전략(최소한의 공개 대 반사적 투명성)이 사용자 신뢰, 이해도, 장기 신뢰 보정에 영향을 미친다.