[논문 리뷰] The Roles and Modes of Human Interactions with Automated Machine Learning Systems

Thanh Tung Khuat, David Jacob Kedziora외 1명|arXiv (Cornell University)|2022. 05. 09.

Explainable Artificial Intelligence (XAI)인용 수 11

한 줄 요약

이 논문은 자동화된 기계 학습(AutoML) 시스템과의 인간 상호작용의 변화하는 역할과 방식을 조사하며, AutoML가 자율적이고 오픈월드 학습으로 발전함에 따라 인간의 참여가 수동적 개발에서 감독 및 전략적 감시로 이동할 것임을 제안한다. 연구는 신뢰, 설명 가능성, 공정성, 추론 통합과 같은 핵심 HCI 과제를 밝혀내고, 복잡하고 동적인 환경에서 인간-AutoML 협업을 위한 향후 연구 방향을 제시한다.

ABSTRACT

As automated machine learning (AutoML) systems continue to progress in both sophistication and performance, it becomes important to understand the `how' and `why' of human-computer interaction (HCI) within these frameworks, both current and expected. Such a discussion is necessary for optimal system design, leveraging advanced data-processing capabilities to support decision-making involving humans, but it is also key to identifying the opportunities and risks presented by ever-increasing levels of machine autonomy. Within this context, we focus on the following questions: (i) How does HCI currently look like for state-of-the-art AutoML algorithms, especially during the stages of development, deployment, and maintenance? (ii) Do the expectations of HCI within AutoML frameworks vary for different types of users and stakeholders? (iii) How can HCI be managed so that AutoML solutions acquire human trust and broad acceptance? (iv) As AutoML systems become more autonomous and capable of learning from complex open-ended environments, will the fundamental nature of HCI evolve? To consider these questions, we project existing literature in HCI into the space of AutoML; this connection has, to date, largely been unexplored. In so doing, we review topics including user-interface design, human-bias mitigation, and trust in artificial intelligence (AI). Additionally, to rigorously gauge the future of HCI, we contemplate how AutoML may manifest in effectively open-ended environments. This discussion necessarily reviews projected developmental pathways for AutoML, such as the incorporation of reasoning, although the focus remains on how and why HCI may occur in such a framework rather than on any implementational details. Ultimately, this review serves to identify key research directions aimed at better facilitating the roles and modes of human interactions with both current and future AutoML systems.

연구 동기 및 목표

• 최신 기술 수준의 AutoML 시스템에서 인간-컴퓨터 상호작용(HCI)이 개발, 구현, 유지보수 단계에서 어떻게 작동하는지 이해하기.
• AutoML 프레임워크 내에서 사용자 유형과 이해관계자 간에 HCI 기대치가 다를지 분석하기.
• Human trust를 구축하고 AutoML 시스템의 광범위한 수용을 보장하기 위한 전략 식별하기.
• AutoML 시스템이 더 자율적이고 오픈월드 학습이 가능한 방향으로 발전함에 따라 HCI의 성격이 어떻게 변화할지 탐색하기.
• 자율적 AutoML 시스템에 추론과 지식 기반 접근법을 통합하기 위한 향후 연구 방향 매핑하기.

제안 방법

• HCI 문헌을 비판적으로 검토하고, 사용자 인터페이스 설계, 편향 완화, AI에 대한 신뢰도와 같은 주제에 대해 AutoML와의 관련성을 맵핑한다.
• 문제 정의, 데이터 엔지니어링, 모델 개발, 배포, 모니터링 등 기계 학습 라이프사이클 전반에 걸친 이해관계자 역할을 분석한다.
• 미래의 AutoML 발전을 두 단계로 예측한다: 폐쇄월 자율성(완전 자동화, 제약된 작업)과 오픈월 자율성(맥락 인식, 동적 학습).
• 사전 정의된 맥락을 초월한 일반화를 가능하게 하기 위해 데이터 기반 검색과 지식 기반 추론을 융합한 하이브리드 아키텍처를 분석한다.
• 인과 추론, 추상화, 논리적 일반화를 AutoML에 통합할 수 있는지 가능성 평가하여 오픈월드 학습 지원에 기여한다.
• 특히 감독, 해석, 혁신의 역할에서 인간-AutoML 협업 최적화를 위한 시각을 조사한다.

실험 결과

연구 질문

• RQ1 현재 인간-AutoML 시스템 간 상호작용은 기계 학습 워크플로우의 각 단계에서 어떻게 다를까?
• RQ2 예를 들어 데이터 과학자, 영역 전문가, 최종 사용자 등 다른 이해관계자들은 AutoML 시스템의 HCI에 대해 서로 다른 기대치를 가지는가?
• RQ3 인간의 신뢰와 AutoML 시스템 수용에 영향을 주는 요소는 무엇이며, 이를 어떻게 최적화할 수 있는가?
• RQ4 AutoML 시스템이 자율적이고 오픈월드 학습으로 향해 발전함에 따라 인간과의 상호작용 방식은 어떻게 변화할까?
• RQ5 어떤 길이 인간-AutoML 시스템이 추론과 지식 기반 학습을 통합하여 동적 환경에서 일반화를 달성할 수 있도록 할 수 있는가?

주요 결과

• AutoML에서 인간의 참여는 활동적인 모델 개발에서 감독 및 전략적 역할로 이동하고 있으며, 특히 문제 정의와 결과 해석 단계에서 두드러진다.
• AutoML 시스템에 대한 신뢰는 설명 가능성, 공정성, 그리고 시스템 출력에서의 인간 인지 편향 완화에 의해 크게 영향을 받는다.
• 현재의 AutoML 시스템은 잘 정의된 제약 조건이 있는 폐쇄월 시나리오에 주로 국한되어 있어, 새로운 또는 동적 환경에 대한 적응력이 제한되어 있다.
• 데이터 기반 검색과 지식 기반 추론을 융합하는 것은 오픈월드 학습을 가능하게 하기 위한 유망한 길이지만, 아직 탐색되지 않은 분야이다.
• AutoML 시스템이 더 자율적으로 발전함에 따라 인간은 도구가 아니라 협업 파artner로 인식될 가능성이 높으며, 이는 새로운 상호작용 패러다임이 필요함을 시사한다.
• 시스템 자율성이 증가하고 문제 제약 조건이 완화됨에 따라 향후 연구는 인간 감시 메커니즘의 우선적 고려가 필요하다.