[논문 리뷰] A glass-box interactive machine learning approach for solving NP-hard problems with the human-in-the-loop

Andreas Holzinger, Markus Plass외 4명|arXiv (Cornell University)|2017. 08. 03.

Data Visualization and Analytics인용 수 29

한 줄 요약

이 논문은 인간이 루프에 참여하는 의사결정을 애벌레집단최적화(ACO)에 통합하여 TSP와 같은 NP-난이도 문제를 해결하기 위한 글래스박스 상호작용 기반 기계학습(iML) 프레임워크를 제안한다. 인간-상호작용 매트릭스(HIM)와 인간-영향도수식(HIF)을 도입함으로써 인간이 유도하는 히ュ리스틱 선택을 통해 투명성을 향상시키고 검색 공간을 축소함으로써 최소한의 사용자 간섭으로도 벤치마크 TSP 인스턴스에서 개선된 해 품질을 달성한다.

ABSTRACT

The goal of Machine Learning to automatically learn from data, extract knowledge and to make decisions without any human intervention. Such automatic (aML) approaches show impressive success. Recent results even demonstrate intriguingly that deep learning applied for automatic classification of skin lesions is on par with the performance of dermatologists, yet outperforms the average. As human perception is inherently limited, such approaches can discover patterns, e.g. that two objects are similar, in arbitrarily high-dimensional spaces what no human is able to do. Humans can deal only with limited amounts of data, whilst big data is beneficial for aML; however, in health informatics, we are often confronted with a small number of data sets, where aML suffer of insufficient training samples and many problems are computationally hard. Here, interactive machine learning (iML) may be of help, where a human-in-the-loop contributes to reduce the complexity of NP-hard problems. A further motivation for iML is that standard black-box approaches lack transparency, hence do not foster trust and acceptance of ML among end-users. Rising legal and privacy aspects, e.g. with the new European General Data Protection Regulations, make black-box approaches difficult to use, because they often are not able to explain why a decision has been made. In this paper, we present some experiments to demonstrate the effectiveness of the human-in-the-loop approach, particularly in opening the black-box to a glass-box and thus enabling a human directly to interact with an learning algorithm. We selected the Ant Colony Optimization framework, and applied it on the Traveling Salesman Problem, which is a good example, due to its relevance for health informatics, e.g. for the study of protein folding. From studies of how humans extract so much from so little data, fundamental ML-research also may benefit.

연구 동기 및 목표

• 안전이 중요한 도메인인 건강정보학 분야에서 투명성과 설명 가능성이 필수적인 블랙박스 기계학습의 한계를 해결하기 위해.
• 인간 전문 지식을 상호작용 학습을 통해 통합하여 TSP와 같은 NP-난이도 문제의 계산 복잡도를 감소시키기 위해.
• 결정 과정을 투명하고 해석 가능하게 만들어 기계학습 시스템에 대한 신뢰와 수용도를 향상시키기 위해.
• 설명 가능한 결정과 데이터 삭제 영향을 가능하게 하여 GDPR 요건을 이행하기 위해.
• 데이터 부족 상황에서 인간의 인지 능력과 알고리즘 최적화 간의 상호보완적 상호작용을 탐색하기 위해.

제안 방법

• 해결 방법은 인간이 제공한 히ュ리스틱을 인코딩하는 인간-상호작용 매트릭스(HIM)를 도입하여 애벌레집단최적화(ACO) 알고리즘을 확장한다.
• 사용자 입력의 영향력을 조절하기 위해 인간-영향도수식(HIF)을 도입하여 인간의 안내를 피모논 업데이트에서 분리한다.
• 애벌레 기반 최적화 단계와 사용자 상호작용 단계를 번갈아 수행하며, 사용자가 일시정지, 노드 선택, HIM 수정을 통해 검색 방향을 조정할 수 있다.
• 피모논 업데이트는 해 품질에 따라 애벌레들에 의해만 수행되며, 인간에 의한 피모논 과잉 축적을 방지한다.
• 실시간 해의 진화를 시각화할 수 있는 브라우저 기반, 플랫폼 독립적 구현을 위해 자바스크립트로 시스템을 구현하였다.
• 클러스터링을 통한 국소 탐색 확장 기능을 지원하며, 28노드 TSP 인스턴스에서의 사례를 통해 이를 입증하였다.

실험 결과

연구 질문

• RQ1 인간이 루프에 참여하는 상호작용이 TSP와 같은 NP-난이도 문제에 대한 ACO의 해 품질을 향상시킬 수 있는가?
• RQ2 히유리스틱을 메타휴리스틱에 효과적으로 인코딩하고 통합할 수 있는 방법은 무엇이며, 알고리즘적 피모논 동역학을 손상시키지 않을 수 있는가?
• RQ3 글래스박스 iML 접근법이 의료 및 데이터 부족 상황에서 기계학습 시스템의 투명성과 신뢰도를 어느 정도 향상시키는가?
• RQ4 제안된 iML 프레임워크는 단백질 접힘 또는 부분공간 군집화와 같은 복잡한 실세계 문제에 스케일업 가능한가?
• RQ5 인간의 영향력(HIM을 통한)과 피모논 업데이트를 분리함으로써 수렴성과 해의 안정성에 어떤 영향을 미치는가?

주요 결과

• iML 접근법은 HIM 및 HIF 구성요소를 통해 인간이 유도하는 히유리스틱 선택을 가능하게 하여 기준 TSP 인스턴스에서 ACO 성능을 성공적으로 향상시켰다.
• 시험 인스턴스에서 표준 ACO보다 뛰어난 해 품질을 달성하였으며, 사용자 정보 기반 반복 후 최적 해(빨간색으로 표시됨)에 가까이 도달하거나 일치시켰다.
• 브라우저 기반 구현 덕분에 실시간으로 상호작용 가능한 해 경로의 시각화가 가능했으며, 각 반복 후에 더 짧은 순행 경로를 반영하기 위해 초록색 선이 업데이트되었다.
• 사용자 영향력과 피모논 업데이트를 분리함으로써 피모논 과잉 축적을 방지하고 알고리즘의 안정성을 유지하였다.
• 클러스터링된 인스턴스에서 국소 탐색 전략을 적용함으로써 확장 가능성을 입증하였으며, 예를 들어 두 개의 14도시 TSP 부분 문제의 해를 조합하여 28노드 해를 도출하였다.
• 설명 가능한 결정 및 학습 과정에서 추적 가능한 인간 입력을 가능하게 하여 GDPR 준수를 지원한다.