[논문 리뷰] A novel Hopfield neural network approach for minimizing total weighted tardiness of jobs scheduled on identical machines

Norbert Fogarasi, Kálmán Tornai외 1명|arXiv (Cornell University)|2012. 07. 26.

Neural Networks and Applications참고 문헌 28인용 수 3

한 줄 요약

이 논문은 동일한 평행 기계에서 전환이 가능한 작업의 총 가중 지각 시간(TWT)을 최소화하기 위한 허프리드 신경망(HNN) 기반 휴리스틱을 제안한다. 문제를 이차 최적화 과제로 공식화함으로써 HNN 접근법은 뛰어난 성능을 달성하여 EDD보다 25–56% 우수하고, WSPT보다 25–84% 더 우수한 해를 도출한다. 이는 100개 이상의 작업에 대해서도 확장 가능하여 금융 및 계산 생물학 분야의 실시간 그리드 컴퓨팅 응용에 적합하다.

ABSTRACT

This paper explores fast, polynomial time heuristic approximate solutions to the NP-hard problem of scheduling jobs on N identical machines. The jobs are independent and are allowed to be stopped and restarted on another machine at a later time. They have well-defined deadlines, and relative priorities quantified by non-negative real weights. The objective is to find schedules which minimize the total weighted tardiness (TWT) of all jobs. We show how this problem can be mapped into quadratic form and present a polynomial time heuristic solution based on the Hopfield Neural Network (HNN) approach. It is demonstrated, through the results of extensive numerical simulations, that this solution outperforms other popular heuristic methods. The proposed heuristic is both theoretically and empirically shown to be scalable to large problem sizes (over 100 jobs to be scheduled), which makes it applicable to grid computing scheduling, arising in fields such as computational biology, chemistry and finance.

연구 동기 및 목표

• 동일한 평행 기계에서 마감일과 음이 아닌 가중치를 가진 독립 작업을 스케줄링할 때 총 가중 지각 시간(TWT)을 최소화하는 NP-난이도 문제를 해결하기 위해.
• 기존의 전통적 스케줄링 휴리스틱인 EDD와 WSPT보다 뛰어난 성능을 보이며, 빠르고 확장 가능한 휴리스틱 해법을 개발하기 위해.
• 실시간, 대규모 컴퓨팅 환경인 계산 금융 및 생물학 분야의 그리드 컴퓨팅과 같은 실용적 응용을 가능하게 하기 위해.
• HNN 기반 접근법이 100개 이상의 작업을 포함하는 문제에 대해 이론적으로도 실험적으로도 확장 가능하다는 것을 입증하기 위해.
• 다양한 문제 인스턴스와 크기에서 기존의 휴리스틱과의 성능 비교를 수행하기 위해.

제안 방법

• TWT 스케줄링 문제를 신경망 최적화에 적합한 이차 프로그래밍 공식화로 매핑한다.
• 에너지 최소화를 활용하여 근사 최적 스케줄을 찾기 위해 허프리드 신경망(HNN) 프레임워크를 사용하여 이차 최적화 문제를 해결한다.
• 스케줄링 제약 조건을 강제하기 위해 라그랑주 승수와 페널티 파라미터(α, β, γ)에 기반한 동적 업데이트 규칙을 HNN가 사용한다.
• 수렴성과 해 품질 향상을 위해 반복적인 파라미터 조정(알고리즘 1 참조)을 포함한다.
• 다양한 무작위 초기화를 통해 해를 생성하고, 소수의 실행에서 가장 우수한 해를 선택한다.
• 병렬 실행을 고려하여 설계되어, 다핵 또는 GPU 기반 아키텍처에서 효율적으로 배포되어 런타임을 단축시킬 수 있다.

실험 결과

연구 질문

• RQ1 허프리드 신경망(HNN)은 동일한 평행 기계에서 NP-난이도 총 가중 지각 시간(TWT) 문제를 효과적으로 해결하기 위해 적절하게 변형될 수 있는가?
• RQ2 다양한 문제 크기에서 기존의 전통적 휴리스틱인 EDD, WSPT, LWPF와 비교해 HNN 기반 휴리스틱의 해 품질은 어떠한가?
• RQ3 실제 그리드 컴퓨팅에 관련된 대규모 스케줄링 문제(예: 100개 이상의 작업)에 대해 HNN 접근법은 어느 정도 확장 가능한가?
• RQ4 HNN 방법의 경험적 런타임 성능는 어떠한가? 실시간 또는 생산 환경에서 최적화될 수 있는가?
• RQ5 예를 들어 WSPT나 LWPF 결과를 활용한 지능적인 초기화는 랜덤 시작보다 HNN의 수렴성과 해 품질을 향상시킬 수 있는가?

주요 결과

• HNN 휴리스틱은 EDD의 25–56%, WSPT의 25–84%, LWPF의 34–91% 정도의 총 가중 지각 시간을 평균적으로 도출하여 EDD, WSPT, LWPF를 능가한다.
• 각 크기별 500개의 무작위로 생성된 문제 중 98.6–100%에서 HNN가 다음으로 우수한 휴리스틱(LWPF)보다 더 나은 해를 도출하여 일관된 우수성을 입증한다.
• 100개 작업 문제에 대해, HNN는 코어 i7@3GHz 프로세서에서 최적화되지 않은 MATLAB 코드를 사용해 약 6초 내에 근사 최적 해를 도출한다.
• HNN의 이론적 수렴 복잡도는 O(L²N²)이며, EDD/WSPT의 O(LN)보다 높지만, 병렬 처리 잠재력 덕분에 실용적인 성능는 여전히 수용 가능하다.
• HNN 방법은 대규모 문제에 대해 잘 확장되며, 실생활 응용(예: 야간 금융 리스크 계산)에 적합한 수준의 런타임을 유지한다.
• HNN의 성능는 다양한 문제 인스턴스에서 뛰어나며, 문제 크기가 증가함에 따라 해 품질에 심각한 열화가 발생하지 않는다.