[논문 리뷰] Artificial Intelligence for Operations Research: Revolutionizing the Operations Research Process

Zhenan Fan, Bissan Ghaddar외 4명|arXiv (Cornell University)|2024. 01. 06.

Scheduling and Optimization Algorithms인용 수 4

한 줄 요약

이 논문은 운영 연구(OR) 파이프라인 전반에 인공지능(AI)을 통합적으로 도입함으로써, 예측-최적화, 자연어-수학 번역을 위한 대규모 언어 모델(LLM), 그리고 AI 기반 알고리즘 선택 기법을 통해 매개변수 생성, 모델 설정, 최적화 단계를 향상시키는 종합적인 접근을 제안한다. 주요 기여는 OR의 각 단계를 자동화하고 향상시키기 위해 AI를 활용하는 통합 프레임워크를 제공하는 것으로, 복잡한 의사결정 문제 전반에서 해법 품질과 효율성을 크게 향상시킨다.

ABSTRACT

The rapid advancement of artificial intelligence (AI) techniques has opened up new opportunities to revolutionize various fields, including operations research (OR). This survey paper explores the integration of AI within the OR process (AI4OR) to enhance its effectiveness and efficiency across multiple stages, such as parameter generation, model formulation, and model optimization. By providing a comprehensive overview of the state-of-the-art and examining the potential of AI to transform OR, this paper aims to inspire further research and innovation in the development of AI-enhanced OR methods and tools. The synergy between AI and OR is poised to drive significant advancements and novel solutions in a multitude of domains, ultimately leading to more effective and efficient decision-making.

연구 동기 및 목표

• AI가 운영 연구(OR) 프로세스의 각 단계—매개변수 생성, 모델 설정, 최적화—를 어떻게 향상시킬 수 있는지 조사하기.
• 복잡한 영역에서 자동화되고 정확하며 효율적인 의사결정을 가능하게 하는 AI와 OR 간의 상호보완적 관계를 규명하기.
• 기존 OR 워크플로우의 한계를 보완하기 위해 수동 전문가 입력에 의존도를 낮추고 모델의 적응력을 향상시키는 AI 기반 방법을 도입하기.
• 최적화 결과를 활용해 모델 설정이나 매개변수 예측 단계를 개선하는 피드백 루프—예를 들어 최적화 결과를 바탕으로 모델 설정을 보정하는 방식—를 AI를 통해 어떻게 실현할 수 있는지 탐색하기.
• 문제 인스턴스에 적합한 소프트웨어 및 설정을 예측함으로써 알고리즘 선택 및 구성의 최신 기술을 발전시키기

제안 방법

• 예측-최적화(SPO) 프레임워크를 활용해 AI 모델이 불확실한 매개변수를 예측하고 동시에 의사결정을 최적화함으로써 정확성과 타당성을 동시에 향상시키기.
• ChatGPT 및 Llama와 같은 대규모 언어 모델(LLM)을 사용해 자연어 문제 기술을 공식적인 수학적 모델로 자동 변환함으로써 수동 설정의 필요성을 줄이기.
• 딥 러닝과 강화 학습과 같은 AI 기법을 활용해 고차원적, 동적이고 복잡한 데이터 구조를 다루며 매개변수 생성 및 모델 구성에 활용하기.
• 알고리즘 실행 시간 예측을 위한 AI 기반 성능 모델링을 구현해 미리 보지 않은 문제 인스턴스에 대해 최적의 솔버 성능을 예측할 수 있도록 하기.
• Gurobi, CPLEX, OptVerse와 같은 도구들 간의 문제 특성과 솔버 성능 간의 관계를 모델링하여 AI 기반 알고리즘 선택 및 자동 설정 통합하기.
• 특히 실행 시간 예측 및 설정에 있어 일반화 능력과 강건성을 향상시키기 위해 문제 인스턴스 간 유사도 측정 기준을 설계하기.

실험 결과

연구 질문

• RQ1 AI를 운영 연구 파이프라인의 각 단계에 체계적으로 통합하여 모델 정확성과 계산 효율성을 어떻게 향상시킬 수 있는가?
• RQ2 대규모 언어 모델(LLM)이 자연어 문제 기술을 공식적인 수학 최적화 모델로 정확하게 변환할 수 있는가?
• RQ3 예측-최적화와 같은 AI 기반 매개변수 예측 프레임워크가 실제 응용에서 제약 조건의 타당성을 확보하면서도 해법 품질을 향상시킬 수 있는가?
• RQ4 최적화 결과에서 유도된 피드백은 AI를 통해 어떻게 이전 단계—예를 들어 모델 설정이나 매개변수 예측—을 개선하는 데 기여할 수 있는가?
• RQ5 운영 연구에서 통합 소프트웨어 선택 및 자동 알고리즘 구성에 AI를 사용할 때의 과제와 기회는 무엇이며, 성능 예측 모델은 어떻게 강건하고 일반화 가능한 형태로 만들 수 있는가?

주요 결과

• AI 모델은 Gurobi나 CPLEX와 같은 최신 상용 솔버보다도, 수천 개의 변수를 포함하는 정수형 혼합계획문제(MIP)에서 비용이 많이 드는 환경에서 학습된 정책을 활용할 경우 기존 휴리스틱 기법보다도 뛰어난 성능을 보일 수 있다.
• 예측-최적화 프레임워크를 통해 AI는 불확실한 매개변수를 예측하고 동시에 의사결정을 최적화할 수 있어, 특히 제약 조건을 완화함으로써 타당성 문제를 방지할 수 있을 때 해법 품질과 타당성이 크게 향상된다.
• 대규모 언어 모델은 자연어 기술을 수학적으로 타당한 최적화 설정으로 성공적으로 변환할 수 있어, 운영 연구 전문 지식이 부족한 도메인 전문가의 진입 장벽을 낮춘다.
• 알고리즘 실행 시간 예측을 위한 AI 기반 성능 모델은 강력한 경험적 성과를 보였지만, 문제 인스턴스 간의 잘 정의된 유사도 측정 기준이 부족하여 일반화 능력에 한계가 있다.
• 최적화 결과를 바탕으로 모델 설정이나 매개변수 예측 단계를 개선하는 피드백 루프는 해법 품질 향상과 시스템의 적응력 향상에 크게 기여할 수 있다.
• 솔버의 투명성 부족과 복잡한 매개변수 공간으로 인해 통합 소프트웨어 선택 및 자동 알고리즘 구성은 여전히 도전 과제이지만, AI 기반 예측 모델은 유망한 해결 방안을 제시하고 있다.