[논문 리뷰] A Unified Industrial Large Knowledge Model Framework in Industry 4.0 and Smart Manufacturing

Jay Lee, Hanqi Su|arXiv (Cornell University)|2023. 12. 22.

Manufacturing Process and Optimization참고 문헌 18인용 수 9

한 줄 요약

The paper introduces an Industrial Large Knowledge Model (ILKM) framework that leverages domain-specific data to create domain knowledge LLMs for smart manufacturing, and contrasts ILKMs with general LLMs using a 6S principle.

ABSTRACT

The recent emergence of large language models (LLMs) demonstrates the potential for artificial general intelligence, revealing new opportunities in Industry 4.0 and smart manufacturing. However, a notable gap exists in applying these LLMs in industry, primarily due to their training on general knowledge rather than domain-specific knowledge. Such specialized domain knowledge is vital for effectively addressing the complex needs of industrial applications. To bridge this gap, this paper proposes a unified industrial large knowledge model (ILKM) framework, emphasizing its potential to revolutionize future industries. In addition, ILKMs and LLMs are compared from eight perspectives. Finally, the "6S Principle" is proposed as the guideline for ILKM development, and several potential opportunities are highlighted for ILKM deployment in Industry 4.0 and smart manufacturing.

연구 동기 및 목표

• 일반 LLM 학습의 격차로 인해 Industry 4.0 및 스마트 제조에서 도메인별 대형 지식 모델의 필요성을 동기화한다.
• 산업 데이터를 도메인 지시 및 전문가 시스템과 통합하여 산업 문제를 해결하는 ILKM 프레임워크를 제안한다.
• 안전성, 확장성 및 표준화를 위한 ILKM 개발을 안내하기 위해 6S Principle를 도입한다.

제안 방법

• 사람이 해석할 수 있는 데이터와 구조화된 기계생성 데이터를 구분하여 Large Knowledge Library (LKL)를 구축한다.
• 도메인 튜닝을 위한 문제, 입력 및 출력을 체계화하여 도메인별 지시 데이터를 준비한다.
• LKL에서 도출된 데이터와 도메인 지시를 사용하여 Domain Knowledge LLM를 사전 학습 및 미세 조정한다.
• 도메인 지식 LLM가 도메인 특정 모델링을 안내하고 SMEs가 출력을 다듬는 지능형 다전문 ML 시스템을 배포한다.

Figure 1: General process in smart manufacturing using ILKM.

실험 결과

연구 질문

• RQ1 Industrial Large Knowledge Models와 Large Language Models 간의 데이터, 도메인 지식, 프라이버시, 실시간 의사결정 측면의 주요 차이점은 무엇인가?
• RQ2 ILKMs를 스마트 제조에서 체계적으로 개발하고 배치하여 산업 문제를 어떻게 해결할 수 있는가?
• RQ3 Industry 4.0 맥락에서 ILKM 개발을 지배할 지침(6S Principle)은 무엇인가?

주요 결과

• ILKMs는 일반 LLM에 비해 도메인별 데이터와 데이터 프라이버시 제어가 개선된 전문 산업 작업에 맞춰 설계되었다.
• ILKMs는 대규모 지식 라이브러리와 도메인 지시를 활용하여 도메인별 문제 해결 및 분석을 가능하게 한다.
• 네 가지 단계의 ILKM 프레임워크는 데이터 수집, 지시 데이터 준비, 도메인 LLM 개발, 지능형 다전문 ML 시스템을 가능하게 한다.
• 프레임워크는 도메인 지식 LLM과 사람 기반 SMEs 간의 협업을 강조하여 실행 가능한 산업 솔루션을 생성한다.

Figure 2: Industrial Large Knowledge Model Framework.