[논문 리뷰] Machine Learning (ML) library in Linux kernel

Viacheslav Dubeyko|arXiv (Cornell University)|2026. 03. 02.

Advanced Data Storage Technologies인용 수 0

한 줄 요약

이 논문은 커널-공간 ML 프록시를 통해 사용자 공간 ML 모델과의 인터페이스를 통해 커널에서 ML 사용을 가능하게 하는 일반화된 ML 인프라를 제안하며, PoC로 실현 가능성을 입증한다. 아키텍처, 상호 작용 모드, ML 기반 커널 최적화를 위한 향후 작업을 논의한다.

ABSTRACT

Linux kernel is a huge code base with enormous number of subsystems and possible configuration options that results in unmanageable complexity of elaborating an efficient configuration. Machine Learning (ML) is approach/area of learning from data, finding patterns, and making predictions without implementing algorithms by developers that can introduce a self-evolving capability in Linux kernel. However, introduction of ML approaches in Linux kernel is not easy way because there is no direct use of floating-point operations (FPU) in kernel space and, potentially, ML models can be a reason of significant performance degradation in Linux kernel. Paper suggests the ML infrastructure architecture in Linux kernel that can solve the declared problem and introduce of employing ML models in kernel space. Suggested approach of kernel ML library has been implemented as Proof Of Concept (PoC) project with the goal to demonstrate feasibility of the suggestion and to design the interface of interaction the kernel-space ML model proxy and the ML model user-space thread.

연구 동기 및 목표

• ML을 활용하여 스스로 진화하는 Linux 커널 구성과 서브시스템의 필요성을 제시한다.
• 커널 공간과 사용자 공간 ML 모델 간의 상호 작용을 가능하게 하는 일반화된 ML 인프라를 정의한다.
• PoC 구현을 통해 타당성을 입증하고 커널 내 ML 모델 프록시에 대한 인터페이스를 개략적으로 제시한다.

제안 방법

• 커널 공간에서 ML 모델 프록시 생성, 시작/중지, 데이터 교환, 권고 사항의 적용을 위한 인터페이스를 제공하는 커널 ML 라이브러리 아키텍처.
• FPUs와 Python을 활용하기 위해 사용자 공간에서 ML 모델을 실행하고, 커널 공간에는 커널 서브시스템과 상호 작용하는 프록시를 두는 것을 제안한다.
• 데이터 전송을 위해 sysfs, FUSE, 또는 문자 디바이스를 사용하여 커널 공간에서 사용자 공간으로, 그리고 다시 돌아오는 데이터 수집 및 전처리 흐름을 설명한다.
• 모델 교정을 위한 역전파를 포함하여 커널 ML 프록시의 상호 작용 모드(긴급, 학습, 협력, 권고)를 도입한다.

실험 결과

연구 질문

• RQ1 성능 저하 없이 Linux 커널에 ML 모델을 효과적으로 통합할 수 있는 방법은 무엇인가?
• RQ2 사용자 공간 ML 모델과 조율하는 커널 공간 ML 모델 프록시의 실행 가능한 아키텍처는 무엇인가?
• RQ3 커널 서브시스템에서 반복적 학습 및 추론을 가능하게 하는 상호 작용 모드와 데이터 경로는 무엇인가?
• RQ4 PoC가 ML 주도 서브시스템 구성과 합성된 커널 로직의 실용성을 입증할 수 있는가?
• RQ5 향후 작업에서 ML 기반 최적화의 이점을 얻을 수 있는 서브시스템은 무엇인가(예: GC, DAMON)?

주요 결과

• 일반화된 커널 ML 라이브러리 아키텍처는 커널 공간의 프록시를 통해 커널 서브시스템과 사용자 공간 ML 모델을 연결할 수 있다.
• 데이터 교환을 위해 sysfs, FUSE, 또는 문자 디바이스와 같은 인터페이스를 사용하여, FPU가 있는 사용자 공간에서 ML 모델을 실행하는 것을 커널 내 실행보다 권장한다.
• 커널 서브시스템의 ML 기반 변경 및 안전성을 관리하기 위해 긴급, 학습, 협력, 권고의 다중 상호 작용 모드가 제안된다.
• PoC 구현은 타당성을 보여주고 커널 공간 프록시와 사용자 공간 ML 스레드 간 인터페이스 설계의 청사진을 제공한다.
• 향후 작업은 다수의 파일 시스템에 대한 ML 기반 GC와 실제 효용성을 검증하기 위한 ML 기반 DAMON 확장을 목표로 한다.