[논문 리뷰] Installing, Running and Maintaining Large Linux Clusters at CERN

Vladímir Bahyl, Benjamin Chardi외 5명|ArXiv.org|2003. 06. 12.

Distributed and Parallel Computing Systems참고 문헌 2인용 수 3

한 줄 요약

이 논문은 1,000개 이상의 노드를 보유한 대규모 리눅스 클러스터를 구축하고 운영하며 확장하기 위한 CERN의 운영 프레임워크를 제시한다. 주로 자동화, 시스템 설정, 모니터링 및 작업 관리에 LSF를 활용하여 운영한다. 하드웨어 이질성, 보안, OS 업그레이드 및 그룹 연계 기능을 해결하는 솔루션을 제시하며, EDG 프로젝트의 WP4 하위과제와의 협업을 통해 튜닝된 배치 및 인터랙티브 서비스를 통해 높은 시스템 활용도와 사용자 반응성을 달성한다.

ABSTRACT

Having built up Linux clusters to more than 1000 nodes over the past five years, we already have practical experience confronting some of the LHC scale computing challenges: scalability, automation, hardware diversity, security, and rolling OS upgrades. This paper describes the tools and processes we have implemented, working in close collaboration with the EDG project [1], especially with the WP4 subtask, to improve the manageability of our clusters, in particular in the areas of system installation, configuration, and monitoring. In addition to the purely technical issues, providing shared interactive and batch services which can adapt to meet the diverse and changing requirements of our users is a significant challenge. We describe the developments and tuning that we have introduced on our LSF based systems to maximise both responsiveness to users and overall system utilisation. Finally, this paper will describe the problems we are facing in enlarging our heterogeneous Linux clusters, the progress we have made in dealing with the current issues and the steps we are taking to gridify the clusters

연구 동기 및 목표

• 고성능 컴퓨팅 환경에서 대규모 이종 리눅스 클러스터를 관리하는 데 도전 과제를 해결하기 위해.
• 설치, 설정 및 모니터링 프로세스의 자동화를 통해 시스템의 관리 용이성을 향상시키기 위해.
• 사용자 반응성과 높은 시스템 활용도를 균형 있게 유지하기 위해 LSF 기반의 배치 및 인터랙티브 서비스를 최적화하기 위해.
• 다양한 하드웨어 환경에서 보안적이고 확장 가능하며 자동화된 OS 업그레이드를 실환경에서 구현하기 위해.
• EDG 프로젝트와의 통합을 통해 LHC 규모의 계산 워크로드를 지원할 수 있도록 클러스터의 그룹화를 진행하기 위해.

제안 방법

• 대규모 리눅스 클러스터에 특화된 자동화된 시스템 설치 및 설정 도구를 개발하고 구현하였다.
• 클러스터 관리 기능 및 도구를 향상시키기 위해 EDG 프로젝트의 WP4 하위과제와 통합하였다.
• 하드웨어 다양성을 처리하고 일관성을 확보하기 위해 중앙집중식 모니터링 및 설정 관리 시스템을 구현하였다.
• LSF 스케줄링 정책 및 자원 할당을 최적화하여 인터랙티브 사용자에 대한 반응성과 전체 시스템 처리량을 향상시켰다.
• 시스템 안정성과 정지 시간을 최소화하기 위해 보안적이고 자동화된 OS 업그레이드 절차를 수립하였다.
• EDG 미들웨어 스택 구성 요소와의 통합을 통해 클러스터 기능을 그룹 컴퓨팅으로 확장하였다.

실험 결과

연구 질문

• RQ1 어떻게 하면 이종 환경에서 대규모 리눅스 클러스터를 효율적으로 스케일링하여 설치, 설정 및 유지보수할 수 있는가?
• RQ2 1,000개 이상의 노드에서 고가용성, 보안 및 자동화된 OS 업그레이드를 달성하기 위한 시스템 관리 기법은 무엇인가?
• RQ3 동적 사용자 워크로드 하에서 LSF 기반 클러스터는 어떻게 하면 인터랙티브 반응성과 높은 배치 활용도를 균형 있게 유지할 수 있는가?
• RQ4 대규모 클러스터를 넓은 범위의 그룹 컴퓨팅 인fra구조에 통합하기 위한 전략은 무엇인가?
• RQ5 외부 프로젝트(예: EDG WP4)와의 협업이 클러스터 관리 용이성 향상에 어떤 역할을 하는가?

주요 결과

• 팀은 자동화된 도구를 활용해 1,000개 이상의 노드를 포함한 리눅스 클러스터를 성공적으로 관리하여 수동 설정과 운영 오버헤드를 크게 감소시켰다.
• LSF 최적화로 인해 인터랙티브 사용자에 대한 시스템 반응성이 향상되었고, 동시에 클러스터 전체의 활용도도 유지되었다.
• 중앙집중식 설정 및 모니터링을 통해 다양한 하드웨어 플랫폼 간 일관된 관리가 가능해졌다.
• 최소한의 정지 시간으로 자동화된 OS 업그레이드 절차가 구현되어 지속적인 시스템 유지보수가 가능해졌다.
• EDG 프로젝트의 WP4 하위과제와의 협업을 통해 도구 개선이 이루어지고 클러스터 관리 용이성이 향상되었다.
• 클러스터 인fra구조는 그룹 연계로 확장되어 더 넓은 LHC 계산 워크플로우와의 상호운용성을 확보하였다.