[論文レビュー] AliEnFS - a Linux File System for the AliEn Grid Services

Andreas Peters, Pablo Sáiz+1 more|ArXiv.org|Jun 13, 2003

Distributed and Parallel Computing Systems被引用数 10

ひとこと要約

AliEnFS は Linux カーネルベースの仮想ファイルシステムであり、LUFS を用いて AliEn グリッドの仮想ファイルカタログを VFS 层に統合することで、標準的なシェルコマンドによりグローバルに分散したデータにアクセス可能にする。これはハイブリッドユーザースペース・カーネルインターフェースを用いて、異種のストレージシステムにまたがるリモートデータに対して透過的かつインタラクティブにアクセスを可能にする。パフォーマンスとスケーラビリティはクロスリンクキャッシュアーキテクチャと負荷分散 I/O ゲートキーパーによって向上される。

ABSTRACT

Among the services offered by the AliEn (ALICE Environment http://alien.cern.ch) Grid framework there is a virtual file catalogue to allow transparent access to distributed data-sets using various file transfer protocols. $alienfs$ (AliEn File System) integrates the AliEn file catalogue as a new file system type into the Linux kernel using LUFS, a hybrid user space file system framework (Open Source http://lufs.sourceforge.net). LUFS uses a special kernel interface level called VFS (Virtual File System Switch) to communicate via a generalised file system interface to the AliEn file system daemon. The AliEn framework is used for authentication, catalogue browsing, file registration and read/write transfer operations. A C++ API implements the generic file system operations. The goal of AliEnFS is to allow users easy interactive access to a worldwide distributed virtual file system using familiar shell commands (f.e. cp,ls,rm ...) The paper discusses general aspects of Grid File Systems, the AliEn implementation and present and future developments for the AliEn Grid File System.

研究の動機と目的

• ALICE などの高エネルギー物理学実験で、標準的な Linux シェルコマンドを用いて、グローバルに分散したデータに対して透過的かつインタラクティブにアクセスできるようにすること。
• AliEn 仮想ファイルカタログを Linux カーネルの VFS 層に統合し、分散ストレージシステムのための統一インターフェースを提供すること。
• ハイブリッドユーザースペース・カーネルフレームワークを用いて、異種のストレージエレメント（SE）と転送プロトコルを介して、安全でスケーラブルかつ効率的なデータアクセスをサポートすること。
• 長距離データ転送を削減し、大規模なグリッド展開における I/O パフォーマンスを向上させるために、キャッシュと負荷分散アーキテクチャを実装すること。
• VFS を用いたユーザー向けパスと C++ API を用いたアプリケーション向けパスの二重パスアーキテクチャにより、インタラクティブなユーザーアクセスとアプリケーションレベルのファイル I/O を両立させること。

提案手法

• LUFS（Linux User-File System）—ハイブリッドユーザースペースファイルシステムフレームワーク—を活用し、VFS インターフェースを介して AliEn ファイルシステムデーモンと通信する VFS モジュールとして AliEnFS を実装すること。
• URL を用いて論理ファイル名（LFN）を物理ファイル名（PFN）にマッピングし、下位のストレージおよび転送プロトコル（例：RFIO、DCache、HTTP）を抽象化すること。
• ゲートキーパー・デーモンを用いて、I/O リクエストを負荷が最も低いスレーブサーバーまたはキャッシュに動的にリダイレクトすることで、負荷分散と高可用性を確保すること。
• 地域およびメインキャッシュクラスタにファイルをキャッシュすることで、重複する長距離データ転送を削減するクロスリンクキャッシュアーキテクチャを実装すること。
• 同期転送（例：cp、mv）と非同期レプリケーション（ファイル転送キューを介して）の両方をサポートし、ストレージエレメント間での効率的なデータレプリケーションを可能にすること。
• NFS や Samba を介して仮想ファイルシステムを公開することで、クライアントノードにカーネルモジュールを必要とせずに、Linux および Windows のクロスプラットフォームアクセスを可能にすること。

実験結果

リサーチクエスチョン

• RQ1 異種のストレージシステムにまたがるグローバルに分散したデータに対して、透過的かつインタラクティブにアクセスできる Linux 上の仮想ファイルシステムをどのように実装できるか？
• RQ2 複数のストレージエレメントと動的なワークロードを持つグリッドファイルシステムにおいて、効率的な負荷分散とフェイルセーフを実現するアーキテクチャパターンは何か？
• RQ3 キャッシュメカニズムは、大規模でマルチサイトのグリッド展開において、長距離データ転送をどのように削減し、パフォーマンスを向上させられるか？
• RQ4 カーネルレベルの VFS モジュールとアプリケーションレベルの API の最適な統合戦略は何か？ これにより、インタラクティブユーザーとハイパフォーマンスコンピューティングワークロードの両方をサポートできるか？
• RQ5 認証、ファイル登録、メタデータ管理を、高エネルギー物理学データ用の仮想ファイルシステムにどのように安全かつ透過的に統合できるか？

主な発見

• AliEnFS は、標準的な Linux シェルコマンド（例：ls、cp、rm）が、ローカルファイルであるかのように分散化・仮想化されたデータに対して動作可能であり、ユーザーにとってシームレスな体験を提供している。
• LUFS を用いた AliEnFS の統合により、システムはユーザースペースで動作しながらも、ユーザーおよびアプリケーションに対してネイティブなファイルシステムとして認識される。
• ゲートキーパーのアーキテクチャにより、I/O リクエストが負荷が最も低いスレーブサーバーに動的にルーティングされ、システムの応答性とスケーラビリティが向上している。
• クロスリンクキャッシュアーキテクチャにより、地域およびメインキャッシュクラスタにファイルをキャッシュすることで、長距離データ転送が顕著に削減され、アクセス遅延と帯域幅効率が向上している。
• ファイルレプリケーションは、明示的なリクエストによるアクティブなレプリケーションと、繰り返しアクセス時に自動的にキャッシュされるパッシブなレプリケーションの両方をサポートしており、繰り返しの長距離転送の必要性が削減されている。
• 本システムは、VFS を通じたインタラクティブなユーザーアクセスと、C++ API を通じたアプリケーションレベルのアクセスを両方サポートしており、多様なコンピューティング環境における柔軟な展開を可能としている。