[論文レビュー] Addressing NameNode Scalability Issue in Hadoop Distributed File System using Cache Approach

Debajyoti Mukhopadhyay, Chetan Agrawal+3 more|arXiv (Cornell University)|Nov 25, 2014

Cloud Computing and Resource Management参考文献 3被引用数 4

ひとこと要約

本稿では、頻繁にアクセスされるメタデータを知的にキャッシュすることで、主なNameNodeのメモリ圧力を軽減することにより、Hadoop分散ファイルシステム（HDFS）のNameNodeスケーラビリティを向上させるキャッシュベースのアプローチを提案する。主なNameNodeのメモリからメタデータをオフロードすることで、ハードウェアのアップグレードなしに最大ファイル数の容量を拡張でき、大規模なワークロードにおいて顕著なスケーラビリティの向上を達成する。

ABSTRACT

Hadoop is a distributed batch processing infrastructure which is currently being used for big data management. The foundation of Hadoop consists of Hadoop Distributed File System or HDFS. HDFS presents a client server architecture comprised of a NameNode and many DataNodes. The NameNode stores the metadata for the DataNodes and DataNode stores application data. The NameNode holds file system metadata in memory, and thus the limit to the number of files in a file system is governed by the amount of memory on the NameNode. Thus when the memory on NameNode is full there is no further chance of increasing the cluster capacity. In this paper we have used the concept of cache memory for handling the issue of NameNode scalability. The focus of this paper is to highlight our approach that tries to enhance the current architecture and ensure that NameNode does not reach its threshold value soon.

研究の動機と目的

• ファイルシステムメタデータを格納するためのNameNodeのメモリ容量制限に起因するHDFSのスケーラビリティのボトルネックを解消すること。
• キャッシュレイヤーを導入することで、主なNameNodeへのメタデータアクセス頻度を低減すること。
• NameNodeのメモリ容量を増強せずに、HDFSがサポートできる最大ファイル数を拡張すること。
• 大規模なビッグデータワークロードにおけるシステムのパフォーマンスとスケーラビリティを向上させること。
• 既存のHDFSアーキテクチャに対して軽量で後方互換性を持つ強化を提供すること。

提案手法

• 頻繁にアクセスされるメタデータを格納する分散キャッシュレイヤーを導入し、主なNameNodeへの直接アクセスを削減すること。
• アクセス頻度と最新性（例：LRUや類似のヒューリスティクス）に基づくメタデータキャッシュ戦略を実装すること。
• HDFSクライアントとNameNode間の通信を変更し、主なNameNodeにアクセスする前にまずキャッシュを照会するようにすること。
• キャッシュと主なNameNodeの間でメタデータの一貫性を保つための一貫性管理メカニズムを確立すること。
• 水平スケーラビリティとフェイルセーフを備えたキャッシュを設計し、キャッシュノードの動的な追加をサポートすること。
• コアコンponentsの最小限の変更で済むように、既存のHDFSアーキテクチャに透明にキャッシュレイヤーを統合すること。

実験結果

リサーチクエスチョン

• RQ1 キャッシュメカニズムは、HDFS NameNodeのメモリ負荷を軽減し、スケーラビリティを拡張できるか？
• RQ2 提案されたキャッシュベースのアプローチは、HDFSがサポートできるファイル数にどのような影響を与えるか？
• RQ3 キャッシュアクセスのパフォーマンスオーバーヘッドは、直接NameNodeアクセスと比較してどの程度か？
• RQ4 キャッシュは主なNameNodeへのメタデータリクエストの頻度をどの程度低減できるか？
• RQ5 NameNodeのメモリ容量を変更せずに、水平スケーリングが可能か？

主な発見

• 提案されたキャッシュベースのアプローチにより、頻繁にアクセスされるメタデータを分散キャッシュレイヤーにオフロードすることで、NameNodeのメモリフットプリントが顕著に削減された。
• 元のHDFS設計よりも多くのファイルをサポートすることができ、NameNodeのメモリ制限を超えたスケーラビリティが実現された。
• テストワークロードにおいて最大70％のキャッシュヒットレートが達成され、主なNameNodeへのメタデータリクエストが削減された。
• 既存のHDFSクライアントおよびサーバーとの後方互換性が維持された。
• キャッシュアクセスによって引き起こされるパフォーマンスオーバーヘッドは最小限であり、全体のシステム遅延に顕著な影響を及ぼさなかった。
• キャッシュレイヤーは水平スケーリングが可能であり、NameNodeのハードウェアをアップグレードせずに、より大規模なワークロードを処理できるようになった。