[論文レビュー] VBR: Version Based Reclamation

Gali Sheffi, Maurice Herlihy+1 more|arXiv (Cornell University)|Jan 1, 2021

Distributed systems and fault tolerance参考文献 47被引用数 6

ひとこと要約

この論文は、リタイアドメモリオブジェクトに対する読み取りおよび書き込みの両方のスペキュラティブ実行を可能にする、完全にオプtimisticでロックフリーなメモリ再利用スキームであるバージョンベース再利用（VBR）を導入する。各フィールドにバージョンカウンタを追加することで、再利用による無効なアクセスを検出・拒否し、ハードウェアやOSの仮定に依存せず、ダブルワードのCASに限って正しく動作し、ロックフリーなデータ構造において既存の解決策を上回る性能を発揮する。

ABSTRACT

Safe lock-free memory reclamation is a difficult problem. Existing solutions follow three basic methods (or their combinations): epoch based reclamation, hazard pointers, and optimistic reclamation. Epoch-based methods are fast, but do not guarantee lock-freedom. Hazard pointer solutions are lock-free but typically do not provide high performance. Optimistic methods are lock-free and fast, but previous optimistic methods did not go all the way. While reads were executed optimistically, writes were protected by hazard pointers. In this work we present a new reclamation scheme called version based reclamation (VBR), which provides a full optimistic solution to lock-free memory reclamation, obtaining lock-freedom and high efficiency. Speculative execution is known as a fundamental tool for improving performance in various areas of computer science, and indeed evaluation with a lock-free linked-list, hash-table and skip-list shows that VBR outperforms state-of-the-art existing solutions.

研究の動機と目的

• ブロッキング機構やハードウェア拡張に依存せずに、並列システムにおける安全でロックフリーなメモリ再利用の課題に対処すること。
• 特に書き込みにハザードポインタを用いることで最適化が制限される現行の再利用スキームにおける性能ボトルネックを解消すること。
• 線形化可能性とロックフリー性を維持したまま、読み取りおよび書き込みの両方の完全なスペキュラティブ実行を達成すること。
• 非応答的なスレッドに対して耐性があり、再利用が停止することでメモリ枯渇を回避するスキームを設計すること。
• OS やハードウェアの変更なしに、標準アーキテクチャで動作する実用的で効率的かつポータブルな解決策を提供すること。

提案手法

• VBRは、各共有オブジェクトに変更可能なフィールドごとにバージョンカウンタを追加し、古くなったまたは無効なメモリアクセスを検出可能にする。
• リタイアドオブジェクトの再利用可能時期を決定するために、グローバルなエポックカウンタとスレッドごとのローカルエポック追跡を用いる。
• スレッドは、そのバージョン番号が現在のエポックと一致する場合にのみ、リタイアドオブジェクトをスペキュラティブにアクセスする。不一致が生じるとロールバックまたは再試行が発生する。
• インターフェース操作（例：追加、削除、包含チェック）にチェックポイントを統合することで、スペキュラティブアクセスの失敗後に安全にロールバックできるようにする。
• エポックとバージョン情報の原子的更新を保証するため、ダブルワードの比較アトミックスワップ（CAS）命令を活用する。
• 再利用検証に失敗した場合の処理は、ロックフリーなデータ構造の制御フローに統合された再試行ロジックによって行われる。

実験結果

リサーチクエスチョン

• RQ1 ハザードポインタに依存せず、読み取りおよび書き込みの両方のスペキュラティブアクセスを可能にする完全にオプtimisticなメモリ再利用スキームを設計できるか？
• RQ2 バージョニングをどのように活用することで、ロックフリーな方法でスペキュラティブ実行中の無効なメモリアクセスを検出し拒否できるか？
• RQ3 このようなスキームは、最悪ケースにおいても非応答スレッドによるブロッキングを回避し、ロックフリー性を保証できるか？
• RQ4 実際の並列データ構造において、既存のハイブリッドまたは保守的な再利用手法と比較して、バージョニングの性能オーバーヘッドはどの程度か？
• RQ5 ロックフリーアルゴリズムの制御フロー内で、スペキュラティブアクセスの失敗を効率的かつ透明に処理する方法は何か？

主な発見

• VBRは、再利用が無期限に停止する可能性がないことを保証することで、エポックベース再利用におけるブロッキング問題を回避し、完全なロックフリー性を達成する。
• ベンチマークにおいて、ロックフリーなリンクリスト、ハッシュテーブル、スキャンリストにおいて、最新のエポックベースおよびハザードポインタベースの解決策を上回る性能を発揮する。
• リタイア後すぐにオブジェクトを再利用可能にすることで、正しさを損なわず空間効率を向上させる。
• バージョン化されたフィールドの使用により、スペキュラティブな読み取りと書き込みの両方が可能になり、書き込み操作における高コストなメモリフェンスの必要性がなくなる。
• この方法はポータブルであり、広く利用可能なダブルワードCAS命令にのみ依存するため、現代のアーキテクチャへの実装に実用的である。
• 再利用検証に失敗した場合の処理は、適切に統合された既存のロックフリーデータ構造の制御フロー内で自然に処理され、性能への影響は最小限に抑えられる。