[論文レビュー] Your data is your dogfood: DevOps in the astronomical observatory

Frossie Economou, Joshua Hoblitt+1 more|arXiv (Cornell University)|Jul 24, 2014

Scientific Computing and Data Management参考文献 10被引用数 7

ひとこと要約

本論文は、天文台における機能的サイロ（部門間の断絶）を解消するため、特に『インフラストラクチャをコードとして扱う』および内部ツールの自らの使用（『自分自身のドッグフードを食べる』）というDevOps実践を応用することを提案する。データを最初に扱う共有インターフェースとして扱い、自動化・バージョン管理可能なシステムを用いることで、観測所は協働体制を強化し、導入の障壁を低減し、標準化・アジャイルなソフトウェア実践を通じて科学的ワークフローを加速できる。

ABSTRACT

DevOps is the contemporary term for a software development culture that purposefully blurs distinction between software development and IT operations by treating "infrastructure as code." DevOps teams typically implement practices summarised by the colloquial directive to "eat your own dogfood;" meaning that software tools developed by a team should be used internally rather thrown over the fence to operations or users. We present a brief overview of how DevOps techniques bring proven software engineering practices to IT operations. We then discuss the application of these practices to astronomical observatories.

研究の動機と目的

• 望遠鏡、機器、データ還元、アーカイブチームが独立して作業することによって生じる分断と非効率を是正すること。
• 開発と運用の間で生じる『混乱の壁』（開発と運用の間のコミュニケーション不足や引継ぎの悪さを比喩的に表したもの）を、ソフトウェアと運用の実践を統合することで軽減すること。
• バージョン管理、自動テスト、継続的インテグレーションといったDevOpsの原則を観測所のソフトウェアワークフローに採用することで、ソフトウェアの再利用性と導入効率を向上させること。
• データとメタデータを全観測所パイプライン段階でよりアクセス可能で、自己文書化可能かつ機器に即応可能な形にすることで、データ製品の内部的利用を促進すること。
• 迅速にソフトウェアとインフラストラクチャを反復可能なフルスタックのクロスファンクショナルチームが構築でき、導入までの時間を短縮し、システムの信頼性を向上させること。

提案手法

• 構成管理ツール（例：Puppet）を用いて『インフラストラクチャをコードとして扱う』ことで、システム構成を定義・バージョン管理し、サーバーを設定可能なクラスのインスタンスとして扱う。
• Git などのバージョン管理システムをアプリケーションコードおよびインfraストラクチャ構成に適用することで、ブランチ作成、ロールバック、監査ログの確保を可能にする。
• ユニットテスト、コードレビュー、リファクタリングといったアジャイルソフトウェア工学の実践を、システム管理およびデータパイプライン開発に統合し、コード品質と信頼性を向上させる。
• コンテナ化および仮想化を用いてサービスをカプセル化し、開発・テスト・本番環境で一貫性があり、安全で再現可能な実行環境を確保する。
• データ製品から抽出したエンジニアリングおよび科学的関連メトリクス（例：画像品質、データ品質フラグ）を活用した監視およびダッシュボードを導入し、リアルタイムのフィードバックループを可能にする。
• データフォーマットおよびメタデータスキーマを標準化することで、チーム間でのセルフサービス型アクセスと分析を可能にし、観測所のコンponent間のデータフローを最初に扱うAPIとして扱う。

実験結果

リサーチクエスチョン

• RQ1 DevOps実践は、天文台におけるソフトウェア開発と運用の間の『混乱の壁』をどのように軽減できるか？
• RQ2 データを『ドッグフード』として扱う、すなわちデータ製品を内部的に使用することによって、望遠鏡、機器、データ還元、アーカイブチーム間の機能的サイロはどのように解消されるか？
• RQ3 観測所のITシステムに『インフラストラクチャをコードとして扱う』こととバージョン管理可能な構成を適用することで得られる技術的および組織的利点は何か？
• RQ4 DevOpsの原則は、分野の歴史的なコード共有への抵抗を考慮しても、ソフトウェアの再利用性と協働体制をどのように向上させられるか？
• RQ5 DevOps実践は、観測所環境における科学的ソフトウェアおよびデータパイプラインの、より速く、より信頼性が高く、より柔軟な展開をどの程度可能にするか？

主な発見

• インフラストラクチャをコードとして扱う、バージョン管理といったDevOps実践は、システムの信頼性と導入頻度を顕著に向上させ、ハイパフォーマンスDevOpsチームは、同様のチームと比較して30倍頻繁にリリースしている。
• DevOpsの導入により、再現可能でコードベースのシステム状態が実現され、サービスの回復時間が従来のIT運用と比較して12倍速くなった。
• 自動化とインフラストラクチャをコードとして扱うことで、観測所は1人あたり20,000台を超えるマシン管理が可能となり、2002年の10:1〜20:1の範囲をはるかに上回る。
• エンジニアリングおよび科学的メタデータをデータファイルに直接埋め込み、監視ダッシュボードを活用することで、フィードバックループを閉じ、データ品質の能動的向上が可能になる。
• 標準化され、自己文書化可能なデータフォーマットと、公開ソフトウェアホスティング（例：GitHub）の活用により、より広範な再利用と協働が可能となり、重複開発が削減され、科学的進展が加速する。
• 自らのツールとデータ製品を内部的に使用するクロスファンクショナルでフルスタックのチームは、ソフトウェアスタック全体で柔軟性が向上し、迅速な反復が可能になり、技術的負債が削減される。