[論文レビュー] SkyServer Traffic Report - The First Five Years

Vik Singh, Jim Gray+6 more|ArXiv.org|Jan 26, 2007

Data Management and Algorithms参考文献 13被引用数 35

ひとこと要約

この論文は、スローン・デジタル・スカイ・サーベイのオンラインポータルであるSkyServerの5年間のトラフィックデータを分析し、ユーザー行動、クエリ使用状況、システムパフォーマンスのパターンを明らかにした。このプラットフォームは、アドホックなSQLアクセスを通じて科学的調査と教育を支援する成功を収めたことが示され、1600万件のクエリと6200万件のページビューが記録された。また、有効なクエリのコーパスを用いて、誤ったクエリを訂正するための新しい手法を提案した。

ABSTRACT

The SkyServer is an Internet portal to the Sloan Digital Sky Survey Catalog Archive Server. From 2001 to 2006, there were a million visitors in 3 million sessions generating 170 million Web hits, 16 million ad-hoc SQL queries, and 62 million page views. The site currently averages 35 thousand visitors and 400 thousand sessions per month. The Web and SQL logs are public. We analyzed traffic and sessions by duration, usage pattern, data product, and client type (mortal or bot) over time. The analysis shows (1) the site's popularity, (2) the educational website that delivered nearly fifty thousand hours of interactive instruction, (3) the relative use of interactive, programmatic, and batch-local access, (4) the success of offering ad-hoc SQL, personal database, and batch job access to scientists as part of the data publication, (5) the continuing interest in "old" datasets, (6) the usage of SQL constructs, and (7) a novel approach of using the corpus of correct SQL queries to suggest similar but correct statements when a user presents an incorrect SQL statement.

研究の動機と目的

• SkyServer、Sloan Digital Sky Surveyのパブリックポータルのユーザーのアクセスパターンとシステム利用状況を理解すること。
• データ公開の一部として、アドホックなSQL、個人データベース、バッチアクセスの有効性を評価すること。
• インタラクティブ利用とセッション時間の長さを通じて、プラットフォームの教育的影響を評価すること。
• 古いデータセットやクエリパターンに対する関心の持続性を分析すること。
• 有効なクエリのコーパスを用いて、誤ったクエリに対して訂正可能な代替クエリを提案する新しい手法を開発・検証すること。

提案手法

• 2001年から2006年までの5年間にわたり、WebおよびSQLアクセスのログ分析を実施。訪問者数、セッション時間、データ製品の利用状況を含む。
• アクセスパターンとリクエスト頻度に基づいて、クライアントを「一般ユーザー（mortals）」と「ボット」に分類。
• クエリの種別を、インタラクティブ、プログラム制御、バッチローカルアクセスに分類。
• 1600万件のアドホックなSQLクエリを抽出・分析し、SQL構文の使用状況とエラーのパターンを調査。
• 誤ったクエリを入力したユーザーに対して、有効な代替クエリを提案するシステムを訓練するため、正しいSQLクエリのコーパスを作成。
• 公開されたログを活用して、トラフィックと利用傾向の再現可能で透明な分析を可能にした。

実験結果

リサーチクエスチョン

• RQ1 ユーザーのセッション時間、データ製品へのアクセス、クライアントタイプの観点から、SkyServerの利用パターンの主な特徴は何か？
• RQ2 アドホックなSQLアクセスは、科学的調査やデータ探索をどの程度効果的に支援しているか？
• RQ3 ユーザーが古いデータセットをどの程度継続してアクセスしているか。これは、データの長期的有用性を示唆しているか？
• RQ4 どのSQL構文が最も頻繁に使用されており、クエリエラーは一般的な構文パターンとどのように関連しているか？
• RQ5 有効なSQLクエリのコーパスを用いて、誤ったユーザークエリに対する有効な訂正案を効果的に提案できるか？

主な発見

• SkyServerは5年間で100万件のユニークな訪問者を獲得し、300万件のセッションを記録。Webヒットは1億7000万件、ページビューは6200万件にのぼった。
• プラットフォームは1600万件のアドホックなSQLクエリを処理し、インタラクティブなデータ探索への高い関与がうかがえた。
• 約5万時間にわたるインタラクティブな教育指導が提供された。これは、サイトの教育的影響を強く示している。
• システムは、インタラクティブクエリに加え、プログラム制御およびバッチアクセスの両方を含む多様なアクセス方法を効果的にサポートした。
• トラフィックの顕著な一部がボット由来であり、これは自動的なデータ収集および統合を示している。
• 正しいSQLクエリのコーパスを活用することで、誤ったユーザークエリに対して構文的に妥当な代替案を効果的に提案する新しい手法が実現された。