[논문 리뷰] SkyServer Traffic Report - The First Five Years

Vik Singh, Jim Gray외 6명|ArXiv.org|2007. 01. 26.

Data Management and Algorithms참고 문헌 13인용 수 35

한 줄 요약

이 논문은 스ローン 디지털 천문도서관의 온라인 포털인 SkyServer에서 5년간의 트래픽 데이터를 분석하여 사용자 행동, 쿼리 사용 방식, 시스템 성능의 패턴을 규명한다. 플랫폼이 애드혹 SQL 접근을 통해 과학 연구와 교육을 지원하는 데 성공했음을 입증하며, 1,600만 건의 쿼리와 6,200만 건의 페이지 뷰를 기록했고, 유효한 쿼리 코퍼스를 활용해 잘못된 SQL 쿼리를 보완하는 데 유용한 새로운 방법을 제안한다.

ABSTRACT

The SkyServer is an Internet portal to the Sloan Digital Sky Survey Catalog Archive Server. From 2001 to 2006, there were a million visitors in 3 million sessions generating 170 million Web hits, 16 million ad-hoc SQL queries, and 62 million page views. The site currently averages 35 thousand visitors and 400 thousand sessions per month. The Web and SQL logs are public. We analyzed traffic and sessions by duration, usage pattern, data product, and client type (mortal or bot) over time. The analysis shows (1) the site's popularity, (2) the educational website that delivered nearly fifty thousand hours of interactive instruction, (3) the relative use of interactive, programmatic, and batch-local access, (4) the success of offering ad-hoc SQL, personal database, and batch job access to scientists as part of the data publication, (5) the continuing interest in "old" datasets, (6) the usage of SQL constructs, and (7) a novel approach of using the corpus of correct SQL queries to suggest similar but correct statements when a user presents an incorrect SQL statement.

연구 동기 및 목표

• SkyServer, 즉 스ローン 디지털 천문도서관에 대한 공개 포털의 사용자 접근 패턴과 시스템 활용도를 이해하기 위해.
• 데이터 공개의 일환으로 애드혹 SQL, 개인 데이터베이스, 배치 접근 방식의 효과성을 평가하기 위해.
• 인터랙티브 사용과 세션 지속 시간을 통해 플랫폼의 교육적 영향을 평가하기 위해.
• 오래된 데이터셋과 쿼리 패턴에 대한 관심의 지속성 분석하기 위해.
• 유효한 쿼리 코퍼스를 활용해 잘못된 사용자 쿼리에 대해 올바른 대체 쿼리를 제안하는 새로운 방법을 개발하고 검증하기 위해.

제안 방법

• 2001~2006년 동안 웹 및 SQL 접근 로그 분석을 통해 방문자 수, 세션 지속 시간, 데이터 제품 사용량을 포함한 5년간의 트래픽 분석.
• 접근 패턴과 요청 빈도를 기반으로 클라이언트를 일반 사용자( mortals )와 봇으로 분류.
• 쿼리 유형을 인터랙티브, 프로그래밍 방식, 또는 배치-로컬 접근으로 분류.
• 1,600만 건의 애드혹 SQL 쿼리 추출 및 분석을 통해 SQL 구조 사용 패턴과 오류 패턴 연구.
• 사용자가 잘못된 쿼리를 제출했을 때 유효한 대체 쿼리를 제안할 수 있도록, 정확한 SQL 쿼리 코퍼스를 구축.
• 공개된 로그를 활용해 트래픽 및 사용 추세에 대한 재현 가능하고 투명한 분석 가능성을 확보.

실험 결과

연구 질문

• RQ1 사용자 세션 지속 시간, 데이터 제품 접근 방식, 클라이언트 유형 측면에서 SkyServer 사용자의 주요 사용 패턴은 무엇인가?
• RQ2 애드혹 SQL 접근 방식이 과학적 연구와 데이터 탐색을 얼마나 효과적으로 지원하는가?
• RQ3 사용자들이 오래된 데이터셋을 얼마나 오랫동안 액세스하는가? 이는 장기적인 데이터 유용성의 지표가 되는가?
• RQ4 어떤 SQL 구조가 가장 자주 사용되며, 쿼리 오류는 일반적인 문법 패턴과 어떻게 관련이 있는가?
• RQ5 유효한 SQL 쿼리 코퍼스를 활용해 사용자 쿼리의 잘못된 문장 구조를 효과적으로 보완할 수 있는가?

주요 결과

• SkyServer는 5년 동안 100만 명의 고유 방문자와 300만 개의 세션을 기록했으며, 웹 히트 수는 1억 7,000만 건, 페이지 뷰는 6,200만 건에 달했다.
• 플랫폼은 1,600만 건의 애드혹 SQL 쿼리를 처리하여 인터랙티브 데이터 탐색에 대한 높은 참여도를 보였다.
• 실제로 약 5만 시간에 가까운 인터랙티브 교육이 제공되었으며, 이는 사이트의 교육적 영향력을 잘 보여준다.
• 다양한 접근 방식을 효과적으로 지원했으며, 인터랙티브 쿼리 외에도 프로그래밍 방식과 배치 접근이 상당히 널리 사용되었다.
• 트래픽의 상당 부분이 봇에서 유래하여 자동화된 데이터 수확 및 통합을 의미한다.
• 정확한 SQL 쿼리 코퍼스를 활용해 잘못된 사용자 쿼리에 대해 문법적으로 타당한 대체 쿼리를 효과적으로 제안하는 데 성공했다.