[논문 리뷰] Carbon Dating The Web: Estimating the Age of Web Resources

Hany M. SalahEldeen, Michael L. Nelson|arXiv (Cornell University)|2013. 04. 18.

Web Data Mining and Analysis참고 문헌 9인용 수 7

한 줄 요약

이 논문은 Bitly, Topsy, Google, 웹 아카이브, HTTP 헤더 등 여러 출처의 타임스탬프를 집계하여 웹 자원의 생성 일자를 추정하는 웹 애플리케이션인 Carbon Date를 제안한다. 금 standard 1,200개의 URI에서 생성 일자 추정 성공률가 75.9%이며, 가장 가까운 추정치의 정확도는 32.78%를 기록한다.

ABSTRACT

In the course of web research it is often necessary to estimate the creation datetime for web resources (in the general case, this value can only be estimated). While it is feasible to manually establish likely datetime values for small numbers of resources, this becomes infeasible if the collection is large. We present "carbon date", a simple web application that estimates the creation date for a URI by polling a number of sources of evidence and returning a machine-readable structure with their respective values. To establish a likely datetime, we poll bitly for the first time someone shortened the URI, topsy for the first time someone tweeted the URI, a Memento aggregator for the first time it appeared in a public web archive, Google's time of last crawl, and the Last-Modified HTTP response header of the resource itself. We also examine the backlinks of the URI as reported by Google and apply the same techniques for the resources that link to the URI. We evaluated our tool on a gold-standard data set of 1200 URIs in which the creation date was manually verified. We were able to estimate a creation date for 75.90% of the resources, with 32.78% having the correct value. Given the different nature of the URIs, the union of the various methods produces the best results. While the Google last crawl date and topsy account for nearly 66% of the closest answers, eliminating the web archives or Last-Modified from the results produces the largest overall negative impact on the results. The carbon date application is available for download or use via a webAPI.

연구 동기 및 목표

• 서버나 콘텐츠가 더 이상 이용 가능하지 않을 경우에도 신뢰할 수 있는 생성 일자 메타데이터가 부족한 웹 자원 문제를 해결하기 위해.
• 소셜 미디어 공유, 백링크, 아카이브 크롤링과 같은 간접적인 디지털 흔적을 활용하여 웹 자원의 최초 등장 시기를 추정하는 도구를 개발하기 위해.
• 다양한 타임스탬프 출처를 병합하여 정확한 나이 추정에 얼마나 효과적인지 평가하기 위해.
• 연구자들이 서버 측 메타데이터에 의존하지 않고도 어떤 URI의 생성 일자를 추정할 수 있도록 공개된 웹 API를 제공하기 위해.

제안 방법

• 대상 URI의 첫 번째 단축 URL 타임스탬프를 Bitly에서 검색한다.
• URI를 참조하는 첫 번째 트윗 타임스탬프를 Topsy에서 쿼리한다.
• Memento 집계기 서비스를 통해 공개 웹 아카이브에서 URI의 가장 이른 아카이브 버전을 확보한다.
• Google의 검색 인덱스에서 URI의 마지막 크롤링 날짜를 확보한다.
• 자원의 서버 응답에서 Last-Modified HTTP 헤더를 추출한다.
• Google를 사용해 URI의 백링크를 분석하고, 링크된 자원들에 동일한 타임스탬프 수집 절차를 적용한다.

실험 결과

연구 질문

• RQ1 어떤 타임스탬프 출처 조합이 웹 자원의 생성 일자를 가장 정확하게 추정하는가?
• RQ2 소셜 미디어, 검색 엔진, 웹 아카이브와 같은 다양한 출처가 생성 일자 추정 정확도에 어떻게 기여하는가?
• RQ3 개별 출처를 제외했을 때 전체 추정 정확도에 어떤 영향을 미치는가?
• RQ4 백링크와 소셜 미디어 활동이 자원의 최초 게재 일자를 대체로 얼마나 효과적으로 반영하는가?
• RQ5 Last-Modified HTTP 헤더가 생성 시간을 나타내는 지표로 얼마나 신뢰할 수 있는가?

주요 결과

• Carbon Date 도구는 금 standard 데이터셋에 포함된 1,200개 URI 중 75.90%에 대해 생성 일자를 성공적으로 추정하였다.
• 가장 가까운 추정 일자가 진짜 생성 일자와 일치한 경우가 총 32.78%였으며, 이 중 약 66%는 Google의 마지막 크롤링 날짜와 Topsy의 첫 번째 트윗 날짜에서 기인하였다.
• 웹 아카이브나 Last-Modified 헤더를 제외했을 때 정확도에 가장 큰 부정적 영향을 미쳤으며, 이로 인해 오류율이 크게 증가하였다.
• 백링크 사용은 오직 3개의 가장 가까운 추정치에 기여하여 이 방법의 기여도가 매우 낮음을 보여주었다.
• 다항식 피팅 분석 결과, 아카이브, Topsy, 또는 Last-Modified 헤더를 비활성화할 경우 AUC(곡선 아래 면적)가 가장 크게 증가하여 추정 오류가 증가하는 것으로 나타났다.
• 모든 방법의 유통합이 가장 우수한 결과를 보였으며, 여러 출처를 병합함으로써 추정의 강건성이 향상됨을 입증하였다.