[논문 리뷰] A Framework for Evaluation of Composite Memento Temporal Coherence

Scott G. Ainsworth, Michael L. Nelson외 1명|arXiv (Cornell University)|2014. 02. 05.

Web Data Mining and Analysis참고 문헌 10인용 수 23

한 줄 요약

이 논문은 Memento-Datetime, Last-Modified 타임스탬프 및 콘텐츠 유사도를 사용하여 루트 웹 아카이브 미멘토와 그 내장 자원 간의 시간적 일관성 평가를 위한 프레임워크를 제안한다. 시간적 패턴과 콘텐츠 패턴을 바탕으로 사전 일관성, 가능성 있는 일관성, 상당히 위반 가능성, 사전 위반으로 나누어 일관성 상태를 분류하며, 이는 내장 자원이 루트 자원에 비해 뚜렷한 시간적 비일관성을 보일 수 있음을 드러낸다.

ABSTRACT

Most archived HTML pages embed other web resources, such as images and stylesheets. Playback of the archived web pages typically provides only the capture date (or Memento-Datetime) of the root resource and not the Memento-Datetime of the embedded resources. In the course of our research, we have discovered that the Memento-Datetime of embedded resources can be up to several years in the future or past, relative to the Memento-Datetime of the embedding root resource. We introduce a framework for assessing temporal coherence between a root resource and its embedded resource depending on Memento-Datetime, Last-Modified datetime, and entity body.

연구 동기 및 목표

• 루트 자원과 다를 바 없이 캡처된 내장 자원이 루트 자원과 상당히 다른 시간에 캡처되어 발생하는 웹 아카이브 복합 웹 자원에서의 시간적 비일관성 문제를 해결하기 위해.
• 웹 아카이브 내 루트 및 내장 미멘토 간 시간적 비일관성 패턴을 식별하고 분류하기 위해.
• 사전 일관성, 가능성 있는 일관성, 상당히 위반 가능성, 사전 위반으로 나누어지는 네 가지 상태를 구분할 수 있는 체계적 평가 프레임워크를 제공하기 위해.
• 향상된 크롤링 전략이 필요 없이도 캡처된 웹 콘텐츠의 품질을 보다 잘 평가할 수 있도록 하기 위해.
• 캡처 시점, 수정 일시 및 콘텐츠 무결성 분석을 통해 연구자와 아카이브 기관이 캡처된 웹 페이지의 신뢰성에 대해 이해할 수 있도록 지원하기 위해.

제안 방법

• 프레임워크는 루트 및 내장 자원의 Memento-Datetime, 내장 자원의 Last-Modified 타임스탬프, 미멘토 간 콘텐츠 유사도를 사용하여 일관성 평가를 수행한다.
• 시간 순서 및 메타데이터 조건을 기반으로 한 가지 미멘토에서 두 개의 미멘토, 콘텐츠 기반 패턴까지 포함한 14개의 고유한 일관성 패턴을 정의한다.
• 패턴은 네 가지 일관성 상태로 분류된다: 사전 일관성(내장 자원이 루트 이후에 캡처되고 수정되지 않은 경우), 가능성 있는 일관성(마지막 수정일시가 이전인 경우), 상당히 위반 가능성(마지막 수정일시가 정의되지 않았고 캡처 시점이 루트 이후인 경우), 사전 위반(마지한 수정일시가 루트 이후이며 캡처 시점도 루트 이후인 경우).
• 콘텐츠 유사도는 등가성 또는 유사도 임계값(예: m_{i,j-1} = m_{i,j} 또는 m_{i,j-1} ~ m_{i,j})을 사용하여 일관성 판단을 정밀화한다.
• 캡처되지 않은 자원, 라이브 웹으로의 리디렉션, 1초 해상도로 인한 Memento-Datetime 충돌과 같은 극단 케이스를 처리한다.
• 여러 패턴이 동시에 적용될 경우 가장 불리한 일관성 상태를 선택하는 의사결정 규칙을 제안하여 보수적인 평가를 보장한다.

실험 결과

연구 질문

• RQ1 웹 아카이브에서 루트 자원과 내장 자원 간의 주로 발생하는 시간적 비일관성 패턴은 무엇인가?
• RQ2 Memento-Datetime, Last-Modified 타임스탬프 및 콘텐츠 유사도가 함께 작용하여 캡처된 복합 웹 자원의 일관성에 어떻게 영향을 미치는가?
• RQ3 캡처된 웹 페이지 내장 자원의 캡처 시점이 루트 자원의 캡처 시점보다 상당히 이르거나 늦게 되는 정도는 어느 정도인가?
• RQ4 완전한 크롤 로그에 접근하지 않더라도 Memento-Datetime, Last-Modified 및 콘텐츠 비교만으로도 일관성을 신뢰성 있게 평가할 수 있는가?
• RQ5 메타데이터 불일치(예: Last-Modified 누락, Memento-Datetime 충돌)는 일관성 평가의 신뢰성에 어떤 영향을 미치는가?

주요 결과

• 웹 아카이브에서 루트 자원과 내장 자원의 캡처 시점 간 시간 격차가 1년 이상을 초과하는 경우가 있으며, 일부 사례는 5년 또는 심지어 10년을 초과하기도 한다.
• 루트 자원과 거의 동시에 캡처된 내장 자원일지라도, 충돌하는 Last-Modified 타임스탬프로 인해 여전히 시간적 비일관성이 발생할 수 있다.
• 내장 자원 중 상당수는 루트 자원보다 이후에 캡처되며, 일부(예: 기상 위성 이미지)는 루트 자원 캡처 이후 최대 9개월 후에 캡처되어 사전 위반으로 간주된다.
• 콘텐츠 유사도는 핵심 요소이다: 내장 자원이 동일하거나 유사할 경우, 캡처 시점이 다를지라도 사전 일관성으로 판단될 가능성이 높아진다.
• 프레임워크는 네 가지 명확한 수준의 일관성 상태를 분류하여 캡처된 웹 콘텐츠 품질에 대한 미세한 평가가 가능하게 한다.
• 캡처되지 않은 자원, 라이브 웹으로의 리디렉션, 1초 해상도로 인한 Memento-Datetime 충돌과 같은 극단 케이스에 대해 프레임워크가 강건함을 입증하였다.