[논문 리뷰] Resurrecting My Revolution: Using Social Link Neighborhood in Bringing Context to the Disappearing Web

Hany M. SalahEldeen, Michael L. Nelson|arXiv (Cornell University)|2013. 09. 10.

Social Media and Politics참고 문헌 16인용 수 3

한 줄 요약

이 논문은 사라진 웹 자원에 대해 공유된 트윗들에서 공시되는 상위 5개 단어로 구성된 '트윗 서명(tweet signature)'을 검색 엔진에 검색어로 사용하여 유사한 의미적 대체 자원을 복구하는 방법을 제안한다. 사라진 자원의 소셜 링크 주변 환경을 분석함으로써, 41%의 경우 원본 자료와 70% 이상의 텍스트 유사도를 달성하며, 디지털 보존 노력에서 사라진 웹 콘텐츠를 복원하는 실용적인 솔루션을 제공한다.

ABSTRACT

In previous work we reported that resources linked in tweets disappeared at the rate of 11% in the first year followed by 7.3% each year afterwards. We also found that in the first year 6.7%, and 14.6% in each subsequent year, of the resources were archived in public web archives. In this paper we revisit the same dataset of tweets and find that our prior model still holds and the calculated error for estimating percentages missing was about 4%, but we found the rate of archiving produced a higher error of about 11.5%. We also discovered that resources have disappeared from the archives themselves (7.89%) as well as reappeared on the live web after being declared missing (6.54%). We have also tested the availability of the tweets themselves and found that 10.34% have disappeared from the live web. To mitigate the loss of resources on the live web, we propose the use of a "tweet signature". Using the Topsy API, we extract the top five most frequent terms from the union of all tweets about a resource, and use these five terms as a query to Google. We found that using tweet signatures results in discovering replacement resources with 70+% textual similarity to the missing resource 41% of the time.

연구 동기 및 목표

• 소셜 미디어를 통해 공유된 웹 자원의 지속성과 보존 상태를 조사하며, 이집트 혁명과 같은 역사적 사건의 맥락에서 이를 고려한다.
• 라이브 웹과 공공 아카이브에서 웹 자원이 사라지는 문제를 해결하고자 하며, 이는 디지털 보존과 최초의 역사적 기록에의 접근성에 위협이 된다.
• 특히 공시되는 트윗들의 '소셜 링크 주변 환경(social link neighborhood)'에서 유추된 맥락 정보를 활용하여 사라진 웹 자원을 복원하는 방법을 개발하고 평가한다.
• 트윗 서명이 사라진 자원의 의미적으로 유사한 대체 자원을 검색하는 데 얼마나 효과적인지 평가한다.

제안 방법

• Topsy API를 사용하여 각 자원에 대해 최대 500건의 최근 트윗을 추출하여 맥락 정보를 확보한다.
• 주어진 자원에 대해 모든 트윗의 결합에서 가장 빈도가 높은 상위 5개 단어를 식별하여 '트윗 서명'을 생성한다.
• 트윗 서명을 Google 검색의 검색어로 사용하여 후보 대체 자원을 검색한다.
• 원본으로 사라진 자원과 후보 대체 자원의 텍스트 콘텐츠를 정제하기 위해 'boilerplate' 제거 라이브러리인 'boilerpipe'를 적용한다.
• 원본 자원과 각 후보 자원 간의 코사인 유사도를 계산하여 텍스트 유사도를 측정한다.
• 유사도 점수에 따라 후보 자원을 순위 매기고 평가하며, 상위 결과를 비교에 사용한다.

실험 결과

연구 질문

• RQ1 소셜 미디어를 통해 공유된 웹 자원의 사라짐 비율은 얼마이며, 이는 아카이브 보존 비율과 어떻게 비교되는가?
• RQ2 공시되는 트윗들 간의 공통성에 의해 정의되는 사라진 자원의 소셜 링크 주변 환경은 얼마나 충분한 맥락을 제공할 수 있는가?
• RQ3 트윗 서명 방법이 원본 자원과 높은 텍스트 유사도를 가진 대체 자원을 검색하는 데 얼마나 효과적인가?
• RQ4 타임맵 수정과 아카이브 축소가 아카이브 가용성 추정의 정확성에 어떤 영향을 미치는가?
• RQ5 아카이브와 라이브 웹에서 자원의 가용성 및 재등장 여부는 디지털 보존의 신뢰성에 어떤 영향을 미치는가?

주요 결과

• 라이브 웹에서 웹 자원이 사라지는 비율은 첫 해 약 11%로 유지되며, 이후 매년 약 7.3%로 나타나 이전 연구 결과를 확인한다.
• 아카이브 자원을 추정하는 모델은 약 11.5%의 높은 오류율을 보였으며, 이는 주로 타임맵 축소와 아카이브 색인 변경으로 인한 것으로 보인다.
• 아카이브 자원의 7.89%는 자체적으로 사라졌고, 6.54%는 '사라진' 상태로 표시된 후 라이브 웹에 재등장하였다.
• 트윗 자체의 10.34%가 라이브 웹에서 사라졌으며, 이는 소셜 미디어 콘텐츠의 불안정성을 시사한다.
• 트윗 서명을 검색어로 사용함으로써 원본으로 사라진 자원과 최소 70% 이상의 텍스트 유사도를 확보한 경우가 41%에 달했다.
• 트윗 서명을 사용한 검색 결과의 평균 역순위(MRR)는 0.43이었으며, 이는 원본 자원을 검색하는 데 중간 정도의 효과성을 보였다.