[논문 리뷰] Analyzing Hypersensitive AI: Instability in Corporate-Scale Machine Learning

Michaela Regneri, Malte Hoffmann외 4명|arXiv (Cornell University)|2018. 07. 17.

Topic Modeling참고 문헌 14인용 수 4

한 줄 요약

이 논문은 상위적 및 출력 일관성 메트릭을 조합하여 기업 규모의 기하학적 머신러닝 모델, 특히 word2vec에서의 불안정성을 측정하기 위한 민감도 분석 프레임워크를 제안한다. 연구는 계층적 소프트맥스(HS)가 분산을 감소시키고, 음성 샘플링이 민감도를 증가시키며, 희귀하거나 놀라운 연관성을 가진 개별 데이터 포인트가 모델 출력을 극적으로 변화시킬 수 있음을 밝혀내어 고정보량 데이터 포인트를 탐지하는 데 기여한다.

ABSTRACT

Predictive geometric models deliver excellent results for many Machine Learning use cases. Despite their undoubted performance, neural predictive algorithms can show unexpected degrees of instability and variance, particularly when applied to large datasets. We present an approach to measure changes in geometric models with respect to both output consistency and topological stability. Considering the example of a recommender system using word2vec, we analyze the influence of single data points, approximation methods and parameter settings. Our findings can help to stabilize models where needed and to detect differences in informational value of data points on a large scale.

연구 동기 및 목표

• 신뢰성과 재현 가능성이 핵심적인 대규모 산업용 머신러닝 시스템에서 증가하는 모델 불안정성 문제를 해결하기 위해.
• 입력 데이터 변화와 알고리즘 근사화 방법에 기인한 기하학적 모델, 특히 word2vec의 불안정성 원인을 분리 분석하기 위해.
• 매개변수나 데이터 변화에 대한 변동에 대해 임베딩의 상위적 변화와 출력 일관성을 모두 측정할 수 있는 확장성 있고 응용 중심의 메트릭을 개발하기 위해.
• 모델 불안정성에 가장 큰 기여를 하는 데이터 포인트를 식별하여 데이터 품질 평가 및 모델 안정화에 기여하기 위해.
• 데이터 포인트의 영향력에 기반해 모델 안정성과 성능에 대한 기업가치를 예측하고 측정할 수 있는 기반을 마련하기 위해.

제안 방법

• 저자들은 전자상거래 클릭스트림 데이터를 기반으로 훈련된 word2vec 임베딩을 사용하여 하이브리드 추천 시스템을 적용하여 항목 간 추천을 모델링한다.
• 임베딩 공간의 구조적 변화를 평가하기 위해 클러스터 수, 노이즈 포인트 수, 클러스터 순도 등의 상위적 데이터 분석(TDA) 메트릭을 사용한다.
• 단일 데이터 포인트 또는 다른 초모수 설정으로 훈련된 모델 간 상위 10개 추천의 겹침을 측정하여 출력 일관성을 평가한다.
• 개별 데이터 포인트가 모델 출력과 위상에 미치는 영향을 고립시키기 위해 라이브러리-온-아웃 민감도 분석을 수행한다.
• 제어 조건 하에서 두 가지 근사화 방법인 계층적 소프트맥스(HS)와 음성 샘플링을 비교하여 안정성에 미치는 영향을 평가한다.
• Huffman 트리와 난수 시드를 고정함으로써 word2vec의 난수성을 제거하여 런 간 재현 가능한 비교를 가능하게 한다.

실험 결과

연구 질문

• RQ1 다양한 근사화 방법(예: 계층적 소프트맥스 대비 음성 샘플링)이 word2vec 임베딩의 안정성에 어떤 영향을 미치는가?
• RQ2 특히 희귀하거나 의미적으로 복잡한 데이터 포인트들이 최종 모델 구조와 출력에 얼마나 큰 영향을 미치는가?
• RQ3 임베딩 공간의 상위적 성질(예: 클러스터 수, 클러스터 순도)이 출력 일관성과 모델 민감도와 어떻게 상관관계가 있는가?
• RQ4 입력 데이터 변동에 기인한 불안정성과 알고리즘 근사화 전략에 기인한 불안정성 간을 구분할 수 있는가?
• RQ5 데이터 포인트의 정보 밀도와 모델 안정성 및 출력 품질에 대한 영향력 간의 관계는 어떠한가?

주요 결과

• 계층적 소프트맥스(HS)에서 Huffman 트리를 고정함으로써 word2vec에서 분산이 완전히 제거되어 동일한 입력 데이터에 대해 완전히 재현 가능한 결과를 얻을 수 있다.
• 음성 샘플링은 데이터 변화에 더 민감한 반면, HS는 더 높은 출력 및 상위적 안정성을 유지한다.
• 임베딩 공간 내 클러스터 수는 모델 간에 크게 변동하며, 해밍 거리와 Huffman 코드 변경이 모두 높을 경우 더 큰 변화가 관찰된다.
• 모든 모델에서 노이즈 포인트의 평균 수는 약 143,416 ± 99로 거의 일정하여 상위적 분석에 안정적인 기준을 제공한다.
• 모든 임베딩에서 클러스터 순도의 평균은 0.910 ± 0.002이며, 더 적고 더 일관성 있는 클러스터를 가진 모델에서 순도가 더 높게 관찰된다.
• 로컬 임베딩 밀도는 추천 겹침과 반비례한다: 더 높은 밀도 영역에서는 품질 손실 없이도 추천의 변동성이 더 크다.