[논문 리뷰] Evolution with Drifting Targets

Varun Kanade, Leslie G. Valiant외 1명|arXiv (Cornell University)|2010. 05. 19.

Machine Learning and Algorithms참고 문헌 17인용 수 11

한 줄 요약

이 논문은 목표 함수의 점진적 변화(드리프트)에 대해 안정성을 유지하는 진화 알고리즘의 프레임워크를 제안한다. 상관 질문 기법을 적용하여, 모든 적응 가능한 개념 클래스가 다항 자원을 사용해 드리프트에 강건한 알고리즘으로 변환될 수 있음을 증명하며, 역다항 드리프트 비율 조건 하에서도 높은 정확도를 확보하고 유지한다.

ABSTRACT

We consider the question of the stability of evolutionary algorithms to gradual changes, or drift, in the target concept. We define an algorithm to be resistant to drift if, for some inverse polynomial drift rate in the target function, it converges to accuracy 1 -- ε, with polynomial resources, and then stays within that accuracy indefinitely, except with probability ε, at any one time. We show that every evolution algorithm, in the sense of Valiant (2007; 2009), can be converted using the Correlational Query technique of Feldman (2008), into such a drift resistant algorithm. For certain evolutionary algorithms, such as for Boolean conjunctions, we give bounds on the rates of drift that they can resist. We develop some new evolution algorithms that are resistant to significant drift. In particular, we give an algorithm for evolving linear separators over the spherically symmetric distribution that is resistant to a drift rate of O(ε/n), and another algorithm over the more general product normal distributions that resists a smaller drift rate. The above translation result can be also interpreted as one on the robustness of the notion of evolvability itself under changes of definition. As a second result in that direction we show that every evolution algorithm can be converted to a quasi-monotonic one that can evolve from any starting point without the performance ever dipping significantly below that of the starting point. This permits the somewhat unnatural feature of arbitrary performance degradations to be removed from several known robustness translations.

연구 동기 및 목표

• 목표 함수의 점진적 변화(드리프트)에 대한 진화 알고리즘의 안정성을 체계화하는 것.
• 적응 가능성 모델에서 드리프트 저항성을 강건성 특성으로 정의하고 분석하는 것.
• 모든 적응 가능한 개념 클래스가 상관 질문 기법을 통해 드리프트 저항성 알고리즘으로 변환될 수 있음을 보여주는 것.
• 구면 대칭 및 곱 정규 분포 위에서 선형 분리자에 대한 새로운 진화 알고리즘을 개발하고, 드리프트 내성 범위를 정량화하는 것.
• 기본 가설이 최적화되지 않은 상태에서 성능 저하가 발생하지 않도록 방지하기 위해 준단조성 진화 알고리즘을 도입하는 것.

제안 방법

• Feldman [9]의 상관 질문 기법을 적용하여, 어떤 진화 알고리즘도 드리프트 저항성 알고리즘으로 변환하는 것.
• 드리프트 저항성을 다항 자원과 함께 1−ϵ 정확도 수렴 및 역다항 드리프트 조건 하에서도 지속적인 높은 성능을 확보하는 것으로 정의한다.
• 대상 클래스의 표현을 위해 변수 추가, 제거, 교환, 리터럴 부정을 포함하는 이웃 구조(neighborhood, Neigh)를 정의한다.
• 강건한 성능 추정을 보장하기 위해 내시 함수 t(r,ϵ)=ϵ²/18 및 샘플 크기 s=Õ(1/ϵ²)를 사용한다.
• 균일 분포 조건 하에서 이웃 구조 변형의 성능 향상을 사례별 분석을 통해 분석한다.
• 단조성 및 일반 단조성의 경우, 알고리즘이 ∆≤ϵ²/144까지의 드리프트 비율에 저항함을 증명한다.

실험 결과

연구 질문

• RQ1 목표 함수가 점진적으로 변화할 때 진화 알고리즘이 높은 성능을 유지할 수 있는가?
• RQ2 주어진 진화 알고리즘이 높은 정확도로 수렴하기 위해 내재할 수 있는 최대 드리프트 비율은 얼마인가?
• RQ3 모든 적응 가능한 개념 클래스가 일반적인 기법을 통해 드리프트 저항성 알고리즘으로 변환될 수 있는가?
• RQ4 특히 최적화되지 않은 가설에서 시작할 경우 성능 저하를 어떻게 방지할 수 있는가?
• RQ5 구면 대칭 및 곱 정규 분포 조건 하에서 선형 분리자에 대한 드리프트 저항 경계는 무엇인가?

주요 결과

• 논문은 상관 질문 기법을 통해 모든 적응 가능한 개념 클래스가 드리프트 저항성 알고리즘으로 변환될 수 있음을 증명하며, 1−ϵ 정확도 범위 내에서 지속적인 성능을 보장한다.
• 단조성의 경우, 다항 자원과 샘플 크기 Õ(1/ϵ²)을 사용해 드리프트 비율 ∆≤ϵ²/144까지 저항함을 입증한다.
• 일반 단조성의 경우, 이웃 구조에 리터럴 부정이 포함되며, 동일한 다항 임계값 이하의 드리프트 비율에 저항한다.
• 구면 대칭 분포 위에서 선형 분리자에 대한 알고리즘이 O(ϵ/n) 드리프트 비율까지 저항함을 보이며, 더 높은 강건성을 입증한다.
• 성능이 시작점 이하로 떨어지지 않도록 방지하는 새로운 준단조성 진화 알고리즘을 도입한다. 이로써 임의의 성능 저하를 제거한다.
• 상관 질문 기법을 통한 변환은 정의 변경, 드리프트 및 단조성 제약 조건에 대해 적응 가능성의 강건성을 보장한다.