[논문 리뷰] A primer on model-guided exploration of fitness landscapes for biological sequence design

Sam Sinai, Eric D. Kelsic|arXiv (Cornell University)|2020. 10. 04.

Evolutionary Algorithms and Applications참고 문헌 84인용 수 16

한 줄 요약

이 논문은 높은 차원의 생물학적 서열 공간을 탐색하여 원하는 기능적 특성을 가진 서열을 식별하기 위한 모델 유도 탐색 전략에 대한 종합적인 안내서를 제시한다. 정확한 적합도 표면 모델링과 효율적인 탐색 알고리즘 설계 사이의 차이를 강조하며, 알고리즘 설계, 평가에서의 함정, 기계학습과 실험 생물학의 융합을 위한 최선의 실천 방안에 대한 실용적 지침을 제공한다.

ABSTRACT

Machine learning methods are increasingly employed to address challenges faced by biologists. One area that will greatly benefit from this cross-pollination is the problem of biological sequence design, which has massive potential for therapeutic applications. However, significant inefficiencies remain in communication between these fields which result in biologists finding the progress in machine learning inaccessible, and hinder machine learning scientists from contributing to impactful problems in bioengineering. Sequence design can be seen as a search process on a discrete, high-dimensional space, where each sequence is associated with a function. This sequence-to-function map is known as a "Fitness Landscape". Designing a sequence with a particular function is hence a matter of "discovering" such a (often rare) sequence within this space. Today we can build predictive models with good interpolation ability due to impressive progress in the synthesis and testing of biological sequences in large numbers, which enables model training and validation. However, it often remains a challenge to find useful sequences with the properties that we like using these models. In particular, in this primer we highlight that algorithms for experimental design, what we call "exploration strategies", are a related, yet distinct problem from building good models of sequence-to-function maps. We review advances and insights from current literature -- by no means a complete treatment -- while highlighting desirable features of optimal model-guided exploration, and cover potential pitfalls drawn from our own experience. This primer can serve as a starting point for researchers from different domains that are interested in the problem of searching a sequence space with a model, but are perhaps unaware of approaches that originate outside their field.

연구 동기 및 목표

• 적합도 표면 모델링과 탐색의 도전 과제를 명확히 하여 기계학습과 생물학적 공학 간의 소통 격차를 메우기.
• 불완전한 오라클, 중복 서열, 기울기가 높은 표면에 대한 과도한 의존성 등으로 인해 발생하는 평가에서의 일반적인 함정을 식별하고 해결하기.
• 실제 생물학적 맥락에서 효율적이고 견고하며 확장 가능하고 재현 가능한 모델 유도 탐색 알고리즘의 선택과 설계를 도와주기.
• 실제 적합도 표면의 복잡성을 반영한 일관되고 잘 校정된 벤치마크의 사용을 촉진하여, 'swampland' 영역과 같은 기능적 기울기가 없는 영역도 포함하기.
• 다학제 연구자들이 단백질 및 핵산 설계 분야에서 효과적으로 모델 유도 탐색 기법을 이해하고 적용할 수 있도록 자원을 제공하기.

제안 방법

• 서열-기능 맵(적합도 표면)을 모델링하는 것과 그 표면을 탐색하기 위한 알고리즘을 설계하는 것을 구분하는 프레임워크를 제안하며, 이는 서로 다른 문제이지만 상호 연관되어 있음을 강조한다.
• 실제 구현에 중점을 두고, 인-실리코 진화 알고리즘, 탐색-이용 알고리즘, 정규화된 생성 모델을 포함한 다양한 모델 유도 탐색 전략을 검토한다.
• ‘병리적 오라클’(pathological oracles) 개념을 도입한다. 이는 학습 도메인 외부의 편향으로 인해 최적화를 오도할 수 있는 대체 모델이며, 과적합을 방지하기 위해 독립된 모델을 사용할 것을 권장한다.
• 실험적 합성에서 중복 서열을 방지하여 다양성과 적합도 지표가 인위적으로 과대평가되는 것을 막는다.
• 일반화 가능성을 확보하기 위해, 기울기가 균일하지 않은 표면(예: 'swampland' 영역)에서 알고리즘을 테스트할 것을 권장하며, 매끄럽고 기울기가 높은 표면에서만 테스트하는 것은 피한다.
• 선택 압력과 집단 크기를 자연 진화와 비교할 때 캘리브레이션하는 것이 중요하다. 이들 매개변수는 적합도 차이를 감지할 수 있는 해상도를 결정하기 때문이다.

실험 결과

연구 질문

• RQ1 적합도 표면의 예측 모델링과 그 표면을 효과적으로 탐색하기 위한 알고리즘 설계 사이의 핵심 차이점은 무엇인가?
• RQ2 기계학습 모델을 오라클로 사용할 때, 연구자가 알고리즘 과적합을 어떻게 방지할 수 있는가?
• RQ3 기울기가 균일한 적합도 표면에서만 테스트하는 것이 실세계에서의 서열 설계 알고리즘 성능 평가에 부족한 이유는 무엇인가?
• RQ4 고차원 생물학적 서열 공간에서 임의의 비기능적 서열에서 최적화를 초기화할 경우 어떤 결과가 초래되는가?
• RQ5 자연 진화 과정과 비교하여 모델 유도 탐색을 벤치마크할 때 선택 압력과 집단 크기를 어떻게 캘리브레이션해야 하는가?

주요 결과

• 모델 유도 탐색은 모델 훈련과 구별되며, 알고리즘은 높은 적합도 서열을 찾는 능력 외에도 효율성, 확장성, 견고성 측면에서 평가되어야 한다.
• 진정한 적합도 표면을 반영하지 못하는 대체 오라클(예: 기계학습 모델)을 사용할 경우, 특히 알고리즘이 모델의 편향에 과적합할 경우, 낙관적인 성능 결과가 유도될 수 있다.
• 기울기가 곳곳에 존재하는 표면에서만 테스트하는 것은 알고리즘 성능을 과대평가하게 하며, 생물학적 서열 공간에서 흔히 존재하는 광범위한 비기능 영역('swampland')을 반영하지 못한다.
• 임의의 비기능적 서열에서 초기화하면, 오르막 탐색 알고리즘이 지역 최적점에서 벗어나지 못할 수 있으며, 특히 정점 근처나 평평한 영역에 초기화될 경우 그러한 문제가 악화된다.
• 자연 진화 과정과 비교할 때 선택 압력과 집단 크기를 일관되지 않게 캘리브레이션하면, 알고리즘 효율성에 대한 잘못된 결론을 이끌 수 있다. 진화 역학은 이들 매개변수에 매우 민감하기 때문이다.
• 합성 라이브러리에서 중복 서열은 다양성과 적합도 지표를 인위적으로 과대평가하여 실험적 벤치마크의 타당성을 해칠 수 있으며, 이는 신중한 실험 설계가 필요하다.