[论文解读] Deep Motif: Visualizing Genomic Sequence Classifications

Jack Lanchantin, Ritambhara Singh+2 more|arXiv (Cornell University)|May 4, 2016

Genomics and Chromatin Dynamics参考文献 12被引用 60

一句话总结

Deep Motif (DeMo) 提出了一种深度卷积/高速公路MLP模型，在基因组序列中对转录因子结合位点（TFBS）的分类任务中达到了最先进性能。该方法通过优化驱动的输入反演技术，提取出可泛化、可解释的基序（以位置权重矩阵形式可视化），代表正样本类别，其在108个TF数据集中的92个上实现了更高的准确率和更优的基序质量，且在57次比较中与JASPAR基序性能相当或更优。

ABSTRACT

This paper applies a deep convolutional/highway MLP framework to classify genomic sequences on the transcription factor binding site task. To make the model understandable, we propose an optimization driven strategy to extract "motifs", or symbolic patterns which visualize the positive class learned by the network. We show that our system, Deep Motif (DeMo), extracts motifs that are similar to, and in some cases outperform the current well known motifs. In addition, we find that a deeper model consisting of multiple convolutional and highway layers can outperform a single convolutional and fully connected layer in the previous state-of-the-art.

研究动机与目标

• 使用深度学习提升基因组序列分类在转录因子结合位点（TFBS）任务中的准确性。
• 开发一种方法，生成可泛化、可解释的基序，代表正样本TFBS类别，且独立于特定训练序列。
• 克服浅层模型及先前深度学习方法（如DeepBind）中非泛化基序提取的局限性。
• 为应用于基因组学的深度神经网络中学习到的模式提供可视化与生物学解释。
• 证明相较于浅层模型，采用高速公路连接的深层架构在TFBS分类任务中具有性能优势。

提出的方法

• 采用三组128滤波器、长度为5的卷积层，以及五层全连接高速公路层（每层32个单元）的深度卷积/高速公路MLP架构。
• 输入序列为一比特编码的核苷酸字符串（A, C, G, T），通过多层处理以学习分层序列表征。
• 通过优化生成基序：从均匀初始化（0.25）开始，通过反向传播优化输入矩阵S，以最大化模型对正样本TFBS的预测概率。
• 将优化后的S矩阵裁剪至[0,1]区间，使用拉普拉斯平滑转换为位置权重矩阵（PWM），用于可视化学习到的基序。
• 该方法独立于特定测试序列，可泛化至正样本类别的模式，而非依赖于单个样本的激活。
• 基序相似性通过Tomtom（用于统计基序匹配）和AMA（用于测试序列上的基序亲和力评分）与JASPAR金标准基序进行评估。

实验结果

研究问题

• RQ1 相较于浅层模型（如DeepBind），采用更深的卷积与高速公路MLP架构是否能提升TFBS分类的准确性？
• RQ2 通过优化驱动的输入反演能否生成可泛化、具有生物学意义的基序，代表正样本TFBS类别，而非依赖于特定输入序列？
• RQ3 DeMo生成的基序与已建立的JASPAR基序在相似性与预测能力上表现如何？
• RQ4 使用更深的架构是否能更好地建模基因组序列中长程依赖关系，从而提升TFBS分类性能？
• RQ5 通过系统性基序提取策略，能否增强深度学习模型在基因组学中可解释性，同时保证准确性与生物学相关性？

主要发现

• 在108个TF数据集中的92个上，DeMo的AUC优于DeepBind，中位AUC达0.951，高于DeepBind的0.931。
• 在57个测试TF中，有36个的DeMo生成基序与JASPAR基序在Tomtom分析中显著匹配（q值 < 0.5），表明具有强生物学相似性。
• 在AMA基序亲和力评分中，DeMo的基序在超过50%的测试序列上优于JASPAR基序，覆盖29个TF（尽管JASPAR使用更大、经人工筛选的数据集）。
• 基于优化的基序提取方法生成密集输入矩阵，转换为PWM后可产生与已知TF结合偏好一致的生物学可解释模式。
• 采用高速公路连接的深层架构增强了特征抽象能力，提升了分类性能，证明了深度在建模复杂基因组序列模式中的优势。
• DeMo的基序生成具有泛化性，不依赖于特定测试样本，因此相比基于激活的方法更适用于生物学解释。