LMPred_AMP_Prediction

LMPRED：使用预训练的语言模型和深度学习预测抗菌肽

现在发表在牛津大学学术 - 生物信息学进步

https://academic.up.com/bioinformaticsadvances/article/2/1/vbac021/6561563

抽象的

在癌症治疗和高血压等领域，抗菌肽（AMP）越来越多地用于开发新的治疗药物。此外，由于细菌耐药性的增加，它们被视为抗生素的替代方法。但是，湿法实验性识别既耗时又昂贵，因此现在通常使用内部模型来筛选新的AMP候选物。本文提出了一种创建模型输入的新方法。然后，使用预训练的语言模型产生代表每个肽序列中氨基酸的上下文化嵌入，然后在卷积神经网络被培训为分类之前。最佳模型已在两个数据集上进行了验证，该模型先前是在AMP预测研究中使用的一个数据集和本文创建的独立数据集。预测精度分别达到了93.33％和88.26％，表现优于所有先前的最新分类模型。

上传的文件：

• LM_PRED_DATASET文件夹包含培训，验证和测试集，在研究论文中独立采购并用作“ LMPRED”数据集。
• 1_CREATE_WORD_EMBEDDINGS.IPYNB展示了如何使用预训练的语言模型（在这种情况下为T5XL UNIREF50）创建嵌入的示例，输入AMPS和非AMPS和非AMPS的氨基酸序列以及输出矢量化的嵌入式嵌入。
• 2_build_cnn_model.ipynb显示了如何构建卷积神经网络模型，该模型使用嵌入向量的单词来对肽序列进行分类。
• 3_testing_models.ipynb显示了在看不见的测试数据上构建模型的测试。来自外部网络服务器模型预测的数据已包含。

语言模型 - 引文

• 如果没有Elnaggar等人的研究产生的预训练的语言模型，这项工作是不可能的。请参阅下面有关该研究的更多详细信息。

外部研究：

2020年7月：港天线：通过自学学习来破解生活代码的语言。预印本，生物信息学。 Elnaggar，A. https://www.biorxiv.org/content/10.1101/2020.07.12.199554v1.full.pdf

最新消息：2021年7月：pertrans：通过自我监督的深度学习和高性能计算来破解生活代码的语言Rost，Burkhard https://ieeexplore.ieee.org/abstract/document/9477085

prottrans github：https：//github.com/agemagician/prottrans