LMPred_AMP_Prediction

LMPRED：使用預訓練的語言模型和深度學習預測抗菌肽

現在發表在牛津大學學術 - 生物信息學進步

https://academic.up.com/bioinformaticsadvances/article/2/1/vbac021/6561563

抽象的

在癌症治療和高血壓等領域，抗菌肽（AMP）越來越多地用於開發新的治療藥物。此外，由於細菌耐藥性的增加，它們被視為抗生素的替代方法。但是，濕法實驗性識別既耗時又昂貴，因此現在通常使用內部模型來篩選新的AMP候選物。本文提出了一種創建模型輸入的新方法。然後，使用預訓練的語言模型產生代表每個肽序列中氨基酸的上下文化嵌入，然後在卷積神經網絡被培訓為分類之前。最佳模型已在兩個數據集上進行了驗證，該模型先前是在AMP預測研究中使用的一個數據集和本文創建的獨立數據集。預測精度分別達到了93.33％和88.26％，表現優於所有先前的最新分類模型。

上傳的文件：

• LM_PRED_DATASET文件夾包含培訓，驗證和測試集，在研究論文中獨立採購併用作“ LMPRED”數據集。
• 1_CREATE_WORD_EMBEDDINGS.IPYNB展示瞭如何使用預訓練的語言模型（在這種情況下為T5XL UNIREF50）創建嵌入的示例，輸入AMPS和非AMPS和非AMPS的氨基酸序列以及輸出矢量化的嵌入式嵌入。
• 2_build_cnn_model.ipynb顯示瞭如何構建卷積神經網絡模型，該模型使用嵌入向量的單詞來對肽序列進行分類。
• 3_testing_models.ipynb顯示了在看不見的測試數據上構建模型的測試。來自外部網絡服務器模型預測的數據已包含。

語言模型 - 引文

• 如果沒有Elnaggar等人的研究產生的預訓練的語言模型，這項工作是不可能的。請參閱下面有關該研究的更多詳細信息。

外部研究：

2020年7月：港天線：通過自學學習來破解生活代碼的語言。預印本，生物信息學。 Elnaggar，A. https://www.biorxiv.org/content/10.1101/2020.07.12.199554v1.full.pdf

最新消息：2021年7月：pertrans：通過自我監督的深度學習和高性能計算來破解生活代碼的語言Rost，Burkhard https://ieeexplore.ieee.org/abstract/document/9477085

prottrans github：https：//github.com/agemagician/prottrans