基于Pytorch的卷积神经网络CNN实例应用及详解2.0

基于Pytorch的卷积神经网络CNN实例应用依旧是DTI也就是药物靶体交互预测数据训练预测模型框架没有变化只有数据集的读取&处理和重新构造及损失函数选择发生变化,其余部分发生细微变化。

一、前期基础(建议先阅读下面链接1.0版本的前期基础文章)

前期基础文章:点击打开《基于Pytorch的卷积神经网络CNN实例应用及详解》文章

二、卷积神经网络CNN实现案例分析

  • 案例目的:是构造卷积神经网络模型训练后进行药物靶体交互的二分类(0和1)预测
  • 数据集及格式说明:首先案例用到的所有数据集是来自DAVIS 数据集,数据以csv数据格式存储
  • 训练集train说明:训练数据集里面有2085条(行)数据,每列依次是数据序列编号、药物分子SMILES序列、蛋白质靶体目标Target Squences序列和亲和性标志Lable(1表示亲和,0表示无亲和),至于后面的药物分子和蛋白质靶体编码,博主因为自己代码中可以重新编码,所以对原始数据集的编码选择不用即可忽略

  • 测试集tets说明:测试数据集里面有6010条(行)数据,每列依次是数据序列编号、药物分子SMILES序列、蛋白质靶体目标Target Squences序列和亲和性标志Lable(1表示亲和,0表示无亲和),至于后面的药物分子和蛋白质靶体编码,博主因为自己代码中可以重新编码,所以对原始数据集的编码选择不用即可忽略

import pandas as pd
data = pd.read_csv('E:/googlefile/train.csv')
print(data)

import pandas as pd
data = pd.read_csv('E:/googlefile/train.csv')
data.loc[2:5, ['SMILES']]

import pandas as pd
import numpy as np
data = pd.read_csv('E:/googlefile/train.csv')
smiles = data.loc[2:5, ['SMILES']]
smiles = np.array(smiles)
train_drug_smiles = np.squeeze(smiles).tolist()
print(train_drug_smiles)

  • 重新构造个人数据集:一般搭建好的网络模型的输入数据集都是通过DataLoader方法进行批量操作送入(之前博主总结过PYG的个人数据集构造,有兴趣可以点击打开《基于Pytorch的PyTorch Geometric(PYG)库构造个人数据集》文章进行了解),所以我们必须重新构造自己的数据集,方法是使用Pytorch直接提供的Dataset类创建和加载自己的数据集,创建一个MyDataset类的实例对象需要提供的虚参是自己数据集的路径,然后需要重写类中的三个函数__init__、__ len__和__getitem__,init函数是通过获取数据集路径,然后读取数据集,对数据集进行预处理,数据格式上全部要转换到tensor数据格式,这样的数据集才可以使用Dataloader加载批量数据将数据集转换成Tensor类型,len函数是返回个人数据集的长度,最后是getitem函数是将MyDataset类的实例对象输入到Dataloader方法,然后再生成的对象在之后的迭代中返回对应的索引数据,最后将索引数据传入网络模型。
class MyDataset(nn.Module):
    def __init__(self, root):
        super(MyDataset, self).__init__()
        # 数据集文件路径
        self.root = root
        # 读取csv文件生成DataFrame数据格式
        self.data = pd.read_csv(root)

        # 读取药物分子smiles序列
        self.train_drug_smiles = []
        # 获取DataFrame数据的SMILES列
        self.smiles = self.data.loc[:, ['SMILES']]
        # 将DataFrame数据转换为numpy数据
        self.smiles = np.array(self.smiles)
        # numpy数据压缩维度并转换为list数据
        self.train_drug_smiles = np.squeeze(self.smiles).tolist()

        # 读取蛋白质分子sequences序列
        self.train_protein_sequences = []
        # 获取DataFrame数据的Target Sequence列
        self.sequences = self.data.loc[:, ['Target Sequence']]
        # 将DataFrame数据转换为numpy数据
        self.sequences = np.array(self.sequences)
        # numpy数据压缩维度并转换为list数据
        self.train_protein_sequences = np.squeeze(self.sequences).tolist()

        # 读取药物分子和蛋白质分子对应的亲和性
        # 获取DataFrame数据的Label列
        self.binds = self.data.loc[:, ['Label']]
        # 将DataFrame数据转换为numpy数据并转换为list数据
        self.binds = np.array(self.binds).tolist()
        # 将list格式转换为tensor格式
        self.binds = t.LongTensor(self.binds)
        # tensor数据压缩维度
        self.binds = t.squeeze(self.binds, 1)

        # 对药物进行label encoding
        CHARISOSMISET = {"#": 29, "%": 30, ")": 31, "(": 1, "+": 32, "-": 33, "/": 34, ".": 2,
                         "1": 35, "0": 3, "3": 36, "2": 4, "5": 37, "4": 5, "7": 38, "6": 6,
                         "9": 39, "8": 7, "=": 40, "A": 41, "@": 8, "C": 42, "B": 9, "E": 43,
                         "D": 10, "G": 44, "F": 11, "I": 45, "H": 12, "K": 46, "M": 47, "L": 13,
                         "O": 48, "N": 14, "P": 15, "S": 49, "R": 16, "U": 50, "T": 17, "W": 51,
                         "V": 18, "Y": 52, "[": 53, "Z": 19, "]": 54, "\\": 20, "a": 55, "c": 56,
                         "b": 21, "e": 57, "d": 22, "g": 58, "f": 23, "i": 59, "h": 24, "m": 60,
                         "l": 25, "o": 61, "n": 26, "s": 62, "r": 27, "u": 63, "t": 28, "y": 64}
        CHARISOSMILEN = 64
        self.drug_label_encoding = []

        def label_smiles(smiles):
            D = np.zeros(100)
            for i, ch in enumerate(smiles):
                if i < 100:
                    D[i] = CHARISOSMISET[ch]
            return D.tolist()

        for l in range(len(self.train_drug_smiles)):
            self.label_smile = label_smiles(self.train_drug_smiles[l])
            self.drug_label_encoding.append(self.label_smile)

        # 对蛋白质进行label encoding
        CHARPROTSET = {"A": 1, "C": 2, "B": 3, "E": 4, "D": 5, "G": 6,
                       "F": 7, "I": 8, "H": 9, "K": 10, "M": 11, "L": 12,
                       "O": 13, "N": 14, "Q": 15, "P": 16, "S": 17, "R": 18,
                       "U": 19, "T": 20, "W": 21,
                       "V": 22, "Y": 23, "X": 24,
                       "Z": 25}
        CHARPROTLEN = 25
        self.protein_label_encoding = []

        def label_sequece(sequence):
            P = np.zeros(1000)
            for i, ch in enumerate(sequence):
                if i < 1000:
                    P[i] = CHARPROTSET[ch]
            return P.tolist()

        for l in range(len(self.train_protein_sequences)):
            self.label_protein = label_sequece(self.train_protein_sequences[l])
            self.protein_label_encoding.append(self.label_protein)

        # 为避免词向量每次嵌入都数值不同设定随机数种子
        t.manual_seed(100)

        # 对药物进行embedding
        self.drug_label_encodings = t.LongTensor(self.drug_label_encoding)  # 将list转为tensor数据格式
        # print(drug_label_encodings)
        drug_embedding = nn.Embedding(100, 128, padding_idx=0)  # 创建药物embedding层
        self.drug_embeddings = drug_embedding(self.drug_label_encodings)  # 嵌入层转换生成128维的词向量,数据维度是[256,100,128]

        # 对蛋白质进行embedding
        self.protein_label_encodings = t.LongTensor(self.protein_label_encoding)  # 将list转为tensor数据格式
        protein_embedding = nn.Embedding(1000, 128, padding_idx=0)  # 创建蛋白质embedding层
        self.protein_embeddings = protein_embedding(self.protein_label_encodings)  # 嵌入层转换生成128维的词向量,数据维度是[256,1000,128]

    def __len__(self):
        return len(self.binds)

    def __getitem__(self, item):
        # print(item)
        return self.drug_embeddings[item], self.protein_embeddings[item], self.binds[item]

  • 损失函数:损失函数选择CrossEntropyLoss函数(公式二分类见下图),此函数就是把log_sofrmax和NLLLoss合并成一步。使用log_sofrmax函数,得到每张图片每个类别的概率分布,根据每张图片的label将对应图片的索引的值拿出来,所有图片累加值再对结果取负值,比如:有一张图片是二分类,log_softmax函数使用后得到的概率是[0.4,0.6],该图片的label的值是0,那么根据label对应图片的索引的值下标为0的概率是0.4,则取出的结果是0.4,再取负数就是-0.4。最优化损失函数值,那么应该取最小值,概率越大取负值越小。

三、卷积神经网络CNN实现2.0完整代码和结果

import torch as t
import numpy as np
from torch import nn
import pandas as pd
from  sklearn.metrics import accuracy_score

class MyDataset(nn.Module):
    def __init__(self, root):
        super(MyDataset, self).__init__()
        # 数据集文件路径
        self.root = root
        # 读取csv文件生成DataFrame数据格式
        self.data = pd.read_csv(root)

        # 读取药物分子smiles序列
        self.train_drug_smiles = []
        # 获取DataFrame数据的SMILES列
        self.smiles = self.data.loc[:, ['SMILES']]
        # 将DataFrame数据转换为numpy数据
        self.smiles = np.array(self.smiles)
        # numpy数据压缩维度并转换为list数据
        self.train_drug_smiles = np.squeeze(self.smiles).tolist()

        # 读取蛋白质分子sequences序列
        self.train_protein_sequences = []
        # 获取DataFrame数据的Target Sequence列
        self.sequences = self.data.loc[:, ['Target Sequence']]
        # 将DataFrame数据转换为numpy数据
        self.sequences = np.array(self.sequences)
        # numpy数据压缩维度并转换为list数据
        self.train_protein_sequences = np.squeeze(self.sequences).tolist()

        # 读取药物分子和蛋白质分子对应的亲和性
        # 获取DataFrame数据的Label列
        self.binds = self.data.loc[:, ['Label']]
        # 将DataFrame数据转换为numpy数据并转换为list数据
        self.binds = np.array(self.binds).tolist()
        # 将list格式转换为tensor格式
        self.binds = t.LongTensor(self.binds)
        # tensor数据压缩维度
        self.binds = t.squeeze(self.binds, 1)

        # 对药物进行label encoding
        CHARISOSMISET = {"#": 29, "%": 30, ")": 31, "(": 1, "+": 32, "-": 33, "/": 34, ".": 2,
                         "1": 35, "0": 3, "3": 36, "2": 4, "5": 37, "4": 5, "7": 38, "6": 6,
                         "9": 39, "8": 7, "=": 40, "A": 41, "@": 8, "C": 42, "B": 9, "E": 43,
                         "D": 10, "G": 44, "F": 11, "I": 45, "H": 12, "K": 46, "M": 47, "L": 13,
                         "O": 48, "N": 14, "P": 15, "S": 49, "R": 16, "U": 50, "T": 17, "W": 51,
                         "V": 18, "Y": 52, "[": 53, "Z": 19, "]": 54, "\\": 20, "a": 55, "c": 56,
                         "b": 21, "e": 57, "d": 22, "g": 58, "f": 23, "i": 59, "h": 24, "m": 60,
                         "l": 25, "o": 61, "n": 26, "s": 62, "r": 27, "u": 63, "t": 28, "y": 64}
        CHARISOSMILEN = 64
        self.drug_label_encoding = []

        def label_smiles(smiles):
            D = np.zeros(100)
            for i, ch in enumerate(smiles):
                if i < 100:
                    D[i] = CHARISOSMISET[ch]
            return D.tolist()

        for l in range(len(self.train_drug_smiles)):
            self.label_smile = label_smiles(self.train_drug_smiles[l])
            self.drug_label_encoding.append(self.label_smile)

        # 对蛋白质进行label encoding
        CHARPROTSET = {"A": 1, "C": 2, "B": 3, "E": 4, "D": 5, "G": 6,
                       "F": 7, "I": 8, "H": 9, "K": 10, "M": 11, "L": 12,
                       "O": 13, "N": 14, "Q": 15, "P": 16, "S": 17, "R": 18,
                       "U": 19, "T": 20, "W": 21,
                       "V": 22, "Y": 23, "X": 24,
                       "Z": 25}
        CHARPROTLEN = 25
        self.protein_label_encoding = []

        def label_sequece(sequence):
            P = np.zeros(1000)
            for i, ch in enumerate(sequence):
                if i < 1000:
                    P[i] = CHARPROTSET[ch]
            return P.tolist()

        for l in range(len(self.train_protein_sequences)):
            self.label_protein = label_sequece(self.train_protein_sequences[l])
            self.protein_label_encoding.append(self.label_protein)

        # 为避免词向量每次嵌入都数值不同设定随机数种子
        t.manual_seed(100)

        # 对药物进行embedding
        self.drug_label_encodings = t.LongTensor(self.drug_label_encoding)  # 将list转为tensor数据格式
        # print(drug_label_encodings)
        drug_embedding = nn.Embedding(100, 128, padding_idx=0)  # 创建药物embedding层
        self.drug_embeddings = drug_embedding(self.drug_label_encodings)  # 嵌入层转换生成128维的词向量,数据维度是[256,100,128]

        # 对蛋白质进行embedding
        self.protein_label_encodings = t.LongTensor(self.protein_label_encoding)  # 将list转为tensor数据格式
        protein_embedding = nn.Embedding(1000, 128, padding_idx=0)  # 创建蛋白质embedding层
        self.protein_embeddings = protein_embedding(self.protein_label_encodings)  # 嵌入层转换生成128维的词向量,数据维度是[256,1000,128]

    def __len__(self):
        return len(self.binds)

    def __getitem__(self, item):
        # print(item)
        return self.drug_embeddings[item], self.protein_embeddings[item], self.binds[item]


# 构建Net模块
class Net(nn.Module):
    def __init__(self):
        super(Net, self).__init__()  # 表示Net继承nn.Module
        self.cnn1 = nn.Sequential(  # 构建Sequential,属于特殊的module,类似于forward前向传播函数,同样的方式调用执行
            nn.Conv1d(128, 32, 4, bias=False),  # 卷积层,输入通道数为128,输出通道数为32,卷积核为[128,4],包含在Sequential的子module,层层按顺序自动执行
            nn.ReLU(inplace=True),
            nn.Conv1d(32, 64, 6, bias=False),  # 卷积层,输入通道数为32,输出通道数为64,卷积核为[32,6],包含在Sequential的子module,层层按顺序自动执行
            nn.ReLU(inplace=True),
            nn.Conv1d(64, 96, 8, bias=False),  # 卷积层,输入通道数为64,输出通道数为96,卷积核为[64,8],包含在Sequential的子module,层层按顺序自动执行
            nn.ReLU(inplace=True),
            nn.MaxPool1d(2, 1)
        )
        self.cnn2 = nn.Sequential(  # 构建Sequential,属于特殊的module,类似于forward前向传播函数,同样的方式调用执行
            nn.Conv1d(128, 32, 4, bias=False),  # 卷积层,输入通道数为128,输出通道数为32,卷积核为[128,4],包含在Sequential的子module,层层按顺序自动执行
            nn.ReLU(inplace=True),
            nn.Conv1d(32, 64, 8, bias=False),  # 卷积层,输入通道数为32,输出通道数为64,卷积核为[32,8],包含在Sequential的子module,层层按顺序自动执行
            nn.ReLU(inplace=True),
            nn.Conv1d(64, 96, 12, bias=False),  # 卷积层,输入通道数为64,输出通道数为96,卷积核为[64,12],包含在Sequential的子module,层层按顺序自动执行
            nn.ReLU(inplace=True),
            nn.MaxPool1d(2, 1)
        )
        self.mtp = nn.Sequential( # 构建Sequential,属于特殊的module,类似于forward前向传播函数,同样的方式调用执行
            nn.Linear(101952,1024), # 线性连接层,输入通道数为101952=1062*96,输出通道数为1024
            nn.Dropout(0.1),
            nn.Linear(1024, 512), # 线性连接层,输入通道数为1024,输出通道数为512
            nn.Dropout(0.1),
            nn.Linear(512, 2), # 线性连接层,输入通道数为512,输出通道数为2
            # nn.Softmax()
        )

    def forward(self, drug ,protein):  # Net类的前向传播函数
        # 维度转换(必要性在于一维卷积的卷积核是(输入通道数,卷积核长),权重参数是(批次,输入通道数,卷积核长))
        drug = drug.permute(0, 2, 1)
        protein = protein.permute(0, 2, 1)
        # CNN卷积操作
        drug_cnn = self.cnn1(drug)  # 和调用forward一样如此调用cnn1这个Sequential
        protein_cnn = self.cnn2(protein)  # 和调用forward一样如此调用cnn2这个Sequential
        # 卷积完成后再次维度转换为DIT拼接做准备,每批中单个药物的维度是[84,96],每批中单个蛋白质的维度是[978,96]
        drug_pool = drug_cnn.permute(0, 2, 1)
        protein_pool = protein_cnn.permute(0, 2, 1)
        # print(drug_pool.shape)
        # print(protein_pool.shape)
        # 将训练集和测试集每组对应下标的药物和蛋白质按列进行拼接,每批中单个药物蛋白质结合的维度变成[84+978,96]=[1062,96]
        drug_target = t.cat((drug_pool, protein_pool), 1)
        # 为全连接数据输入调整tensor的形状,由三维变成二维数据,分别表示[批次大小,每批次数据长度]
        drug_target = drug_target.view(256,1062*96)
        # 将数据导入全连接层进行二分类任务,亲和和非亲和也就是0和1分类
        drug_target_mtp = self.mtp(drug_target)
        # 为损失函数计算做准备
        drug_target_mtp = t.FloatTensor(drug_target_mtp)
        return drug_target_mtp


# 读取训练数据集
train_data = MyDataset(root='E:/googlefile/dataset/DAVIS/train.csv')
# print(len(train_data))
# print(train_data[:512])
# 训练数据集里面有2085条数据,每个数据包含一组蛋白质序列和药物分子序列和亲和性标记
loaders = t.utils.data.DataLoader(train_data, batch_size=256, shuffle=False, drop_last=True) # 读取训练数据集数据
# 训练模型
epoch = 5 # 每轮训练次数
model = Net() # 建模
loss_model = nn.CrossEntropyLoss()
# 计算损失函数值
optimizer = t.optim.SGD(model.parameters(),lr=0.01) # 设置优化器用于更新权重参数,学习率为0.01
for i in range(epoch):
    loss_sum = 0
    for train_datas in loaders:
        # 训练集数据转换
        # print(train_datas)
        drug_embeddings, protein_embeddings, effectives = train_datas
        # print(drug_embeddings.shape)
        # print(protein_embeddings.shape)
        # print(effectives.shape)
        # 数据输入模型训练
        output = model(drug_embeddings, protein_embeddings)
        # print(output.shape)
        # print(effectives.shape)
        # 计算损失函数值
        loss = loss_model(output,effectives)
        # 每次反向传播前需要梯度清零
        optimizer.zero_grad()
        # 反向传播
        loss.backward(retain_graph=True)
        # loss_sum += loss.data.item()
        print(loss.data.item())
        # 参数权重更新
        optimizer.step()
    # print(loss_sum)
    print("第" + str(i+1) + "轮训练")

# 读取测试集
test_folds = MyDataset(root='E:/googlefile/dataset/DAVIS/test.csv')
# 测试数据集里面有6010条数据,每个数据包含一组蛋白质序列和药物分子序列和亲和性标记
loaderstest = t.utils.data.DataLoader(test_folds, batch_size=256, shuffle=False, drop_last=True) # 读取训练数据集数据
pre_output = []
real_effectives = []
for test_datas in loaderstest:
    # 测试集数据转换
    drug_embeddings, protein_embeddings, effectives = test_datas
    effectives = effectives.tolist()
    # 将每批次真实亲和值输出的数据汇总
    real_effectives = real_effectives + effectives
    # 测试集数据输入模型训练
    output = model(drug_embeddings, protein_embeddings)
    output = output.tolist()
    # 将每批次预测亲和值输出的数据汇总
    for i in range(len(output)):
        pre_output.append(output[i].index(max(output[i]))) # 根据大小选取0和1

# 输出正确率
print(pre_output) # 预测输出值
print(real_effectives) # 真实输出值
print("DTI预测正确率:")
print(accuracy_score(real_effectives, pre_output)) # 输出正确率