当前位置: 首页 > news >正文

还在调API写所谓的AI“女友”,唠了唠了,教你基于python咱们“new”一个(深度学习)

文章目录

  • 前言
    • 停用词
    • 闲聊语料
  • 基础知识
    • 词的表示
      • 表达
        • one-hot编码
      • 词嵌入
          • 大致原理
          • 实现
            • 简单版
            • 复杂版
            • 如何训练
        • 转换后的形状
    • RNN循环网络
      • RNN
      • RNN投影图
      • RNN是三维立体的
      • LSTM&GRU
  • 构建数据
    • 配置
    • 数据集准备
      • 分词
      • 划分
    • 数据集加载
  • 模型搭建
    • 基本概念
    • Encoder搭建
    • Decoder
      • Attention机制
      • decoder与beamsearch
    • 加载驱动
    • Seq2Seq搭建
    • 训练
    • 预测
  • 总结

前言

诶,标题有点欠揍是吧。好吧承认有点标题党了,拖更大王要更新了。什么你是从这篇博文:快速构建一个简单的对话+问答AI (上)过来的。好吧被你发现了,我是把中间那一段拆开来了。好吧,之所以这样做其实还是因为那篇文章是在是太长了,没写清楚,同时每一个模块都是独立的,因此的话咱们专门拆开来再说下是咋干的。咱们这是一篇独立的博文,那么为啥要独立捏,因为我知道你可能并不需要一个比较完整的内容,如果你关注的是如何实现一个对话AI的话,那么来这里就对了。我们将单独从数据集开始再讲起。并且将真正完整的代码直接在咱们的博文当中贴出了。(因为第三个模块还在做,暂时没有上传仓库)还是那句话,如果关注的是一个闲聊对话AI是如何实现的话,come here!!!

当然标题有点夸张,但是你要做一个所谓的对话AI女友是完全可以的,至少我们可以自己做服务了,当然调用服务,例如图灵机器人啥的还是不错的,少掉不少头发呢。

首先是目录结构,你需要按照框起来的地方进行创建文件。

在这里插入图片描述

这里的话我就不去上次仓库了,自己看着这个目录创建,或者等我完整的项目上传到GitHub后自己提取对应的文件。

那么同时的话,对应的资源比如语料资源在这:
链接:https://pan.baidu.com/s/1Bb0sWcITQLrkibDqIT8Qvg
提取码:6666

里面包含了语料和停用词,分词之类的

他们的格式是这样的:
在这里插入图片描述

停用词

打开之后的话,格式大概是这样的:
在这里插入图片描述

词库的格式也是类似的。

闲聊语料

这个闲聊也简单,是这样的:
在这里插入图片描述

E 是开始标志
M 对话

这个到时候怎么用,咱们在后面再说。

ok,我们这边都创建好了资源都准备好了。那么现在我们把资源放到对应的位置:
在这里插入图片描述

基础知识

词的表示

这部分的话我们先前说过,但是呢,这个是独立的博文,因此咱们重复一下。

表达

计算机和我们人类是不一样的,他只能进行基本的数字运算,在咱们先前的图像处理当中,图像的表达依然还是通过数值矩阵的,但是一个句子或者单纯是如何表示的呢。所以为了能够让计算机可以处理到咱们的文本数据,咱们需要对文本做一点点处理。

那么在这里是如何做的呢,其实很简单,既然计算机只能处理数字,对数字进行运算,那么我们只需要把我们的一个句子转化为一种向量就好了。那么这个是如何做的呢?

其实非常简单。

看下面一组图就明白了:

在这里插入图片描述

我们通过一个词典其实就可以完成一个向量的映射。

看到了吧,我们这个时候我们只需要对一个句子进行分词,之后将每一个词进行标号,这样一来就可以实现把一个句子转化为一个向量。

one-hot编码

此时我们得到了一组序列,但是这个序列的表达能力是在是太弱了,只能表示出一个标号,不能表示出其他的特点。或者说,只有一个数字表示一个词语实在是太单调了,1个词语也应该由一个序列组成。那么这个时候one-hot编码就出来了。他是这样做的:
在这里插入图片描述
首先一个词,一个字,我们叫做token,那么编码的很简单。其实就是这样:
在这里插入图片描述
但是这样是有问题的,那就是说,我们虽然实现了一个词到向量的表示。但是这个表示方法显然是太大了,假设有10000个词语,那么按照这种方式进行标号的话,那么1个词就是10000个维度。这样显然是不行的。所以这块需要优化一下。

词嵌入

这个原来解释起来稍微复杂一点。你只需要需要知道他们的本质其实就是这样的:
词 ——> 向量空间1 ——> 向量空间2
现在向量空间1不合适,所以我们要想办法能不能往空间2进行靠拢。

于是乎这里大概就有了两个方案:

1)尝试将词向量映射到一个更低维的空间;
2)同时保持词向量在该低维空间中具备语义相似性,如此,越相关的词,它们的向量在这个低维空间里就能靠得越近。

对于第一个,咱们可以参考原来咱们做协同过滤推荐dome的时候,使用SVD矩阵分解来做。(关于这篇博文的话也是有优化的,优化方案将在本篇博文中查看到,先插个眼)

那么缺点的话也很明显嘛,用咱们的这个方案:

1)亲和矩阵的维度可能经常变,因为总有新的单词加进来,每加进来一次就要重新做SVD分解,因此这个方法不太通用;
2)亲和矩阵可能很稀疏,因为很多单词并不会成对出现。

大致原理

ok,回到咱们的这个(这部分可以选择跳过,知道这个玩意最后得到的是啥就好了),这个该怎么做,首先的话,实现这个东西,大概是有两种方案去做:Continuous Bag Of Words (CBOW)方法和n-gram方法。第一个方案的话,这个比较复杂,咱们这里就不介绍了。

咱们来说说第二个方案。

首先咱们来说说啥是N-gram,首先原理的话也是比较复杂的,具体参考这个:https://blog.csdn.net/songbinxu/article/details/80209197

那么我们这边就是简单说一下这个在咱们这边N-gram实际是咋用的。

[cuted[i:i+2]for i in range(len(cuted))]

其实就是这个,用代码表示,cuted是一个分好词的句子。i+2表示跨越几个。

这样做的好处是,通过N-gram可以考虑到词语之间的一个关系,如果我们使用这个方案来实现一个词向量的话,那么我们必然是可以能够实现:“同时保持词向量在该低维空间中具备语义相似性,如此,越相关的词,它们的向量在这个低维空间里就能靠得越近。”的。因为确实考虑到了之间的一个关系,那么现在我们已经知道了大概N-garm是怎么样的了,其实就是一种方式,将一个句子相近的词语进行连接,或者说是对句子进行一个切割,上面那个只是一种方式只有,这个我们在后面还会有说明,总之它是非常好用的一种方式。

ok,知道了这个我们再来介绍几个名词:

1.跳词模型
跳词模型,它是通过文本中某个单词来推测前后几个单词。例如,根据‘rabbit’来推断前后的单词可能为‘a’,‘is’,‘eating’,‘carrot’。在训练模型时我们在文本中选取若干连续的固定长度的单词序列,把前后的一些单词作为输出,中间的某个位置的单词作为输入。

2.连续词袋模型
连续词袋模型与跳词模型恰好相反,它是根据文本序列中周围单词来预测中心词。在训练模型时,把序列中周围单词作为输入,中心词作为输出。

这个的话其实和我们的这个关系不大,因为N-gram其实是句子–>词 的一种方式,但是对我训练的时候的输入还是有帮助的,因为这样输入的话,我们是可以得到词在句子当中的一种关联关系的。

而embedding是词到one-hot然后one-hot到低纬向量的变化过程。

实现

ok,扯了那么多,那么接下来看看我们如何实现这个东西。

我们需要一个词向量,同时我们有很多词语,因此我们将得到一个矩阵,这个矩阵叫做embedding矩阵。

我们首先随机初始化embeddings矩阵,构建一个简单的网络。初始化weights和biases,计算隐藏层的输出。然后计算输出和target结果的交叉熵,之后使用优化器完成一次反向传递,更新可训练的参数,包括embeddings变量。并且我们将词之间的相似度可以看作概率。

ok,我们直接看到代码,那么咱们也是有两个版本的。简单版,复杂版。

简单版

简单版本的话,在pytorch当中有实现:

embed=nn.Embedding(word_num,embedding_dim)
复杂版

那么我们显然是不满足这个的,那么我们还有复杂版本。就是自己动手,丰衣足食!
首先我们定义这个:

class embedding(nn.Module):
    def __init__(self,in_dim,embed_dim):
        super().__init__()
        self.embed=nn.Sequential(nn.Linear(in_dim,200),
                                 nn.ReLU(),
                                 nn.Linear(200,embed_dim),
                                 nn.Sigmoid())
    def forward(self,input):
        b,c,_=input.shape
        output=[]
        for i in range(c):
            out=self.embed(input[:,i])
            output.append(out.detach().numpy())
        return torch.tensor(np.array(output),dtype=torch.float32).permute(1,0,2)

很简单的一个结构。
那么我们输入是上面,首先其实是我们one-hot编码的一个矩阵。
我们其实流程就是这样的:词—>one-hot—>embedding/svd

ok,那么我们的N-gram如何表示呢,其实这个更多的还是在于对句子的分解上,输入的句子的词向量如何表示的。

如何训练

如何训练的话,首先还是要在one-hot处理的时候再加一个处理,这个过程可能比较绕。就是说我们按照上面提到的词袋模型进行构造我们的数据,我们举个例子吧。

现在有这样的一个文本,分词之后,词的个数是content_size。有num_word个词。

import torch
import re
import numpy as np
 
txt=[] #文本数据
with open('peter_rabbit.txt',encoding='utf-8') as f:
    for line in f.readlines():
        l=line.strip()
        spilted_sentence=re.split(" |;|-|,|!|\'",l)
        for w in spilted_sentence:
            if w !='':
                txt.append(w.lower())
vol=list(set(txt)) #单词表
n=len(vol) #单词表单词数
vol_dict=dict(zip(vol,np.arange(n))) #单词索引
 '''
这里使用词袋模型
每次从文本中选取序列长度为9,输入单词数为,8,输出单词数为1,
中心词位于序列中间位置。并且采用pytorch中的emdedding和自己设计embedding两种方法
词嵌入维度为100。
'''
data=[]
label=[]
 
for i in range(content_size):
    in_words=txt[i:i+4]
    in_words.extend(txt[i+6:i+10])
    out_word=txt[i+5]
    in_one_hot=np.zeros((8,n))
    out_one_hot=np.zeros((1,n))
    out_one_hot[0,vol_dict[out_word]]=1
    for j in range(8):
        in_one_hot[j,vol_dict[in_words[j]]]=1
    data.append(in_one_hot)
    label.append(out_one_hot)
 
class dataset:
    def __init__(self):
        self.n=ci=config.content_size 
    def __len__(self):
        return self.n
    def __getitem__(self, item):
        traindata=torch.tensor(np.array(data),dtype=torch.float32) 
        trainlabel=torch.tensor(np.array(label),dtype=torch.float32)
        return traindata[item],trainlabel[item]

我们只是在投喂数据的时候按照词袋模型进行投喂,或者连续模型也可以。

当然我们这里所说的都只是说预训练出一个模型出来,实际上,我们直接使用这个结构,然后进行正常的训练完成我们的一个模型也是可以的。她是很灵活的,不是固定的!

那么继续预训练的话就是按照词袋模型来就好了(看不懂没关系,跳过就好了)

import torch
from torch import nn
from torch.utils.data import DataLoader
from dataset import dataset
import numpy as np

class model(nn.Module):
    def __init__(self):
        super().__init__()
        self.embed=embedding(num_word,100)
        self.fc1=nn.Linear(num_word,1000)
        self.act1=nn.ReLU()
        self.fc2=nn.Linear(1000,num_word)
        self.act2=nn.Sigmoid()
    def forward(self,input):
        b,_,_=input.shape
        out=self.embed (input).view(b,-1)
        out=self.fc1 (out)
        out=self.act1(out)
        out=self.fc2(out)
        out=self.act2(out)
        out=out.view(b,1,-1)
        return out
if __name__=='__main__':
    pre_model=model()
    optim=torch.optim.Adam(params=pre_model.parameters())
    Loss=nn.MSELoss()
    traindata=DataLoader(dataset(),batch_size=5,shuffle=True)
    for i in range(100):
        print('the {} epoch'.format(i))
        for d in traindata:
            p=model(d[0])
            loss=Loss(p,d[1])
            optim.zero_grad()
            loss.backward()
            optim.step()

这样一来就可以初步完成预训练,你只需要加载好embeding部分的权重就好了,这个只是加快收敛的一种方式。

转换后的形状

最终,词嵌入的话,得到的矩阵是将one-hot变化为了这样的矩阵
在这里插入图片描述

ok,词的表达已经🆗了,那么接下来我们在简单介绍一下RNN。
(当然对于这一部分,实际上的话其实还有别的方法,但是咱们这边只是用到这些东西,所以只是介绍这个)

RNN循环网络

RNN

这个RNN的话,咋说呢,其实挺简单的,但是有几个点可能是比较容易误导人的,搞清楚这个结构的话,对于我们后面对于LSTM,GRU这种网络的架构可能会更好了解,其实包括LSTM,GRU的话其实本质上还是挺简单的。当然能够直接提出这个东西的人是非常厉害的,不过不管怎么说他们都是属于循环神经网络的一个大家族的,只是在数据处理上面多了一点点东西。那么理解了RNN之后的话,对于我后面理解LSTM,GRU里面它的一个数据的变幻,传递,原理。因为后面的话,我们还是要手写实现这个GRU的(LSTM也是一样的,但是GRU少了点参数,消耗的计算资源少一点点)。所以对于这一部分还是有必要好好唠一唠的。

首先我们来看到基本的神经网络:

在这里插入图片描述

这是一个简单的前馈神经网络,也是我们最常见的神经网络。

接下来是我们的RNN神经网络,在大多数情况下,我们经常会提到这几个名词:时间步,最后一层输出等等。

那么在这里的话,我们需要理解展开的其实只有一个东西,那就是对应时间步的理解,什么是上一层网络的输出,他们之间的参数是如何传递的。

RNN投影图

那么在此之前,我们先来看看RNN的网络结构大概是什么样子的。
大多数情况下,你搜索到的图片可能是这样的:
在这里插入图片描述

首先承认这张图非常的简洁,以至于你可能一开始没有反应过来,什么体现循环,体现时间步的地方在哪。其实这里的话,这种图其实只是一个缩略平面图。

RNN是三维立体的

但是实际上,如果需要用画图来表示的话,RNN其实是立体的一个样子。大概长这个样子:
在这里插入图片描述
可能有点抽象,但是它的意思其实就是这样的,这个其实是RNN真正的样子,之后通过对不同的时间步的输出进行不同的处理,最终我们还可以将RNN进行分类。

OK,这个就是我们在RNN里面需要注意的点,它的真实结构是这样的,是一个三维度的结构。同样的接下来要提到的LSTM,GRU都是。

OK,接下来还没完,我们现在需要不目光放长远一点,首先是在RNN里面对于层的概念,我们接下来会说什么什么层,搭建几层的一个LSTM,GRU之类的,或者说几层的RNN,这个层其实是指,一个时间步上有几个立体的层,而不是说先前平面的那种网络,说几层几层。因为实际上,咱们这里图画的就一层全连接(输入层不算),但是在时间步上,它是N层,你有几个X就有几个层。

我们拿一个句子为例,假设一句话有5个单词,或者说处理之后有5个词语。那么RNN就是把每一个词的词向量作为输入,按照顺序,按照上面图的顺序进行输入。此时需要做的就是循环5次。

LSTM&GRU

那么之后的话,咱们再来说说LSTM和GRU,他们呢叫做长短期记忆网络,其实就是最low的RNN的一个升级版,对信息进一步处理。我们对于模型的调优,优化说白了,除了性能的优化,就是对信息的最大利用(增加信息,或者对重点信息进行提取)。所以基本上为什么大模型的效果很好,其实不考虑对信息的利用率,单单是对信息的使用就已经达到了超大的规模,这效果肯定是比小模型好一点的。

那么这里的话,我们就简单过一下这个结构图吧。

首先是LSTM,其实的话他这里主要是引入了一个东西,叫做记忆。
在这里插入图片描述

c就是记忆,因为刚刚的RNN,的话其实更像是一个一阶的马尔科夫,那么导入这个的话,就相当于日记,你不仅仅知道了昨天做了什么,还知道了前天做了什么,这样的话对于信息的利用坑定是上去了的。那么这个是它的一个单元。
宏观上还是这样的:
在这里插入图片描述

同理GRU也是一样的
在这里插入图片描述
但是这里的话少了一个c 其实还是说把Ht和c合在了一起,他们效果是差不多的,各有各的好处,你用LSTM还能多得到一个日记本,用GRU的话其实相当于,你把日记写在了脑子里面。好处是省钱,坏处是有时候要你女朋友可能需要检查日记(虽然我知道你有95%以上的概率是没有的,一般设置0.05 作为阈值,低于这个概率,基本上我们认为G了)

ok,这些我们都说完了

构建数据

nice到这里了,这部分的话,我们还需要知道一些东西。我们现在知道了图的表达,也知道了RNN大概是啥,啥是时间步之类的。这里重点对应RNN就是那玩意是3维的,包括那个LSTM,GRU其实都是。

那么现在还需要干啥呢,当然是第一部分,我们要把词变成序列呀。

配置

在开始之前,我们还需要给出配置哈,那么我们这里先给出来,在这里:
在这里插入图片描述

"""
just configuration for this project to run
"""

import pickle


auto_fix = True

jieba_config = {
    "word_dict":"./../../data/word/word40W.txt",
    "stop_dict":"./../../data/word/stopWordBaiDu.txt",
}

data_path = {
    "xiaohuangji": "./../../data/XiaoHuangJi50W.conv",
    "QA": "./../../data/QA5W.json"
}


"""
Encoder and Decoder using same config params in here
"""
chatboot_config = {

    "target_path_no_by_word":"./../../data/chat/target_no_by_word.txt",
    "input_path_no_by_word": "./../../data/chat/input_no_by_word.txt",
    "word_corpus_no_by_word_input":"./../../data/chat/word_corpus_input_no_by_word.pkl",
    "word_corpus_no_by_word_target":"./../../data/chat/word_corpus_target_no_by_word.pkl",

    "target_path_by_word": "./../../data/chat/target_by_word.txt",
    "input_path_by_word": "./../../data/chat/input_by_word.txt",
    "word_corpus_by_word_input": "./../../data/chat/word_corpus_input_by_word.pkl",
    "word_corpus_by_word_target": "./../../data/chat/word_corpus_target_by_word.pkl",

    "seq2seq_model_no_by_word":"./../../data/chat/seq2seq_model_no_by_word.pth",
    "optimizer_model_no_by_word":"./../../data/chat/optimizer_model_no_by_word.pth",

    "seq2seq_model_by_word": "./../../data/chat/seq2seq_model_by_word.pth",
    "optimizer_model_by_word": "./../../data/chat/optimizer_model_by_word.pth",

    "batch_size": 128,
    "collate_fn_is_by_word": False,

    "input_max_len":12,
    "target_max_len": 12,
    "out_seq_len": 15,
    "dropout": 0.3,
    "embedding_dim": 300,
    "padding_idx": 0,
    "sos_idx": 2,
    "eos_idx": 3,
    "unk_idx": 1,
    "num_layers": 2,
    "hidden_size": 128,
    "bidirectional":True,
    "batch_first":True,
    # support 0,1,..3(gpu) and cup
    "drive":"0",
    "num_workers":0,
    "teacher_forcing_ratio": 0.1,
    # just support "dot","general","concat"
    "attention_method":"general",
    "use_attention": True,
    "beam_width": 3,
    "max_norm": 1,
    "beam_search": True

}


def chat_load_(path,by_word,is_target,fixed=True, min_count=5):
    from corpus.chatbot_corpus.build_chat_corpus import Chat_corpus, compute_build
    after_fix = False
    ws = None
    try:
        ws = pickle.load(open(path, 'rb'))
    except:
        if (auto_fix):
            print("fixing...")
            chat_corpus = Chat_corpus()
            compute_build(chat_corpus=chat_corpus, fixed=fixed, min_count=min_count,
                          by_word=by_word, is_target=is_target)
            after_fix = True

    if (after_fix):
        ws = pickle.load(open(path, 'rb'))
    return ws

def word_corpus_no_by_word_input_load():
    path = chatboot_config.get("word_corpus_no_by_word_input")
    return chat_load_(path,is_target=False,by_word=False)

def word_corpus_no_by_word_target_load():
    path = chatboot_config.get("word_corpus_no_by_word_target")
    return chat_load_(path,is_target=True,by_word=False)

def word_corpus_by_word_input_load():
    path = chatboot_config.get("word_corpus_by_word_input")
    return chat_load_(path,is_target=False,by_word=True)

def word_corpus_by_word_target_load():
    path = chatboot_config.get("word_corpus_by_word_target")
    return chat_load_(path,is_target=True,by_word=True)

chatboot_config_load = {
    "word_corpus_no_by_word_input_load": word_corpus_no_by_word_input_load(),
    "word_corpus_no_by_word_target_load": word_corpus_no_by_word_target_load(),
    "word_corpus_by_word_input_load": word_corpus_by_word_input_load(),
    "word_corpus_by_word_target_load": word_corpus_by_word_target_load(),
}


这个的话,是我们对话AI需要的配置文件。

数据集准备

ok,我们开始准备数据集了。这里注意咯,如果你想要训练出一个AI女友的话,这部分很关键哟~。首先数据是这个样子的。
在这里插入图片描述

那么我们要做的是啥呢,首先我们这里把第一句话作为我们的输入,也就是说我们假设,第一句话是你要说的话。第二句话是你期望AI输出的话,那么我们把第一句话作为input,第二句作为target。我们期望的是,你输入一个input,AI能够输出类似与target的话来。

那么我们先要做的就是对数据的切分。
这个就是我们切分之后的结果:
在这里插入图片描述
我们这里的话还可以实现按照一个一个字来分和按照jieba进行分词的效果。也就是说如果你觉得按照jieba分词的效果不好,你可以试着直接按照字去分词。

分词

欧克,那么我们现在要做的先是实现我们的分词。
这个的话把代码放在这里:
在这里插入图片描述

实现是这个:

"""
this model just for cutting words
"""

import jieba
import jieba.posseg as pseg
from tqdm import tqdm, trange
from config.config import jieba_config
import string

jieba.load_userdict(jieba_config.get("word_dict"))
jieba = jieba
pseg = pseg
string = string
with open(file=jieba_config.get("stop_dict"),encoding='utf-8') as f:
    lines = tqdm(f.readlines(),desc="loading stop word")
    StopWords = {}.fromkeys([line.rstrip() for line in lines ])

print("\033[0;32;40m all loading is finished!\033[0m")


class Cut(object):

    def __init__(self,other_letters=None):
        self.letters = string.ascii_letters
        self.stopword = StopWords

    def __stop_not_sign(self,result):
        result_rel = []
        for res in result:
            if (res not in self.stopword):
                result_rel.append(res)
        return result_rel

    def __stop_with_sign(self, result):
        result_rel = []
        for res in result:
            if (res.word not in self.stopword):
                result_rel.append((res.word,res.flag))
        return result_rel

    def cut(self,sentence,by_word=False,
              use_stop_word=False,with_sg=False
              ):
        """
        :param sentence:
        :param by_word:
        :param use_stop_word:
        :param with_sg:
        :return:
        """
        if(by_word):
            return self.cut_sentence_by_word(sentence)
        else:
            '''
            without by word,so there will be cutting by jieba
            '''
            if (with_sg):
                result = pseg.lcut(sentence)
                if(use_stop_word):
                    result = self.__stop_with_sign(result)
            else:
                result = jieba.lcut(sentence)
                if (use_stop_word):
                    result = self.__stop_not_sign(result)
            return result

    def cut_sentence_by_word(self,sentence):
        """
        it can cut English sentences and Chinese
        :param sentence:
        :return:
        """
        result = []
        temp = ""
        for word in sentence:
            if word.lower() in self.letters:
                temp+=word
            else:
                if(temp!=""):
                    result.append(temp)
                    temp = ""
                else:
                    result.append(word.strip())
        if(temp!=""):
            result.append(temp.lower())
        return result

划分

之后的话,我们就可以划分了。这里的话我们要做的不仅仅是划分,我们还需要构建一个方法,去能够把一个句子转换为一个序列。那么这个实现的话也是在这里一起实现的。

这部分的代码其实也很简单,没啥好说的,我们直接看到代码。
在这里插入图片描述

"""
for building corpus for chatboot running
This will be deployed in a white-hole, possibly in version 0.7
"""
import pickle
from tqdm import tqdm
from config import config
from utils.cut_word import Cut

class Chat_corpus(object):

    def __init__(self):
        self.Cut = Cut()
        self.PAD = 'PAD'
        self.UNKNOW = 'UNKNOW'
        self.EOS = 'EOS'
        self.SOS = 'SOS'
        self.word2index={
            self.PAD: config.chatboot_config.get("padding_idx"),
            self.SOS: config.chatboot_config.get("sos_idx"),
            self.EOS: config.chatboot_config.get("eos_idx"),
            self.UNKNOW: config.chatboot_config.get("unk_idx"),
        }
        self.index2word = {}
        self.count = {}

    def fit(self,sentence_list):
        """
        just for counting word
        :param sentence_list:
        :return:
        """
        for word in sentence_list:
            self.count[word] = self.count.get(word,0)+1

    def build_vocab_chat(self,min_count=None,max_count=None,max_feature=None):
        """
        build word dict,this need to save by pickle in computer memory
        :return:
        """

        temp = self.count.copy()
        for key in temp:
            cur_count = self.count.get(key,0)
            if(min_count !=None):
                if(cur_count<min_count):
                    del self.count[key]

            if(max_count!=None):
                if(cur_count>max_count):
                    del self.count[key]

        if(max_feature!=None):
            self.count = dict(sorted(self.count.items(),key= lambda x:x[1],
                                      reverse=True
                                      )[:max_feature]
                               )

        for key in self.count:
            self.word2index[key] = len(self.word2index)
        self.index2word = {item[1]:item[0] for item in self.word2index.items()}

    def transform(self,sentence,max_len,add_eos=False):
        if(len(sentence)>max_len):
            sentence = sentence[:max_len]
        sentence_len = len(sentence)
        if(add_eos):
            sentence = sentence+[self.EOS]
        if(sentence_len<max_len):
            sentence = sentence +[self.PAD]*(max_len-sentence_len)
        result = [self.word2index.get(i,self.word2index.get(self.UNKNOW)) for i in sentence]
        return result

    def inverse_transform(self,indices):
        """
        index ---> sentence
        :param indices:
        :return:
        """
        result = []
        for i in indices:
            if(i==self.word2index.get(self.EOS)):
                break
            result.append(self.index2word.get(i,self.UNKNOW))
        return result

    def __len__(self):
        return len(self.word2index)

    def __by_word(self,data_lines):
        for line in data_lines:
            for word in self.Cut.cut(line,by_word=True):
                self.word2index[word] = self.word2index.get(word,0)+1

    def __by_not_word(self,data_lines):
        for line in  data_lines:
            for word in self.Cut.cut(line,by_word=False):
                self.word2index[word] = self.word2index.get(word, 0) + 1

    def division(self,by_word=False,use_stop_word=False):
        """
        this funcation just for dividing input and target in xiaohuangji corpus
        :return:
        """
        count_input = 0
        count_target = 0
        temp_sentence = []

        if(by_word):
            middle_prx = ""
        else:
            middle_prx = "_no"

        target_save = open(config.chatboot_config.get("target_path"+middle_prx+"_by_word"),'a',encoding='utf-8')
        input_save  = open(config.chatboot_config.get("input_path"+middle_prx+"_by_word"),'a',encoding='utf-8')
        xiaohuangji_path = config.data_path.get("xiaohuangji")

        with open(xiaohuangji_path,'r',encoding='utf-8') as file:
            file_lines = tqdm(file.readlines(),desc="division xiaohuangji")
            for line in file_lines:
                line = line.strip()
                if (line.startswith("E")):
                    continue
                elif (line.startswith("M")):
                    line = line[1:].strip()
                    line = self.Cut.cut(line, by_word, use_stop_word)
                    temp_sentence.append(line)

                if(len(temp_sentence)==2):
                    """
                    Because the special symbol has a certain possibility, 
                    it is used as the input of the user.
                    Therefore, retain that special kind of "symbolic dialogue" corpus
                    """
                    if(len(line)==0):
                        temp_sentence = []
                        continue
                    input_save.write(" ".join(line)+'\n')
                    count_input+=1
                    target_save.write(" ".join(line)+'\n')
                    count_target+=1
                    temp_sentence=[]
            input_save.close()
            target_save.close()
            assert count_target==count_input,'count_target need equal count_input'
            print("\033[0;32;40m process is finished!\033[0m")
            print("The input len is:",count_input,"\nThe target len is:",count_target)



def compute_build(chat_corpus,fixed=False,
                  by_word=False,min_count=5,
                  max_count=None,max_feature=None,
                  is_target=True,
                  ):
    """
    for computing fit function with input and target file
    :param fixed: if True when error coming will try to fix by itself
    :return:
    """

    if (by_word):
        middle_prx = ""
    else:
        middle_prx = "_no"


    after_fixed = False
    lines = []

    try:
        if(is_target):
            lines = open(config.chatboot_config.get("target_path"+middle_prx+"_by_word"), 'r', encoding='utf-8').readlines()
        else:
            lines = open(config.chatboot_config.get("input_path"+middle_prx+"_by_word"), 'r', encoding='utf-8').readlines()
    except Exception as e:
        if(fixed):
            chat_corpus.division(by_word=by_word)
            after_fixed = True
        else:
            raise Exception("you need use Chat_corpus division function first! ")

    if(after_fixed):
        if (is_target):
            lines = open(config.chatboot_config.get("target_path" + middle_prx + "_by_word"), 'r',
                         encoding='utf-8').readlines()
        else:
            lines = open(config.chatboot_config.get("input_path" + middle_prx + "_by_word"), 'r',
                         encoding='utf-8').readlines()
    data_lines = tqdm(lines,desc="building")
    for line in data_lines:
        chat_corpus.fit(line.strip().split())

    chat_corpus.build_vocab_chat(min_count,max_count,max_feature)
    if(is_target):

        pickle.dump(chat_corpus,open(config.chatboot_config.get("word_corpus"+middle_prx+"_by_word_target"),'wb'))
    else:

        pickle.dump(chat_corpus, open(config.chatboot_config.get("word_corpus" + middle_prx + "_by_word_input"), 'wb'))

if __name__ == '__main__':
    chat_corpus = Chat_corpus()
    compute_build(chat_corpus,fixed=True,min_count=5,by_word=False,is_target=True)


那么咱们这里的话就是说,实现了这样的方法:

  • 划分input 和 target,划分之后的效果是这个样子的:
    这里的话有一个重点,那就是必须保证对话是成对出现的,也就是生成的文件input和target对应的行数是一样的,同时注意有没有空行。
    -在这里插入图片描述
  • 构造映射词典,也就是达成这样的目标
    在这里插入图片描述
  • 保存

数据集加载

之后的话就是去构建我们的数据集合了,那么在这里的话需要注意的就是重写一个函数就好了。这个是我们使用pytorch必不可少的工作。
那么实现的话就是这样的:

在这里插入图片描述

"""
dataSet about chat_boot
"""
from torch.utils.data import DataLoader,Dataset
from boot.chatboot.encoder import Encoder
from config import config
import torch
class Chat_dataset(Dataset):


    r"""in there you will get this:

    Prefix dict has been built successfully.
    loading stop word: 100%|██████████| 1395/1395 [00:00<00:00, 1400443.77it/s]
     all loading is finished!
    tensor([[   14,  6243,   925,  ...,   515,    66,  1233],
            [   20,    34,  2173,  ...,   710,     7,     9],
            [12422,    20,    42,  ...,     9,    14,   236],
            ...,
            [ 1636,     1,     1,  ...,     1,     1,     1],
            [  531,     1,     1,  ...,     1,     1,     1],
            [ 8045,     1,     1,  ...,     1,     1,     1]])
    tensor([[  165, 19617,   118,  ...,     1,     1,     1],
            [  249,    15,    12,  ...,     1,     1,     1],
            [  153,     8,   153,  ...,     1,     1,     1],
            ...,
            [  329,    58,     3,  ...,     1,     1,     1],
            [  681,     0,  2625,  ...,     1,     1,     1],
            [ 5245,  3641,    15,  ...,     1,     1,     1]])
    tensor([20, 19, 16, 15, 13, 13, 12, 12, 11, 11, 11, 11, 11,  9,  9,  9,  9,  8,
             8,  8,  8,  8,  8,  8,  7,  7,  7,  7,  7,  7,  6,  6,  6,  6,  6,  6,
             6,  6,  6,  6,  5,  5,  5,  5,  5,  5,  5,  5,  5,  5,  5,  5,  4,  4,
             4,  4,  4,  4,  4,  4,  4,  4,  4,  4,  4,  4,  4,  4,  4,  4,  4,  4,
             4,  4,  3,  3,  3,  3,  3,  3,  3,  3,  3,  3,  3,  3,  3,  3,  3,  3,
             3,  3,  3,  3,  3,  3,  2,  2,  2,  2,  2,  2,  2,  2,  2,  2,  2,  2,
             2,  2,  2,  2,  2,  2,  2,  2,  2,  2,  1,  1,  1,  1,  1,  1,  1,  1,
             1,  1])
    tensor([ 7,  8,  3,  6,  2,  5,  2,  8,  5,  4,  2,  3,  3, 17,  3,  3, 10,  3,
             2, 71, 13,  1,  9, 10, 11, 10, 12,  3,  3,  8,  1, 10,  2, 11,  2,  9,
             2,  3,  8,  2,  3,  3,  4,  3,  3,  6, 40,  3,  8,  1, 30,  2,  7,  6,
             5, 74,  1,  9,  5,  5, 17,  4,  6,  5, 13,  2, 11,  3,  2,  6,  5,  2,
             2,  5,  3, 10,  5, 14,  3,  6,  2,  3, 18,  6,  9,  3,  4,  6,  3,  1,
             1,  7, 10,  6,  6,  3, 14,  2,  2,  7,  9,  6,  9,  3,  3,  9,  2,  3,
             7,  1,  1,  3,  4,  6,  6,  7,  1,  4,  6,  2,  6,  3,  5,  3,  2,  2,
             3,  6])

    """

    def __init__(self,by_word=False):

        if (by_word):
            middle_prx = ""
        else:
            middle_prx = "_no"

        self.target_lines = open(config.chatboot_config.get("target_path" + middle_prx + "_by_word"), 'r',
                            encoding='utf-8').readlines()
        self.input_lines = open(config.chatboot_config.get("input_path" + middle_prx + "_by_word"), 'r',
                           encoding='utf-8').readlines()

        assert len(self.target_lines)==len(self.input_lines),"len need equal"

    def __getitem__(self, index):
        input_data = self.input_lines[index].strip().split()
        target_data = self.target_lines[index].strip().split()
        if(len(input_data)==0):
            raise Exception("the input_data's length is: 0")
        input_length = len(input_data) if len(input_data)<config.chatboot_config.get("input_max_len") else config.chatboot_config.get("input_max_len")
        target_lenth = len(target_data) if len(target_data)<config.chatboot_config.get("target_max_len")+1 else config.chatboot_config.get("target_max_len")+1
        return input_data, target_data, input_length, target_lenth

    def __len__(self):
        return len(self.input_lines)



def collate_fn(batch):

    if(config.chatboot_config.get("collate_fn_is_by_word")):
        input_ws = config.chatboot_config_load.get("word_corpus_by_word_input_load")
        target_ws = config.chatboot_config_load.get("word_corpus_by_word_target_load")
    else:
        input_ws = config.chatboot_config_load.get("word_corpus_no_by_word_input_load")
        target_ws = config.chatboot_config_load.get("word_corpus_no_by_word_target_load")

    batch = sorted(batch,key=lambda x:x[-2],reverse=True)
    input_data, target_data, input_length, target_lenth = zip(*batch)
    input_data = [input_ws.transform(i, max_len=config.chatboot_config.get("input_max_len")) for i in input_data]
    target_data = [target_ws.transform(i, max_len=config.chatboot_config.get("target_max_len"),add_eos=True) for i in target_data]

    input_data = torch.LongTensor(input_data)
    target_data = torch.LongTensor(target_data)
    input_length = torch.LongTensor(input_length)
    target_lenth = torch.LongTensor(target_lenth)

    return input_data, target_data, input_length, target_lenth

if __name__ == '__main__':

    chat_dataset = Chat_dataset()
    train_data_loader = DataLoader(chat_dataset, batch_size=config.chatboot_config.get("batch_size"),
                                   shuffle=True,
                                   collate_fn=collate_fn)


    for idx,(input_data, target_data, input_length, target_lenth) in enumerate(train_data_loader):
        print(input_data.max())
        print(target_data)
        print(input_length)
        print(target_lenth)
        break



那么这个时候的话,我们的数据准备工作,做完这个之后,运行程序。没有问题的话,在你的文件目录下面将会产生这些文件。
在这里插入图片描述
没有框起来的没有,因为那个是训练完之后才有的。

模型搭建

欧克,之后的话就来到了我们的模型搭建部分了。首先在这里的话我们使用到的是非常经典的Seq2Seq(低情商:low)
我们先简单了解一下这个玩意吧,这个东西看不太懂没关系,因为没办法博文就这样,包括论文也是只能概括,有基础很好理解,没有只能补一下。但是别着急,在我这里,你并不需要知道太多,了解即可。我只告诉你最本质的是啥,就是seq2seq它到底是啥,然后有哪些概念。之后大概的结构是啥。

基本概念

首先的话,这个玩意是这样的结构大概:
在这里插入图片描述

他有一个编码器和解码器。那么这个就是最重要的在这个网络当中。
同时他们详细一点的关系是这样的:
在这里插入图片描述

编码器和解码器都是一个RNN。

OK,知道了这个我们再来说说为啥是这样的结构。首先我们为什么需要使用到RNN,因为我们一个句子输入进去的是一个词向量。每一个词之间相互关联。上下词之间存联系。因此我们提出了RNN,在基础上我们又提出了LSTM,GRU这种RNN网络。目的就是解决这种像这种相互关联的内容,之后的话我们把按照顺序把每一个词输入进网络,一个接一个并且把上一个词的输出同时作为输入。也就是所谓的时间步。因此我们首先用户输入了一个句子得到一个词向量,那么我们需要进行解析。因此我们首先在输入的地方需要一个循环神经网络,之后我们需要得到一个句子作为输出,同样的这个也是一个接一个的,因为我们也需要一个词一个词前去生成,那么这个是一个反过来的过程。所以此时我们需要第二个网络,并且这个网络也是一个循环网络,并且由于需要反过来,因此在实现上我们需要手写RNN的循环。在我们这边是使用GRU来做的,因此手写GRU的一个循环。

所以你看到了我们需要两个GRU,并且按照咱们刚刚说的,我们把这个玩意一个叫做编码器,一个叫做解码器。

之后我们理解了为啥要两个网络,那么同样的我们如何得到句子呢?我们首先输入了一个句子,之后由解码器生成句子。这里的话其实是这样的,假设我们需要生成的句子最长是10个。我们的训练集当中,或者说数据当中,有1W个词。这个很正常的,毕竟我们训练的数据都是几十万几步的。那么这个时候的话,我们其实要做的话就是直接预测一个概率,也就是说我们在解码器最后面加入一个全连接层,之后通过softmax,这种函数,转化为一个概率。10个词的句子,1W个单词。那么我们最后一句话的话就会得到10*1W的概率矩阵,每一个句子的位置上,也就是时间步上,我们都预测概率。(当然你也可以学学YOLO直接把这个问题变成一个回归问题)。

所以假设你上面都没有听懂,那么你只需要记住,那就是,我们输入一个句子,通过seq2seq当中的编码器和解码器相互作用。最终生成了一个句子,在每一个位置上,在数据当中所有词出现的概率,然后把概率最大的那个词作为当前位置上要生成的词,最后组成一句话就好了。那么这个过程直到达到你预定的要生成的句子长度外,出现停止符号的时候也会停止。这个在我们的配置文件当中写了一个停止的标识。

Encoder搭建

OK,我们这边来搭建一下编码器,这个比较简单。直接看就好了。
在这里插入图片描述

import torch.nn as nn
from torch.nn.utils.rnn import pack_padded_sequence, pad_packed_sequence
from config import config


class Encoder(nn.Module):
    def __init__(self,by_word=False):
        super(Encoder,self).__init__()

        if(by_word):
            self.input_ws = config.chatboot_config_load.get("word_corpus_by_word_input_load")
        else:
            self.input_ws = config.chatboot_config_load.get("word_corpus_no_by_word_input_load")

        self.embedding = nn.Embedding(
            num_embeddings=len(self.input_ws),
            embedding_dim=config.chatboot_config.get("embedding_dim"),
            padding_idx=config.chatboot_config.get("padding_idx")
        )

        self.gru = nn.GRU(input_size=config.chatboot_config.get("embedding_dim"),
                          dropout=config.chatboot_config.get("dropout"),
                          num_layers=config.chatboot_config.get("num_layers"),
                          hidden_size=config.chatboot_config.get("hidden_size"),
                          bidirectional=config.chatboot_config.get("bidirectional"),
                          batch_first=config.chatboot_config.get("batch_first")
                          )

    def forward(self,input_data,input_length):
        embeded = self.embedding(input_data)
        embeded = pack_padded_sequence(embeded,input_length.cpu(),batch_first=True)

        out,hidden = self.gru(embeded)

        """
        in there return:
        hidden: num_layers*2,batch_size,hidden_size
        out: batch_size,sentence_len,hidden_size
        """
        out,_ = pad_packed_sequence(out,
                                         batch_first=config.chatboot_config.get("batch_first"),
                                         padding_value=config.chatboot_config.get("padding_idx")
                                         )
        return out,hidden


Decoder

之后是我们decoder的搭建。那么在这块的话,我们还简答地加入了一个注意力机制:(感兴趣的可以自己去看这篇论文,是2015年出来的:https://arxiv.org/pdf/1508.04025.pdf)这里的话咱们就不介绍了)

同时的话,我们还对这个预测做了一个优化,刚刚是说我们在每一个位置上,找的都是概率最大的一个词,然后作为这个位置的词,直到达到了我们预定的长度,或者说这个位置概率最大的词是结束标志。然后停止,那么在这里的话就容易出现一个问题,那就是每一步最优不一定代表全局最优,比如当前选了这个词,概率是0.3,之后下一步选一个词是0.2。而如果在上一步选择0.25的概率的词,下一步的一个词的概率有0.6,那么相对来说0.3和0.25差距可能不大,但是0.6和0.2差距是很大的。因此为了解决这个问题,有一个算法叫做beamsearch。这个玩意就是说都会走一遍,最后选出看起来效果还不错的序列作为输出。

Attention机制

首先来看到我们的Attention
在这里插入图片描述

那么代码是这里:

"""
The luong attention in there
"""
import torch.nn as nn
import torch.nn.functional as F
from config import config
import torch
class LuongAttention(nn.Module):

    def __init__(self,method="general"):
        super(LuongAttention,self).__init__()
        assert method in ["dot","general","concat"],'method err just support "dot","general","concat"'
        self.method = method

        self.chatboot_encoder_hidden_size = config.chatboot_config.get("hidden_size")*2 if config.chatboot_config.get(
                "bidirectional") else config.chatboot_config.get("hidden_size")
        self.chatboot_decoder_hidden_size = config.chatboot_config.get("hidden_size")*2 if config.chatboot_config.get(
                "bidirectional") else config.chatboot_config.get("hidden_size")

        self.wa_general = nn.Linear(
            # encoder
            self.chatboot_encoder_hidden_size,
            # decoder
            config.chatboot_config.get("hidden_size"),
            bias=False
        )

        self.wa_concat = nn.Linear(
            self.chatboot_encoder_hidden_size+self.chatboot_decoder_hidden_size,
            # decoder
            self.chatboot_decoder_hidden_size,
            bias=False
        )
        self.va = nn.Linear(
            # decoder
            config.chatboot_config.get("hidden_size"),
            1,
        )

    def forward(self,hidden_state,encoder_outputs):

        attention_weight = None
        if(self.method=='dot'):
            hidden_state = hidden_state[-1,:,:].permute(1,2,0)
            attention_weight = encoder_outputs.bmm(hidden_state).squeeze(-1)
            attention_weight = F.softmax(attention_weight)

        elif (self.method=='general'):
            encoder_outputs = self.wa_general(encoder_outputs)
            hidden_state = hidden_state[-1:,:,:].permute(1,2,0)
            attention_weight = encoder_outputs.bmm(hidden_state).squeeze(-1)
            attention_weight = F.softmax(attention_weight,dim=-1)

        elif self.method == 'concat':
            hidden_state = hidden_state[-1,:,:].squeeze(0)
            hidden_state = hidden_state.repeat(1,encoder_outputs.size(1),1)
            concated = torch.cat([hidden_state,encoder_outputs],dim=-1)
            batch_size = encoder_outputs.size(0)
            encoder_seq_len = encoder_outputs.size(1)
            attention_weight = self.va(F.tanh(self.wa_concat(concated.view((batch_size*encoder_seq_len,-1))))).sequeeze(-1)
            attention_weight = F.softmax(attention_weight.view(batch_size,encoder_seq_len))

        assert attention_weight!=None,"error attention_weight can't be None"

        return attention_weight


decoder与beamsearch

这个东西的话和我们的decoder是在一起的,同时我们的注意力机制其实也是在这里的。
在这里插入图片描述
那么实现的话是这样的:

import torch.nn as nn
import torch.nn.functional as F
from config import config
import torch
import random
from utils.drive import getDrive
from boot.chatboot.attention import LuongAttention
import heapq

"""
in there we import luong  Attention 
"""


class Beam(object):

    def __init__(self):
        self.heap = list()
        self.beam_width = config.chatboot_config.get("beam_width")

    def add(self, probility, complete, seq, decoder_input, decoder_hidden):
        """
        :param probility:
        :param complete: is or not eos
        :param seq: all token list
        :param decoder_input:
        :param decoder_hidden:
        :return:
        """

        heapq.heappush(self.heap, [probility, complete, seq, decoder_input, decoder_hidden])

        if (len(self.heap) > self.beam_width):
            heapq.heappop(self.heap)

    def __iter__(self):
        return iter(self.heap)


class Decoder(nn.Module):
    def __init__(self,by_word=False):
        super(Decoder,self).__init__()

        self.drive = getDrive()

        """
        attention init 
        """

        if(config.chatboot_config.get("use_attention")):


            self.chatboot_encoder_hidden_size = config.chatboot_config.get("hidden_size")*2 if config.chatboot_config.get(
                    "bidirectional") else config.chatboot_config.get("hidden_size")
            self.chatboot_decoder_hidden_size = config.chatboot_config.get("hidden_size")*2 if config.chatboot_config.get(
                    "bidirectional") else config.chatboot_config.get("hidden_size")

            self.atte = LuongAttention()
            self.wa_concat = nn.Linear(
                self.chatboot_encoder_hidden_size+self.chatboot_decoder_hidden_size,
                # decoder
                self.chatboot_decoder_hidden_size,
                bias=False
            )

        if(by_word):
            self.target_ws = config.chatboot_config_load.get("word_corpus_by_word_target_load")
        else:
            self.target_ws = config.chatboot_config_load.get("word_corpus_no_by_word_target_load")

        self.embedding = nn.Embedding(
            num_embeddings=len(self.target_ws),
            embedding_dim=config.chatboot_config.get("embedding_dim"),
            padding_idx=config.chatboot_config.get("padding_idx")
        )

        self.gru = nn.GRU(input_size=config.chatboot_config.get("embedding_dim"),
                          dropout=config.chatboot_config.get("dropout"),
                          num_layers=config.chatboot_config.get("num_layers"),
                          hidden_size=config.chatboot_config.get("hidden_size"),
                          bidirectional=config.chatboot_config.get("bidirectional"),
                          batch_first=config.chatboot_config.get("batch_first")
                          )
    
        self.fc = nn.Linear(config.chatboot_config.get("hidden_size")*
                            config.chatboot_config.get("num_layers"),
                            len(self.target_ws)
                            )
    
    def forward(self,target_data,encoder_hidden,encoder_outputs):
        """
        :param target_data:
        :param encoder_hidden:

        The hardest thing to do here is to pay attention to the dimensional
        changes in input and publication.
        :return:
        """

        decoder_hidden = encoder_hidden
        batch_size = target_data.size(0)

        """
        sos input in decoder for first time step
        """
        decoder_input = torch.LongTensor(torch.ones([batch_size,1],dtype=torch.int64
                                                    ))*config.chatboot_config.get("sos_idx")
        decoder_input = decoder_input.to(self.drive)

        decoder_outputs = torch.zeros([batch_size,config.chatboot_config.get("target_max_len")+1,
                                       len(self.target_ws)
                                       ]).to(self.drive)


        if (random.random() < config.chatboot_config.get("teacher_forcing_ratio")):

            for time in range(config.chatboot_config.get("target_max_len") + 1):
                decoder_output_t, decoder_hidden = self.forward_step(decoder_input, decoder_hidden,encoder_outputs)
                decoder_outputs[:, time, :] = decoder_output_t
                decoder_input = target_data[:,time].unsqueeze(-1)
        else:
            for time in range(config.chatboot_config.get("target_max_len")+1):
                decoder_output_t,decoder_hidden = self.forward_step(decoder_input,decoder_hidden,encoder_outputs)
                decoder_outputs[:,time,:] = decoder_output_t

                value,index = torch.topk(decoder_output_t,1)
                decoder_input = index

        return decoder_outputs,decoder_hidden


    def forward_step(self,decoder_input, decoder_hidden,encoder_outputs):

        decoder_input_embeded = self.embedding(decoder_input)
        out,decoder_hidden = self.gru(decoder_input_embeded,decoder_hidden)
        """
        there we add attention way
        """
        """*******************************************************"""
        if (config.chatboot_config.get("use_attention")):

            attention_weight = self.atte(decoder_hidden,encoder_outputs).unsqueeze(1)

            context_vector = attention_weight.bmm(encoder_outputs)

            concated = torch.cat([out,context_vector],dim=-1).squeeze(1)

            out = torch.tan(self.wa_concat(concated))
            """*******************************************************"""
            # out = out.squeeze(1)
        else:
            out = out.squeeze(1)
        out = self.fc(out)
        output = F.log_softmax(out,dim=-1)
        return output,decoder_hidden

    def evaluate(self,encoder_hidden,encoder_outputs):

        decoder_hidden = encoder_hidden
        batch_size = encoder_hidden.size(1)

        decoder_input = torch.LongTensor(torch.ones([batch_size,1],dtype=torch.int64
                                                    ))*config.chatboot_config.get("sos_idx")
        decoder_input = decoder_input.to(self.drive)
        indices = []

        for i in range(config.chatboot_config.get("out_seq_len")):

            decoder_output_t,decoder_hidden = self.forward_step(decoder_input,decoder_hidden,encoder_outputs)
            value,index = torch.topk(decoder_output_t,1)
            decoder_input = index
            indices.append(index.squeeze(-1).cpu().detach().numpy())

        return indices

    def evaluate_beamsearch(self,encoder_hidden,encoder_outputs):
        batch_size = encoder_hidden.size(1)

        decoder_input = torch.LongTensor([[config.chatboot_config.get("sos_idx")]*batch_size]).to(self.drive)
        decoder_hidden = encoder_hidden

        prev_beam = Beam()
        prev_beam.add(1,False,[decoder_input],decoder_input,decoder_hidden)
        while True:
            cur_beam = Beam()
            for _probility,_complete,_seq,_decoder_input,_decoder_hidden in prev_beam:
                if(_complete==True):
                    cur_beam.add(_probility,_complete,_seq,_decoder_input,_decoder_hidden)
                else:
                    decoder_output_t,decoder_hidden = self.forward_step(_decoder_input,_decoder_hidden,encoder_outputs)

                    value,index = torch.topk(decoder_output_t,config.chatboot_config.get("beam_width"))

                    for m,n in zip(value[0],index[0]):
                        decoder_input = torch.LongTensor([[n]]).to(self.drive)
                        seq = _seq+[n]
                        probility = _probility * m
                        if(n.item()==config.chatboot_config.get("eos_idx")):
                            complete = True
                        else:
                            complete = False

                            cur_beam.add(probility,complete,seq,decoder_input,decoder_hidden)

            best_prob,best_complete,best_seq,_,_ = max(cur_beam)
            if(best_complete==True or len(best_seq)-1 == config.chatboot_config.get("out_seq_len")):
                return self.__prepar_seq(best_seq)
            else:
                prev_beam = cur_beam

    def __prepar_seq(self,best_seq):
        if(best_seq[0].item()==config.chatboot_config.get("sos_idx")):
            best_seq = best_seq[1:]
        if(best_seq[-1].item()==config.chatboot_config.get("eos_idx")):
            best_seq = best_seq[:-1]
        best_seq = [i.item() for i in best_seq]
        return best_seq

这里面最难的其实还是关于它里面数据维度的一个变化,原理其实还是比较简单的。

加载驱动

那么在这里的话还有一个细节就是回到工具包:

在这里插入图片描述

这里的还有这个玩意。

import torch
from config import config

def getDrive():
    if (torch.cuda.is_available()):
        if (not config.chatboot_config.get("drive") == 'cpu'):
            div = "cuda:" + config.chatboot_config.get("drive")
            drive = torch.device(div)
        else:
            drive = torch.device("cpu")
    else:
        drive = torch.device("cpu")
    return drive

Seq2Seq搭建

现在的话我们的几个重要部件都实现了,那么我们现在需要组装一下了。
在这里插入图片描述


from torch import nn
from boot.chatboot.decoder import Decoder
from boot.chatboot.encoder import Encoder
from utils.drive import getDrive
from config import  config

class Seq2Seq(nn.Module):
    
    def __init__(self):
        super(Seq2Seq,self).__init__()

        self.drive = getDrive()
        self.encoder = Encoder().to(self.drive)
        self.decoder = Decoder().to(self.drive)


    def forward(self,input_data,target_data,input_length,target_length):

        encoder_outputs,encoder_hidden = self.encoder(input_data,input_length)
        decoder_outputs,decoder_hidden = self.decoder(target_data,encoder_hidden,encoder_outputs)

        return decoder_outputs,decoder_hidden

    def evaluate(self,input_data,input_length):
        encoder_outputs,encoder_hidden = self.encoder(input_data,input_length)
        if(config.chatboot_config.get("beam_search")):
            indices = self.decoder.evaluate(encoder_hidden,encoder_outputs)
        else:
            indices = self.decoder.evaluate_beamsearch(encoder_hidden,encoder_outputs)
        return indices

训练

那么到了最后就是咱们的训练了
在这里插入图片描述
那么这个时候我需要说的就是我们的这个玩意有点类似于分类,但是和分类的区别是,并不是在训练集的时候损失越小越好,我们在分类的时候是损失越小那么就越准,但是在这里太准了就容易出事,就比如有这样的对话,你说:“你好”,然后在咱们的回答是:“你好呀””。这个时候你相当于分类,网络生成了“你好呀”这句话是没问题,但是它生成了:“你也好呀”,或者是:“你吃了吗”。这种对话也是没问题的,但是单纯作为分类的话,那么如果生成的是这两句话中的其中一个的话,那么从分类的结果上来说,他是匹配句子当中每一个词的id。那么损失是相当难看的,可是实际对话效果可能又是不错的。因此这也是比较难验证的。所以虽然他也算是有监督的,但是和图像这种不一样,他不是完全对应的。也就是没有标准答案,这个也是问题,当然解决也是可以的那就是数据集,多个答案,但是这个难度比较大,咱们这里做也不现实。所以的话在这块也是区别于分类我们还会搞一个验证集去判断对了几个,咱们这不好判断,因为语言它不是问答,而且问答的话是做匹配。

这部分的实现比较简单

from boot.chatboot.chat_dataset import Chat_dataset,collate_fn
from boot.chatboot.seq2seq import Seq2Seq
from torch.optim import Adam
from torch.utils.data import DataLoader,Dataset
import torch.nn.functional as F
from config import config
from tqdm import tqdm
import torch.nn as nn
import torch
from utils.drive import getDrive

class Train_model(object):
    def __init__(self,by_word=False):

        if(config.chatboot_config.get("use_attention")):
            print("\033[0;32;40m using attention by {} method !\033[0m".format(
                config.chatboot_config.get("attention_method")
            ))

        self.drive = getDrive()
        self.seq2seq = Seq2Seq()
        self.seq2seq = self.seq2seq.to(self.drive)
        self.optimizer = Adam(self.seq2seq.parameters(),lr=0.001)
        self.train_data_loader = DataLoader(Chat_dataset(),
                                            batch_size=config.chatboot_config.get("batch_size"),
                                            shuffle=True,
                                            num_workers=config.chatboot_config.get("num_workers"),
                                            collate_fn=collate_fn)

        if(by_word):
            self.save_seq2seq = config.chatboot_config.get("seq2seq_model_by_word")
            self.save_optimizer = config.chatboot_config.get("optimizer_model_by_word")
        else:
            self.save_seq2seq = config.chatboot_config.get("seq2seq_model_no_by_word")
            self.save_optimizer = config.chatboot_config.get("optimizer_model_no_by_word")

    def train(self,e):
        self.drive = getDrive()
        bar = tqdm(enumerate(self.train_data_loader),
                   total=len(self.train_data_loader),desc="training",
                   colour='green'
                   )
        e_loss = 0
        for idx, (input_data, target_data, input_length, target_length) in bar:

            input_data = input_data.to(self.drive)
            target_data = target_data.to(self.drive)
            input_length = input_length.to(self.drive)
            target_length = target_length.to(self.drive)

            self.optimizer.zero_grad()
            decoder_outputs,decoder_hidden = self.seq2seq(input_data,target_data,
                                                          input_length,target_length
                                                          )


            decoder_outputs = decoder_outputs.reshape(decoder_outputs.size(0)*decoder_outputs.size(1),-1)

            target_data = target_data.view(-1)
            loss = F.nll_loss(decoder_outputs,target_data,
                              ignore_index=config.chatboot_config.get("padding_idx")
                              )

            loss.backward()
            nn.utils.clip_grad_norm_(self.seq2seq.parameters(),max_norm=config.chatboot_config.get("max_norm"))
            self.optimizer.step()
            e_loss+=loss.item()
            bar.set_description("drive:{} \t epoch:{} \t idx:{} \t current_batch_loss:{:.2f}".format(self.drive,e,idx,loss.item()))

        print("\n","\033[0;32;40m drive:{} \t epoch:{}  \t current_epoch_loss:{:.2f}\033[0m".format(self.drive, e, e_loss))
        if(e%2==0):
            torch.save(self.seq2seq.state_dict(),self.save_seq2seq)
            torch.save(self.optimizer.state_dict(),self.save_optimizer)


if __name__ == '__main__':
    train_model = Train_model()
    for e in range(1, 5):
        train_model.train(e)

当我们训练完成之后,我们将得到权重文件。我们这里搭建的是一个两个双向的2层的GRU加上全连接。得到的权重模型大概是70MB。

那么执行完毕之后的话你讲得到这两个文件:
在这里插入图片描述
同样的,我们的训练可以基于分词(准确的说是分字),也可以基于那个jieba分词的结果来,这个的话有个关键参数叫做by_word这个改为TRUE就是按照分字来一下了,然后你看看效果就好了。

预测

先说一下,我们的配置是GTX1650 4GB,跑一次训练需要12分钟。也就是说训练10次2个小时没了。所以我这里演示的效果不是很好,没办训练的问题,当然还有参数的调优之类的,这个的话需要各位自己拿到项目之后去训练了,而且相关数据文件比较大,所以都不会上传,各位下载好开头给的资源文件后,放到指定位置,先点击训练,他自己会生成很多文件,之后完成训练。这个大家应该是看到了的。

from boot.chatboot.chat_dataset import Chat_dataset,collate_fn
from boot.chatboot.seq2seq import Seq2Seq
from config import config
from utils.drive import getDrive
from utils.cut_word import Cut
import torch
import numpy as np

class Eval_model(object):

    def __init__(self,by_word=False):
        self.by_word = by_word
        self.drive = getDrive()
        self.seq2seq = Seq2Seq()
        self.seq2seq = self.seq2seq.to(self.drive)
        self.cut = Cut()
        if(by_word):
            self.seq2seq.load_state_dict(torch.load(config.chatboot_config.get("seq2seq_model_by_word")))
            self.input_ws = config.chatboot_config_load.get("word_corpus_by_word_input_load")
            self.target_ws = config.chatboot_config_load.get("word_corpus_by_word_target_load")

        else:
            self.seq2seq.load_state_dict(torch.load(config.chatboot_config.get("seq2seq_model_no_by_word")))
            self.input_ws = config.chatboot_config_load.get("word_corpus_no_by_word_target_load")
            self.target_ws = config.chatboot_config_load.get("word_corpus_no_by_word_target_load")

    def while_talk(self):
        while True:
            input_data = input("please input:")
            input_data = self.cut.cut(input_data,by_word=self.by_word)
            if len(input_data) < config.chatboot_config.get( "input_max_len"):
                input_length = len(input_data)
            else:
                input_length = config.chatboot_config.get("input_max_len")

            input_data = [self.input_ws.transform(input_data, max_len=config.chatboot_config.get("input_max_len"))]
            input_data = torch.LongTensor(input_data).to(self.drive)
            input_length = torch.LongTensor([input_length]).to(self.drive)
            """
            index-->Plural form
            """
            indices = np.array(self.seq2seq.evaluate(input_data,input_length)).flatten()

            outputs = self.target_ws.inverse_transform(indices)

            print("xiaojiejie:","".join(outputs))

if __name__ == '__main__':
    eval_model = Eval_model()
    eval_model.while_talk()


那么此时的话,拿到这个,或者封装一下就OK了。
效果大概是这个样子的,这个自己慢慢训练一波,调调参数啥的,或者再优化一下数据集。
在这里插入图片描述

总结

那么这个的话就是我们聊天AI的搭建了,那么如果你想要训练一个小姐姐AI,记住,你的数据集里面,那个target得是小姐姐的话语,如果不是我不保证。当然这个东西现在存在的问题还是挺多的,如果要我选,我选择做好的,因为训练调优的话还是需要时间磨合的。但是作为一个baseline日后不断优化是不错的选择。同时自己动手丰衣足食,你完全可以拿你女朋友和你的聊天记录处理一下作为语料自己玩玩嘛。OK,这个就是咱们扩写之后的比较完整的一个部分了。建议可以深入了解的去看看本文提到的东西然后在看看这个代码。同时的话其实你发现了,这玩意可以做其他的一个生成,例如我把input变成古诗题目,target作为诗句,那么是不是可以实现一个古诗生成,当然得做调整。但总体上他是输入一个序列得到一个序列的结构,比如翻译之类的,这个结构的话也是比较适应的,之后就是如何优化,比如transform其实就是这个结构,加了很多注意力机制。同时的话,对于这种序列尤其是这样大量二维矩阵的运算,我们是不是还可以加入CNN去做,都是一个优化方案,也确实有这样的大哥在干。

OK,到这里恭喜你看到这里,结束了,太酷了:
在这里插入图片描述
最后一句话,好好学习,天天向上!!!来个小姐姐送我一张RTX4080 评论区踹我(手动狗头)

相关文章:

  • Win7纯净版系统镜像64位介绍
  • Kali系统MSF模块暴力破解MySQL弱口令漏洞
  • [附源码]java毕业设计疫情环境下的酒店管理系统
  • kafka配置外网访问
  • java每一练(3)
  • Java学习----前端4
  • ABAP中 delete 语句的使用
  • cesium火箭发射,模型控制,模型动画,模型移动
  • http请求走私漏洞原理,利用,检测,防护
  • Docker学习(3)—— 将容器转化为新的镜像,并将新镜像发布到阿里云公共仓库或私有仓库
  • cpu天梯图2022年11月 cpu排行榜天梯图2022
  • Linux的基本协议与他的堂兄堂弟
  • FEDformer 代码分析(2)
  • UCloud 对象存储使用
  • web前端-javascript-逻辑运算符(! 非取反,短路的 与,短路的|| 或, || 非布尔值的情况,对于非布尔值进行与或运算时,会先将其转换为布尔值,然后再运算,并且返回)
  • 油藏生产业务+机器学习代理优化算法
  • http请求报头header
  • Java Spring后处理器
  • 为什么国外程序员的创造力比中国程序员强?
  • linux进阶55——service文件
  • Python 全栈系列209 so_pack
  • Java基础:Object类、常用API
  • Spring - @PostConstruct 源码解析
  • 开源大数据工具整理
  • Springboot莱昂纳多作品集推荐系统jcpqz计算机毕业设计-课程设计-期末作业-毕设程序代做
  • 【JVM技术专题】「原理专题」让我们一起探索一下Netty(Java)底层的“零拷贝Zero-Copy”技术(上)
  • 导热油炉安全操作规程_导热油怎么加热
  • 导热油锅炉不循环_什么企业用导热油锅炉
  • 天然气锅炉不出热水_陕西天然气锅炉排行榜