从RNN、LSTM到NTM、MANN——神经网络的记忆与推理进化

从RNN、LSTM到NTM、MANN——神经网络的记忆与推理进化


目录

• 从RNN、LSTM到NTM、MANN——神经网络的记忆与推理进化
  
  
  
  • 一、前言：为什么要研究记忆？
    
  • 二、记忆力在深度学习中的作用
    
  • 三、循环神经网络RNN
    
  • 四、LSTM神经网络——为什么是“长”的“短期”？
    
  • 五、注意力机制
    
  • 六、神经图灵机 NTM
    
  • 七、记忆增强神经网络 MANN
    
  • 八、NTM的源码分析
    
  
  

一、前言：为什么要研究记忆？

（温馨提示：在阅读本文之前，请确保你已经对深度学习中最基本的概念有一定的了解，例如：激活函数、多层感知机、前向传播、反向传播等）
​        本文的侧重点是神经网络的记忆功能。
​        深度学习的科学家们总是喜欢从人脑中汲取灵感。通过大脑神经元的结构，人们提出了神经网络图；通过人脑对重要事物的聚焦（注意力），人们提出了注意力机制（Attention is all you need ）；
​         

​        显而易见，深度学习的科学家是不会放过记忆力这个大脑的重要能力的。尤其是大模型时代，注意力机制极大的加速了人工智能的发展，催生出了GPT4.0、deepseek之类的强悍模型，然而这些大模型无一例外的患有“健忘症”。大模型的参数虽然很多，但是它们的“记忆”能力是有限的，甚至是极其有限的。
​        为什么大模型会得健忘症？答案可能很幽默：正是由于大模型的自注意力机制，才导致了大模型无法实现长上下文处理。（什么是注意力机制？这个我们在后面会提到。现在不会也没关系）
​        自注意力机制的计算复杂度为 \(O(n^2)\)，其中 n 是输入序列的长度。这意味着随着上下文的长度增加，计算所需的资源（时间和内存）也会平方级别增加。这对一个普通的小程序来说当然不是问题，问题是那可是大模型啊，参数的数量会随着上下文长度急剧增加。一个千位长度的文字就能带来几百万个参数，还有大量的矩阵运算。所以，为了使计算时间没有那么长，我们不得不限制上下文的长度，代价就是大模型的“健忘”。
二、记忆力在深度学习中的作用

​        如何提升模型的记忆力？这显然是一个重要的课题。对于我们人类而言，记忆力显然是智力的重要组成部分。好的记忆力甚至可以大幅提升我们的推理能力和学习能力。
​        让我们首先类比身边的一个例子：学霸们记得都很多，而且学霸记得越多，学霸的学习速度也就越快，这就是所谓的“记忆增强”。让我们拆分一下学霸的优点：1、学霸可以快速学习新知识点；2、学霸自学能力极强；3、学霸不需要靠刷题就能取得高分。现在让我们类比回深度学习的领域：

• 快速学习一个新知识，在深度学习领域一般称作 “一次学习（One-shot learning）”；
  
• 通过以前的学习经验学习新的知识，在深度学习领域一般称作“元学习（Meta-Learning）”；
  
• 通过少量样本素材进行学习，在深度学习领域一般称作“小样本学习”。
  

​        现在我们正处于“大模型”时代，各个公司的模型都是靠超级庞大的参数量来取胜，模型都是靠疯狂的“题海战术”来进行训练。然而，模型真的有必要这么大吗？小模型能不能起到和大模型同等的作用？能不能让我们的模型像一个学霸一样，不怎么刷题靠自学就可以成才？
​        综上，可以看出元学习、一次学习、少样本学习等领域仍然有非常重要的科研价值。而这些领域中的其中一个热门方向，就是使用外部记忆来“增强”我们的神经网络模型。
​        这种思维模式由来已久，笔者难以考证最初的灵感来自于何时。但是，RNN是第一个备受人们关注的带有一定记忆功能的神经网络模型，所以让我们从RNN神经网络开始讲起。
​        最后，笔者不得不提到，外部记忆模块是否能像注意力机制一样大放光彩，还有待时间去验证。但是不得不说这是一个积极的探索，并且有迹可循。

三、循环神经网络RNN

​        “如果这个世界上的所有东西都毫无关联，那要记忆有何用呢？”——沃兹基硕德
​        希望在看到此处时，你已经比较熟悉多层感知机和卷积神经网络 CNN 的基本概念。并且在此时我就要指出这两个模型的弱点：它们不擅长处理具有序列特性的信息。此时你一定会有两个问题：

• 什么是序列特性？
  
• 为什么CNN不擅长处理序列信息呢?
  

​        所谓序列特性的信息，就是和前面、后面的信息都有关的信息。让我们把输入数据写作\((x_1,x_2,\dots,x_t,\dots,x_n)\)，如果这些数据没有序列特性，就是指任一 \(x_i\) 和 \(x_j\) 都没有任何关系。
​        举个例子：
​        第一句话：冬天来了，能穿多少穿多少
​        第二句话：夏天来了，能穿多少穿多少
​        后面的输入（能穿多少穿多少）是完全相同的，但是语义却是完全不同的。这就是因为语言具有序列特性，前面的词语一换后面的意思就要发生变化。语言、声音、股票涨跌等信息都具有序列特性，待分类的图像则一般不具有序列特性。
​        为什么CNN不擅长处理带有序列特性的信息呢?不是说 CNN 不能处理这样的信息，但是 CNN 是通过卷积核进行特征提取的。卷积核的大小很有限，它只能非常局部地提取特征。

​        举个例子，看看下面这段文字：

​        李华走进教室，发现所有的同学都在等待老师的到来。突然，门口传来了脚步声，老师走进了教室。大家立刻安静下来，专心听讲。老师开始布置作业，并提醒大家注意复习的重要性。通过这一天的努力，他*相信自己能做好准备，迎接即将到来的考试。*

​        这是一个长序列特性的文字。所谓长序列特性，就是它很长，又具有序列特性。比如上面这段文字，“他”和“李华”这两个词语之间是相关的（他=李华），但是这两个词语可谓是十万八千里，中间还有“老师”这个词的干扰。
​        如果交给CNN处理，CNN的卷积核只能注意到局部的特征。假设卷积核一次处理九个字（window_size=9）：

​        李华走进教室发现所有的同学都在等待老师的到来。突然，门口传来了脚步声，老师走进了教室。大家立刻安静下来，专心听讲。老师开始布置作业，并提醒大家注意复习的重要性。通过这一天的努力，他相信自己能做好准备，迎接即将到来的考试。

​        李华和他不可能在卷积核内同框，如果只进行一层卷积的话，显然不可能找到这两个词的关系。有一个办法是采用多个卷积层，但是这样做会加深神经网络的深度，及其容易出现梯度消失和过拟合的问题，计算时间也会大幅增长。
​        那么怎么办呢？这个时候需要我们的模型“记住”之前的信息。在我们处理“他”这个信息的时候，如果我们能“记住”“李华”这个关键信息，那么一切就好办了。这就是 RNN 的思路。
​        这里还有一种可行的方式，就是“他”“注意到”了“李华”这个关键信息。这是 transformer 的思路。这篇文章就不主要讲解transformer了。
​        先上图（对左边有个印象即可）：

​        现在让我们假设一个神经元 \(s(t)\)，这个神经元存着一个数字的信息，t 代表时刻。不难想到，\(s(t+1)\) 代表下一时刻的信息。\(input(x_t)\)代表这个神经元在 t 时刻的输入。

​        如果是普通的神经网络，那么只有：
​        \(s(t)=input(x_{t})\)
​        \(s(t+1)=input(x_{t+1})\)
​        显然这样的神经元的信息只和输入有关，每次都会被更新，input说几就是几，根本没有记忆功能。那该如何具有记忆功能呢？很简单，我们只需要让上一时刻的信息 \(s(t)\) 也作为输入即可！
​        \(s(t+1)=input(x_{t+1})+s(t)\)
​        从信息的角度看，这样的神经元 s 不仅可以获得输入的信息，还能获得以前的状态信息。这个以前的状态信息是一个不断迭代后综合的信息，实际上是之前所有序列信息的一个综合。这是 RNN 具有短期记忆能力的关键，以前的信息它是会融合进神经元 s 当中的。
​        但是，这样直接加还是有点太蠢了。万一输入太小，状态信息加大了怎么办？万一输入太大，直接把之前的状态信息盖掉了怎么办？我们必须对 \(s(t)\) 进行调节，使其不能过大，也不能过小！这个解决办法在神经网络中我们已经用过无数次，就是乘以一个权重,加上一个偏置值，使用激活函数。最后得到：
​        \(s(t+1)=f(i(x_{t+1})+w_s*s(t)+b)\)
​        恭喜你，RNN的基本思想你已经掌握了。由于我们的神经元往往一层有多个，所以我们要用矩阵的形式来表示上述公式：
​        \(S_t=f(U\cdot X_t+W\cdot S_{t-1}+b)\)
​        其他的部分和普通神经网络是相同的。
​        让我们回到RNN的示意图，再来回味一下之前的过程。我认为，想要彻底的理解这个图，关键就是要理解隐藏层的那一个“圈”是什么，为什么那个“圈”可以起到记忆的作用（这个问题前面回答了）

​        为了理解左图中“圈”的作用，我们需要将左边的神经网络按照时间线展开成右图的形状。所谓的“圈”，其实就是上一时刻的输出变成了下一时刻的输入，这样的结构很像算法中的递归（相比这也挺让人头疼吧），所以 RNN 一开始叫做递归神经网络，叫着叫着就变成循环神经网络了。
​        必须强调的是，RNN 的记忆和内存的记忆并不是一回事。内存的记忆本质和储物柜没有区别，机械无脑，存什么就是什么。RNN 的记忆是模糊的，它不是把输入的数据直接无脑存下来，而是对之前输入的数据形成一个“印象”（不断更新其值的隐藏层），并且这个“印象”还会随着后面输入的数据而发生变化。
​        还需要强调一点：在输入序列 \((x_1,x_2,\dots,x_t,\dots,x_n)\) 的过程中，任何一个权重矩阵都是没有任何变化的，尤其是以前状态信息的权重矩阵 \(W\)。整个序列按照顺序输入，中间并没有任何反向传播的过程。
​        RNN 的反向传播采用的是 BPTT 算法，反向传播并不是本文关注的重点，有兴趣的读者可以翻看其他博客。本文突出强调这些模型的记忆功能及其发展。接下来我们看一个比 RNN 具有更强大的记忆功能的神经网络：长短期记忆神经网络——LSTM。
四、LSTM神经网络——为什么是“长”的“短期”？

（未完待续，联系我催更~~~）
五、注意力机制

（未完待续，联系我催更~~~）
六、神经图灵机 NTM

在第四章节的部分，我们详细解释了为什么 LSTM 神经网络写作Long short-term ，而不是 Long-short term。LSTM 即使是一个长的短期记忆网络，归根究底它还是一个短期记忆网络。

​        RNN、LSTM神经网络虽然具有记忆能力，但是只具有短期记忆的能力。一个模型和金鱼一样七秒就忘，这不太好。
​        后面我们又提到了注意力机制，这个东西确实强大，可以注意到很久以前的东西，但是其记忆力也不怎么强（参见前言），用超级庞大的空间换取记忆力显然不是一个好主意。

​        我们需要用新的思路去解决长期记忆问题，是时候再翻一翻陈年老论文了。我今天翻出来一篇神经图灵机NTM，它不一定管用，但是绝对是一个崭新的思路。
​        神经图灵机是怎么做的呢？你神经网络记不了是吗？我直接再给你开辟一个外部内存让你记个够！我把一些重要的信息存进去，有必要的时候再读出来，我还能保证存入的信息永远不会被遗忘。（至于为什么叫神经图灵机而不叫神经存储器，我们后面再讲）
​        下图中，Controller 代表的就是神经网络，可以是任何一个网络，一般是 LSTM 神经网络； Memory 代表的就是外部记忆。

​        当然，并不是开辟一个外部内存就能解决这个问题的。我们还需要解决如下的问题：

• 哪些信息应该被记住？我们应该如何有选择性的存入信息？
  
• 我们应该将信息记录在外部记忆的哪个位置？
  
• 什么时候我们选择将信息从内存中读取出来?
  

​        我们发现出入外部内存的信息不是想进就进、想走就走、想放在哪里就放在哪里的，必须加以控制。所以我们额外设置了一个读头、一个写头，用于控制存取。
（未完待续————正在火热更新中，你的关注是我更新的动力）
​
七、记忆增强神经网络 MANN

（未完待续，联系我催更~~~）
八、NTM的源码分析

（未完待续，联系我催更~~~）

来源：程序园用户自行投稿发布，如果侵权，请联系站长删除
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！