What is LSTM

LSTM&＃xff08;Long Short-Term Memory&＃xff09;是长短期记忆网络&＃xff0c;是一种时间递归神经网络&＃xff0c;适合于处理和预测时间序列中间隔和延迟相对较长的重要事件。
LSTM 已经在科技领域有了多种应用。基于 LSTM 的系统可以学习翻译语言、控制机器人、图像分析、文档摘要、语音识别图像识别、手写识别、控制聊天机器人、预测疾病、点击率和股票、合成音乐等等任务。

LSTM

LSTM是为了解决RNN在长期依赖方面的问题&＃xff0c;以解决随着梯度下降产生的梯度消失&＃xff08;返回的数值在经过每一层神经网络的时候&＃xff0c;乘以一个小于一的权重值&＃xff0c;在一定次数之后&＃xff0c;返回的数值消失【返回的数值接近于0】&＃xff09;&＃xff0c;或者是梯度爆炸&＃xff08;返回的数值在经过每一层神经网络的时候&＃xff0c;乘以一个大于一的权重值&＃xff0c;在一定次数之后&＃xff0c;返回的数值爆炸【返回的数值接近于无穷大】&＃xff09;
LSTM实在传统的RNN的每一层的输入层&＃xff0c;神经网络层&＃xff0c;输出层上加入一个处理函数&＃xff1a;
1.在输入层之后添加一个GET()函数用于判断是否要在只有的神经网络的Train中使用当前时刻的输入信息。
2.在神经网络层上添加一个FORGET()函数用于判断是否需要之前时刻神经网络Train产生的结果&＃xff0c;来作为当前时刻的神经网络Train的输入信息。或者将其暂时忘记。
3.在输出层之后添加一个GET()函数用于判断是否要读取当前M中产生的信息。
由于加入了以上三个函数&＃xff0c;LSTM能够较好的完成RNN在长期依赖方面的问题。获取更好的Train结果。

LSTM例子——论如何快速通关仙剑奇侠传一

正如我们所知道的经典单机游戏仙剑奇侠传一是一个主线剧情&＃43;支线剧情的单机扮演类游戏&＃xff0c;我们可以通过不断的与剧情任务&＃xff08;主线剧情或支线剧情&＃xff09;的互动来推动游戏向前发展。

对比于LSTM&＃xff0c;RNN就是一般玩家。我们可以这样理解整个从一般的RNN推进的顺序可以看做是仙剑的主线剧情&＃xff08;标准结局&＃xff0c;Stand End or Sad End&＃xff09;&＃xff0c;毫无疑问&＃xff0c;如果我们只是和RNN一样玩了个Stand End&＃xff0c;是难以让我们满足的。

所以&＃xff0c;LSTM就登场啦。在骨灰级玩家LSTM的操作之下&＃xff0c;我们学会了开发支线剧情&＃xff0c;存档操作等等一系列的操作&＃xff0c;就使得我们有了更好的&＃xff08;月如版隐藏结局与灵儿版隐藏结局&＃xff0c;Happy End&＃xff09;。
在这里的LSTM开发支线剧情&＃xff0c;存档操作等等一系列的操作就是我们上面所讲述输入层GET()函数、神经网络层FORGET()函数、输出层GET()函数的作用。我们可以这样理解这三个函数&＃xff1a;
输入层GET()函数就是要不要将分线剧情考虑到主线剧情之中&＃xff08;要不要做支线任务&＃xff0c;以重不重要&＃xff0c;会对结果产生怎么样影响来决定进行还是忽略&＃xff09;。
神经网络层FORGET()函数&＃xff08;分线剧情是否十分重要&＃xff0c;需不需要我们暂时忘记主线剧情&＃xff09;。
输出层GET()函数&＃xff08;这一个分线剧情会对我们产生什么影响&＃xff0c;是保留还是消除它的作用&＃xff09;。

PS&＃xff1a;好吧&＃xff0c;我承认我是标题党&＃xff0c;我也承认图片不是仙一。