rnn这是啥意思 从RNN到LSTM,性能良好的神经网络到底是如何工作的?
浏览量:1829
时间:2021-03-16 06:49:31
作者:admin
从RNN到LSTM,性能良好的神经网络到底是如何工作的?
RNN(递归神经网络),顾名思义,以先前的输出(隐藏状态)作为输入,形成一个循环。
(RNN扩展,图像源:colah.github.io文件)
上面的展开图清楚地显示了RNN的结构。不难发现RNN的结构与序列化数据是一致的。实际上,RNN实际上主要用于处理序列化数据。
基本上,不使用原始RNN,而是使用RNN的变体。
rnu的梯度和梯度可以通过Gru的梯度和梯度来减轻。
(一般是sigmoid层)建模输入、输出和遗忘。
(图片来源:中新网/@左上角的蓝色是输入门,右上角的绿色是输出门,底部的红色是遗忘门。
版权声明:本文内容由互联网用户自发贡献,本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。