URL details: lufficc.com/blog/an-introduction-of-recurrent-neural-network-and-difference-between-traditional-neural-network

URL title: 循环神经网络(Recurrent Neural Network)简介 | Congcong Li’s Blog
URL description: 我们人类理解事物都是基于上下文的,一句话只有在明确的上下文中才能有确定含义。 而传统的神经网络不能实现,因为神经网络是一对一的,我们输入一个 input,网络输出一个 output,而多个 input 之间却没有联系。就好比我们我们输入一部电影的一帧,让它预测接下来将会发生什么,显然没有先前剧情的支撑神经网络不可能做出好的预测。 RNN Recurrent neural networks 正是为了解决此类问题诞生的。RNN 网络连接中存在循环,并且能够存储信息。 上图就是一个 RNN,输入 xt,得到 ht。区别在于 A 存在循环,允许将上一步的结果传递给下一步。如果不考虑循环,和普通的神经网络没有区别,都是给予输入,得到输出。但是循环的存在,可以让上次的运算结果传递给下一次使用,这样在携带了上次的“记忆”之后,本次运算会在上次的运算基础上做出更好地预测。如果我们把每一步展开来看,会更简单: 上图每一次运算都是一个时间步,一共进行了 t 个时间步。每一个时间步输入 xt,得到输出 ht 。因为循环的存在,ht 的运算结果与 x0 – xt 相关。这 t 个时间步称为一个完整的序列(Sequence),也可以称
URL last crawled: 2024-07-25
URL speed: 0.205 MB/s, downloaded in 0.300 seconds

open external url

1 external links to this url

Only links from external domains are shown on this page.

found date
link text
from url
2024-07-25
循环神经网络(Recurrent Neural Network)简介