- 博客(3)
- 收藏
- 关注
RSS订阅原创 神经网络图灵机DAY3
在之前谈到了memory networks，其通过external memory扩展了神经网络的学习能力，但是其不是end-to-end，导致整个训练过程非常繁琐，甚至需要给训练集打上很复杂的标签，这里我们将谈到End-to-End Memory Networks，其在MN上达到了end-to-end。具体思路如图： 在这里左边是一个单层的MN，右边则是在左边基础上扩展的多层。我们可以看到我...
2018-08-30 16:09:59
378
原创 神经网络图灵机DAY2
学习论文Memory Networks。Memory Networks又一个记忆数组和4个组件构成。其中记忆数组类似于Neuron Turing Machines中的external memory一样，也是用额外的内存来增强整个网络的能力。四个组件分别是： I（输入特征映射）：对原始数据预处理部分并将处理转化后的数据特征传给下一个组件，比如对图像的模糊化之类的，当然最简单的就是...
2018-08-30 09:08:41
386
原创 神经网络图灵机DAY1
回顾论文Neuron Turing Machines。现有传统的深度学习算法如cnn主要是基于学习好的模型对输入给出特定的输出，这些输出在特定的模型参数下是固定的、绝对的、不随时间和过去记忆变化的，这与人脑的工作机制明显不同，人的大脑应该是有一个类似于存储器的结构，可以记住一些学习到的知识，并在需要的时候可以迅速“检索”到并为当前的问题所用。现有的很多rnn架构就是一种可以基于过去的知识而对现有问...
2018-08-30 09:03:37
377
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人