- 博客(3)
- 收藏
- 关注
RSS订阅原创 神经网络模型优化的常用方案（模型参数方面）
1、增加（减少）隐藏层的复杂度，如增加隐藏层数，调整隐藏层的神经元个数，或者在隐藏层使用更加复杂的网络结构，如CNN、RNN、LSTM、GRU或者增加Attention层等等；2、添加Dropout层，使用Dropout的原理优化网络参数，防止过拟合；3、尝试不同的优化器，常用的优化器包括SGD、Adam、RMSprop（动量相关）；4、增加迭代次数，一般为了快速检验模型效果训练次数比...
2018-11-04 10:11:43
7451
2
转载 深度神经网络（DNN）反向传播算法(BP)（转载）
转载地址点击打开链接(博主是系列课件，很详细，很基础，强烈推荐）在深度神经网络（DNN）模型与前向传播算法中，我们对DNN的模型和前向传播算法做了总结，这里我们更进一步，对DNN的反向传播算法（Back Propagation，BP）做一个总结。1. DNN反向传播算法要解决的问题 在了解DNN的反向传播算法前，我们先要知道DNN反向传播算法要解决的问题，也就是说，什么时候我们需要这个反向传...
2018-04-23 14:58:48
376
转载 深度神经网络（DNN）模型与前向传播算法(转载)
转载地址：点击打开链接深度神经网络（Deep Neural Networks， 以下简称DNN）是深度学习的基础，而要理解DNN，首先我们要理解DNN模型，下面我们就对DNN的模型与前向传播算法做一个总结。1. 从感知机到神经网络 在感知机原理小结中，我们介绍过感知机的模型，它是一个有若干输入和一个输出的模型，如下图: 输出和输入之间学习到一个线性关系，得到中间输出结果：z=∑i=1m...
2018-04-23 11:17:27
441
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人