- 博客(3)
- 收藏
- 关注
原创 LSTM知识总结
LSTM(长短是记忆)是用来处理时序数据,是一个递归神经网络,能够解决长序依赖问题的有效技术。是通过对循环层的刻意设计来避免长期依赖的问题和梯度消失的问题。它可以很好的对历史信息进行记录学习,在自然语言及语音处理中广泛应用。 LSTM通过给简单的循环神经网络增加记忆以及控制门,增强了它们处理距离依赖问题的能力。 核心思想: LSTM的关键在于细胞的状态整个(绿色的图表示的是一个cell...
2018-12-29 21:02:09 1441
原创 Word2Vec知识总结
word2vec是一个产生词向量的模型,是一个双层的神经网络 。非常善于找出词汇的相似度,同时可用于处理之前的技术(像one-hot编码和WordNet)处理不了的语义关系。它可以利用神经网络从大量的无标注的文本中提取有用信息。我们也可以将它看成是一个工具,它里面包含了三种重要的模型: (1)NNLM (神经网络语言模型) (2)C&W (3)CBOW和Skip-gram 其中CB...
2018-12-28 20:28:33 888 1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人