zshunmiao-CSDN博客

原创 centos 6.4下vim 显示中文乱码解决方法

centos 6.4下vim 显示中文乱码解决方法：在/etc 下在vimrc文件最后添加一行：set encoding=utf-8 fileencodings=ucs-bom,utf-8,cp936

2013-12-25 09:27:11 3195

转载 word2vec

Word2Vec的一些理解最近几位google的研究人员发布了一个工具包叫word2vec，利用神经网络为单词寻找一个连续向量空间中的表示。这里整理一下思路，供有兴趣的同学参考。这里先回顾一下大家比较熟悉的N-gram语言模型。在自然语言任务里我们经常要计算一句话的概率。比如语音识别中对于一个语音段O，需要找到一个使P(W|O)最大的文本段W。利用贝叶斯公式：P

2013-12-05 17:32:15 1818

转载 word2vec 学习

1一个输入层； 1 个隐含层； 1个输出层syn0 input -> hidden 的 weights 在code中是一个1维数组，但是应该按照二维数组来理解。访问时实际上可以看成 syn0[i, j] i为第i个单词，j为第j个隐含单元。大小：词典大小 * 隐含层

2013-12-05 15:36:09 2462

转载 CentOS下安装word2vec的linux教程

关于google的word2vec项目，这里就不用介绍了，接下来需要很干货的分享给大伙，在CentOS下安装word2vec的linux教程。关于如何在各个linux操作系统上安装word2vec，google的word2vec项目首页并未过多讲，或是详细的描述安装的linux教程。word2vec项目的官网上，只有这么几段简短的关于使用的描述和linux教程：Quick start

2013-11-11 15:36:21 6648

转载 Google开源基于Deep Learning的word2vec工具

谷歌已经使用Deep Learning技术开发了许多新方法来解析语言，目前，谷歌开源了一款基于Deep Learning的学习工具——word2vec，这是首款面向大众的Deep Learning学习工具。word2vec（word to vector）顾名思义，这是一个将单词转换成向量形式的工具。通过转换，可以把对文本内容的处理简化为向量空间中的向量运算，计算出向量空间上的相似度，来表示

2013-11-11 15:34:47 2351

转载 KL距离，Kullback-Leibler Divergence

KL距离，是Kullback-Leibler差异（Kullback-Leibler Divergence）的简称，也叫做相对熵（Relative Entropy）。它衡量的是相同事件空间里的两个概率分布的差异情况。其物理意义是：在相同事件空间里，概率分布P(x)的事件空间，若用概率分布Q（x）编码时，平均每个基本事件（符号）编码长度增加了多少比特。我们用D（P||Q）表示KL距离，计算公式如下：

2013-10-29 21:24:26 841

转载 Deep Learning in NLP （一）词向量和语言模型

Deep Learning in NLP （一）词向量和语言模型Posted on 2013 年 7 月 29 日　　这篇博客是我看了半年的论文后，自己对 Deep Learning 在 NLP 领域中应用的理解和总结，在此分享。其中必然有局限性，欢迎各种交流，随便拍。　　Deep Learning 算法已经在图像和音频领域取得了惊人的Deep Learni

2013-10-28 23:31:01 1208

转载 Deep learning with word2vec and gensim

Neural networks have been a bit of a punching bag historically: neither particularly fast, nor robust or accurate, nor open to introspection by humans curious to gain insights from them. But things ha

2013-10-28 14:12:08 1893

转载初学者如何查阅自然语言处理（NLP）领域学术资料

刘致远博士总结的，原文地址：http://blog.sina.com.cn/s/blog_574a437f01019poo.html昨天实验室一位刚进组的同学发邮件来问我如何查找学术论文，这让我想起自己刚读研究生时茫然四顾的情形：看着学长们高谈阔论领域动态，却不知如何入门。经过研究生几年的耳濡目染，现在终于能自信地知道去哪儿了解最新科研动态了。我想这可能是初学者们共

2013-10-28 13:58:54 813

转载【学习笔记】自动文摘技术综述

http://blog.csdn.net/xceman1997/article/details/12045549文摘的基本过程分为三个步骤：1. 文本输入2. 计算3. 文摘输出文摘的分类从输入的角度来看，基本的可以分为单文档文摘和多文档文摘。区别在于输入的是一篇文章还是一坨文章。进一步，从文本来源的角

2013-10-28 13:24:36 1179