自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

rtygbwwwerr的专栏

NLP, Machine Learning

  • 博客(31)
  • 资源 (1)
  • 收藏
  • 关注

原创 神经网络可视化(Visualization of Neural Network )

神经网络可视化(Visualization of Neural Network )相对于传统的ML模型,NN由于其自身所特有的多层非线性的结构而导致难以对其工作原理进行透彻的理解。比如,我们很难理解网络将一个输入x判断为某一类别c时,其输入向量x中的每一个特征分别对这个结果贡献了多大,找出哪些输入特征起到了关键作用,这对判断网络是否正常工作是很重要的。尤其在NLP领域,由于现在大多数模型的输入...

2018-10-07 20:53:27 6592 1

原创 RNN学习笔记(六)-GRU,LSTM 代码实现

RNN学习笔记(六)-GRU,LSTM 代码实现

2016-04-22 18:07:27 19021 9

原创 Neural Turing Machines-NTM系列(三)ntm-lasagne源码分析

Neural Turing Machines-NTM系列(三)ntm-lasagne源码分析

2016-03-29 11:47:36 3027 2

原创 Neural Turing Machines-NTM系列(二)开发环境搭建

神经图灵机Neural Turing Machines-NTM系列(二)开发环境搭建

2016-03-29 11:46:43 2540

原创 Neural Turing Machines-NTM系列(一)简述

Neural Turing Machines-NTM(神经图灵机)简述

2016-03-29 11:39:40 13346 4

原创 神经网络模型压缩之Knowledge Distillation

神经网络模型压缩之Knowledge Distillation1. Background随着深度学习理论的普及和PC计算能力的提高, Neural Network也日益趋于复杂化–越来越深和越来越大, 比如VGG系列,深度均在10层以上, 残差网络的深度更是从数十到一百以上. 复杂的网络模型带来的是超强的规则学习能力, 虽然以现在动辄几十或上百多机GPU并行的计算能力而言, 这样的巨大...

2018-03-09 13:46:10 11774 2

原创 Ubuntu16.04下Yaafe安装问题-OSError:cannot open shared object file(libyaafe-python.so)

为了处理音频文件,安装了Yaafe库(Ubuntu下Yaafe安装及配置), 按照这篇文章,一路顺利安装,当最后运行测试代码:from yaafelib import *的时候报错,提示无法加载libyaafe-python.soOSError:cannot open shared object file 这就奇怪了,重新检查了目录,所有文件都正常(so文件默认

2017-12-30 13:51:37 2167

转载 凸(Convex)函数定义

转自知乎:https://www.zhihu.com/question/20014186关于Convex Function的解释,个人觉得说得很清楚,故转载记录作者:匿名用户链接:https://www.zhihu.com/question/20014186/answer/27194360来源:知乎著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

2017-12-25 13:03:22 23815

原创 Ubuntu 16.04 pyfst安装过程

WFST 是语音识别、字符串模式匹配和文法转换中的一个常用模型,而OpenFst则是这个模型及相关算法的C++实现API。最近一段时间Python用的较多,于是打算安装一个Python的接口即PyFst一、安装OpenFst:1.确保g++已经正确安装,如果没有运行:sudo apt-get install g++2.下载安装包(点击打开链接),最新版本为1.6.3,但是不知道

2017-09-27 15:50:50 1639

原创 解决nvcc找不到的问题(Ubuntu16.04 CUDA 8.0)

最近在linux上安装了CUDA 8.0,但是在安装pycuda时却提示找不到nvcc命令。在terminal中输入nvcc,也是提示找不到command。但是可以确定的是,CUDA8.0,以及nvidia-cuda-toolkit已经从官方网站下载并正确安装。于是网上找了教程,说是需要在terminal中输入sudo apt-get install nvidia-cuda-toolkit

2017-06-23 23:44:24 99820 11

原创 解决Ubuntu+Eclipse+pydev+tensorflow CUDA链接库不能加载

现象:使用eclipse run python程序时,Console中错误提示:Couldn't open CUDA library libcudnn.soCouldn't open CUDA library libcufft.so经过排查,cuda,cudnn均已正确安装,环境变量也正常配置,同时,在系统终端中运行该py文件无报错,于是怀疑是eclipse设置有问题,随即通过如下方式解决:1.打...

2017-06-13 15:12:33 1162

转载 Win10下通过自带hyper-v虚拟机安装ubuntu系统

Win10下通过自带hyper-v虚拟机安装ubuntu系统1.请先在这里(http://www.ubuntu.com/download/alternative-downloads)下载需要的ubuntu版本。2.设置虚拟交换机http://jingyan.baidu.com/article/47a29f2428d809c0142399b9.html3.添加

2016-08-02 00:36:09 7565

转载 关于Bot系统的一篇总结性文章(也说bot--一篇survey)

也说bot–一篇surveyhttps://zhuanlan.zhihu.com/p/21626875*:粗体部分为附加说明也说bot–一篇survey张俊·引chatbot是最近一段时间非常火的一个词或者一个应用,不仅仅各大新闻媒体在热炒bot的概念,各大巨头也投入巨大的资源进行研发,arxiv上刷出bot相关的paper也更是家常便饭。炒作归炒作,PR归PR,不得不说一

2016-07-27 00:26:18 5641

转载 Dandelion - Eclipse Lisp Plugin

Dandelion - Eclipse Lisp Plugin转自:http://blog.csdn.net/yang_7_46/article/details/26445133Common Lisp没有一个比较简单易用的IDE,网上推荐使用的都是LispBox,但是基于Emacs编辑器,使得学习以及使用的门槛过高。Eclipse是一个非常强大的可任意扩展的开发

2016-06-16 10:49:17 768

原创 tensorflow0.8.0 运行报错Couldn't open CUDA library libcupti.so.7.5

tensorflow0.8.0 运行报错Couldn't open CUDA library libcupti.so.7.5最近配置Tensorflow 0.8.0+Eclipse+PyDev开发编译环境时,遇到一个问题:Couldn't open CUDA library libcupti.so.7.5在运行 minist/minist_with_summaries.py

2016-06-07 18:46:11 7349

原创 RNN学习笔记(三)-LSTM网络

RNN学习笔记(三)-LSTM网络为了解决RNN的梯度问题,提出了一种优化的RNN网络——LSTM(Long short-term memory):1.RNN的梯度问题及CEC2.LSTM的网络结构3.参考文章1.BPTT算法回顾及符号定义2.误差传导分析3.参考文章1.LONG SHORT-TERM MEMORY,Neural Computation

2016-04-22 18:09:00 3015

原创 RNN学习笔记(五)-RNN 代码实现

RNN学习笔记(五)-RNN 代码实现

2016-04-04 13:03:32 21939 2

转载 神经网络模型算法与生物神经网络的最新联系

来源:http://blog.csdn.net/u014365862/article/details/50935300偶然翻了一下微博,发现了@爱可可-爱生活老师转的,Hinton教授今年六月末在剑桥的一个讲座。 视频度娘链接:http://pan.baidu.com/s/1eQjj0rS整个讲座前半部分基本在回顾DL目前的几个成就:RBM、DNN、CNN、RNN、Dropout以及在CV、N

2016-03-30 15:58:06 1434

原创 Python + Graphviz 绘制神经网络结构图

Python + Graphviz绘制神经网络结构图大家在网上经常能够看到绘制精美的网络节点图形,但这些图形往往有大量节点和连线,如果使用所见即所得的绘图工具(比如微软的visio)往往需要花费大量时间来添加节点,调整布局。Graphviz是款非常好的基于脚本语言([dot](http://www.graphviz.org/pdf/dotguide.pdf),[中文](http://www.

2016-03-21 10:32:32 16737 6

原创 神经网络的简单数学解释

神经网络的简单数学解释

2016-03-07 17:36:34 2489

原创 交叉熵(Cross-Entropy)

交叉熵(Cross-Entropy)交叉熵是一个在ML领域经常会被提到的名词。在这篇文章里将对这个概念进行详细的分析。1.什么是信息量?假设XX是一个离散型随机变量,其取值集合为X\mathcal{X},概率分布函数为p(x)=Pr(X=x),x∈Xp(x)=Pr(X=x),x∈\mathcal{X},我们定义事件X=x0X=x_0的信息量为: I(x0)=−log(p(x0))I(

2016-03-03 18:31:10 198305 39

转载 神经网络和流形、拓扑学

一篇很有意思的文章:Neural Networks, Manifolds, and Topology原文有不少动态图片和数学公式,不好复制,请点击下面的链接查看:原文链接:http://colah.github.io/posts/2014-03-NN-Manifolds-Topology/

2016-02-29 17:41:06 2875

转载 开源项目导入eclipse的一般步骤

[转]开源项目导入eclipse的一般步骤                开源项目导入eclipse的一般步骤                     周银辉  下载到开源项目后,我们还是希望导入到eclipse中还看,这样要方便点,一般的步骤是这样的 打开源代码目录,如果看到里面有.calsspath .project文件,那么说明这个项目本来就是eclips

2016-02-29 14:01:12 1387

转载 从模块化的角度看待CNN网络

Conv Nets: A Modular PerspectivePosted on July 8, 2014neural networks, deep learning, convolutional neural networks, modular neural networksIntroductionIn the last few years, d

2016-01-15 21:30:41 1073

原创 RNN学习笔记(二)-Gradient Analysis

RNN学习笔记(二)-Gradient AnalysisRNN网络具有对时间序列建模的特性,其在时间轴上可以展开成一个多层前馈网络,因此也存在多层网络同样的问题,随着网络递归层数的增加,误差梯度的传递将出现不稳定的情况(消散或膨胀),下边将进行深入分析

2016-01-07 15:47:11 1884 1

原创 RNN学习笔记(一)-简介及BPTT RTRL及Hybrid(FP/BPTT)算法

RNN网络的学习算法-BPTT笔记本Markdown编辑器使用StackEdit修改而来,用它写博客,将会带来全新的体验哦:Markdown和扩展Markdown简洁的语法代码块高亮图片链接和图片上传LaTex数学公式UML序列图和流程图离线写博客导入导出Markdown文件丰富的快捷键快捷键加粗 Ctrl + B 斜体 Ctrl + I 引

2015-12-29 16:14:05 15111 1

原创 Softmax公式推导

UFLDL的教程(http://ufldl.stanford.edu/wiki/index.php/Softmax%E5%9B%9E%E5%BD%92)中提到了Softmax回归,直接给出了梯度更新公式,但是没有给出公式推导。这里对公式推导进行简单的补充说明。

2014-12-25 16:34:13 4840 2

原创 读书随记-The Art of Computer Programming-变长数组的分配策略(一)

最近拜读了DK大神的程序设计艺术,感觉DK不愧为大神,思路有一种让人眼前一亮的感觉。另外一个感觉就是,这部书的难度真的不是一般的大。。。由于本人数学知识有限,部分习题看了答案也要思考半天才能明白。为了勉励自己能坚持下去,从今天开始不定期的把感悟较深的地方贴出来。本人浅见,欢迎大家拍砖。。。2013.3.15-变长数组的分配策略原问题大概是这样的:    设计一个可扩充矩阵(m*

2013-03-15 14:11:35 917

原创 cygwin配置swig开发环境(Android)

前提:假定你已经安装好cygwin,配置好android的开发环境。1.下载swigwin-2.0.7.ziphttp://downloads.sourceforge.net/project/swig/swigwin/swigwin-2.0.7/swigwin-2.0.7.zip?r=http%3A%2F%2Fwww.swig.org%2Fdownload.html&ts=13387965

2012-06-04 18:03:40 1861 1

原创 ubutun下NDK编译环境配置

1.下载liunx下的NDK开发包(http://dl.google.com/android/ndk/android-ndk-r4-linux-x86.zip)2.解压到你的账户根目录,名字为android-ndk-r4b(名字可任意)3.为了表述方便,假定用户名为lyx,ndk的全路径为:home/lyx/android-ndk-r4b4.执行命令ex

2012-06-02 21:16:07 605

原创 m3u8文件结构-英文文档地址

http://tools.ietf.org/html/draft-pantos-http-live-streaming-06#section-2

2011-08-10 23:40:53 1392

强化学习导论(Reinforcement Learning)

Reinforcement Learning:An Introduction 强化学习经典入门教程

2016-05-26

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除