xqp_dream-CSDN博客

原创 CNN卷积神经网络--反向传播（3，初识卷积反向算法）

CNN反向传播求导时的具体过程可以参考论文Notes on Convolutional Neural Networks, Jake Bouvrie，该论文讲得很全面，比如它考虑了pooling层也加入了权值、偏置值及非线性激发(因为这2种值也需要learn)，对该论文的解读可参考zouxy09的博文CNN卷积神经网络推导和实现。除了bp算法外，本人认为理解了下面4个子问题，基本上就可以弄懂CN

2016-08-30 14:41:18 11817 5

原创 CNN卷积神经网络--反向传播（4，代码理解）

反向传输过程是CNN最复杂的地方，虽然从宏观上来看基本思想跟BP一样，都是通过最小化残差来调整权重和偏置，但CNN的网络结构并不像BP那样单一，对不同的结构处理方式不一样，而且因为权重共享，使得计算残差变得很困难，很多论文[1][5]和文章[4]都进行了详细的讲述，但我发现还是有一些细节没有讲明白，特别是采样层的残差计算，我会在这里详细讲述。　　输出层的残差　　和BP一样，CNN的

2016-08-30 12:02:01 11458

原创 CNN卷积神经网络--反向传播（3，Notes on Convolutional Neural Networks）

一、介绍这个文档讨论的是CNNs的推导和实现。CNN架构的连接比权值要多很多，这实际上就隐含着实现了某种形式的规则化。这种特别的网络假定了我们希望通过数据驱动的方式学习到一些滤波器，作为提取输入的特征的一种方法。本文中，我们先对训练全连接网络的经典BP算法做一个描述，然后推导2D CNN网络的卷积层和子采样层的BP权值更新方法。在推导过程中，我们

2016-08-30 12:00:23 6770

原创 CNN卷积神经网络--反向传播（2，前向传播）

看cnn，首先还是看看前向传播，在细谈反向求导。 CNN的这三个特点是其对输入数据在空间（主要针对图像数据）上和时间（主要针对时间序列数据，参考TDNN）上的扭曲有很强的鲁棒性。CNN一般采用卷积层与采样层交替设置，即一层卷积层接一层采样层，采样层后接一层卷积...这样卷积层提取出特征，再进行组合形成更抽象的特征，最后形成对图片对象的描述特征，CNN后面还可以跟全连接层，

2016-08-30 11:35:51 7515

原创 CNN卷积神经网络---反向传播（1，全链接bp算法）

全链接bp算法这里作为自己对卷积神经网络反向传播算法的理解。首先还是从经典的全链接bp算法开始。1、前向传播所谓神经网络就是将许多个单一“神经元”联结在一起，这样，一个“神经元”的输出就可以是另一个“神经元”的输入。例如，下图就是一个简单的神经网络：我们使用圆圈来表示神经网络的输入，标上“”的圆圈被称为偏置节点，也就是截距项。神经网络最左边的一层叫做输入层，最

2016-08-30 11:26:37 17636

原创 RPCA图像处理中的矩阵重建算法及其应用

rcpa，讲解ppt

2016-04-22 11:39:43 10337 8

转载在 linux 下使用 CMake 构建应用程序

CMake 简介CMake 是一个跨平台的自动化建构系统,它使用一个名为 CMakeLists.txt 的文件来描述构建过程,可以产生标准的构建文件,如 Unix 的 Makefile 或Windows Visual C++ 的 projects/workspaces 。文件 CMakeLists.txt 需要手工编写,也可以通过编写脚本进行半自动的生成。CMake 提供了比 autoconf

2016-08-26 14:23:03 848

转载 Linux makefile 教程非常详细，且易懂

最近在学习Linux下的C编程，买了一本叫《Linux环境下的C编程指南》读到makefile就越看越迷糊，可能是我的理解能不行。于是google到了以下这篇文章。通俗易懂。然后把它贴出来，方便学习。后记，看完发现这篇文章和《Linux环境下的C编程指南》的makefile一章所讲述的惊人的相似，只是这篇文章从一个实例切入，在有些地方比较好理解

2016-08-25 20:31:05 1683

转载 linux 下 .sh 文件语法

介绍：1 开头程序必须以下面的行开始（必须方在文件的第一行）：#!/bin/sh符号#!用来告诉系统它后面的参数是用来执行该文件的程序。在这个例子中我们使用/bin/sh来执行程序。当编写脚本完成时，如果要执行该脚本，还必须使其可执行。要使编写脚本可执行：编译 chmod+x filename 这样才能用./filename 来运行2 注释在进行shell编程时

2016-07-21 15:23:09 468

转载 Caffe学习：Layers

感谢：http://blog.csdn.net/u011762313/article/details/47361571目录：Vision LayersConvolutionPoolingLocal Response Normalization LRNim2colLoss LayersSoftmaxSum-of-Squares EuclideanHinge

2016-07-19 11:46:54 1202 1

原创 c++调用matlab编程

Matlab是一个强大的数学计算/仿真工具，其内置了很多实用的现成的函数，而且我们经常也自己定义很多m函数。但在很多情况下，我们不得不使用VC编程。那么，如何在VC中利用matlab的资源呢？在这里我简要的以一个简单的例子来说

2016-06-29 14:24:04 453

转载奇异值分解SVD原理及其推到

在网上看到有很多文章介绍SVD的，讲的也都不错，但是感觉还是有需要补充的，特别是关于矩阵和映射之间的对应关系。前段时间看了国外的一篇文章，叫A Singularly Valuable Decomposition The SVD of a Matrix，觉得分析的特别好，把矩阵和空间关系对应了起来。本文就参考了该文并结合矩阵的相关知识把SVD原理梳理一下。 SVD不仅是一个数学问题，在工程应...

2016-03-07 17:34:47 585

转载 PCA

PCA（Principal Component Analysis）是一种常用的数据分析方法。PCA通过线性变换将原始数据变换为一组各维度线性无关的表示，可用于提取数据的主要特征分量，常用于高维数据的降维。网上关于PCA的文章有很多，但是大多数只描述了PCA的分析过程，而没有讲述其中的原理。这篇文章的目的是介绍PCA的基本数学原理，帮助读者了解PCA的工作机制是什么。当然我并不打算把文章写成纯数

2016-02-25 15:38:31 718

转载支持向量机 Support Vector Machine

SVM 一直被认为是效果最好的现成可用的分类算法之一（其实有很多人都相信，“之一”是可以去掉的）。这里“现成可用”其实是很重要的，因为一直以来学术界和工业界甚至只是学术界里做理论的和做应用的之间，都有一种“鸿沟”，而 SVM 则正好是一个特例——在两边都混得开。

2016-02-23 16:25:49 824

转载 Kalman滤波器从原理到实现

点击打开链接Kalman滤波器从原理到实现转载请注明出处: http://xiahouzuoxin.github.io/notes/Kalman滤波器的历史渊源从牛顿到卡尔曼一场递推的游戏均方误差中的门道Matlab程序看过来Kalman滤波C程序参考资料Kalman滤波器的历史渊源We are like dwarfs on the shoulders of g

2015-12-10 19:05:42 523

原创 stack around the variable “” was corrupted

在写一个很简单的程序的时候，出现stack around the variable “” was corrupted的错误，检查程序本身没有问题程序如下#include #includeusing namespace std;void main(){ int j=0,k=-1,lengthP=7; char ch[]={'a','b','a','a','b','c','a'

2015-11-18 22:12:28 13696

转载 c++ this指针

1. this指针的用处:　　一个对象的this指针并不是对象本身的一部分，不会影响sizeof(对象)的结果。this作用域是在类内部，当在类的非静态成员函数中访问类的非静态成员的时候，编译器会自动将对象本身的地址作为一个隐含参数传递给函数。也就是说，即使你没有写上this指针，编译器在编译的时候也是加上this的，它作为非静态成员函数的隐含形参，对各成员的访问均通过this进行。　　例如，

2015-09-23 14:51:59 294