elisa_gao-CSDN博客

原创分类&回归算法-随机森林

随机森林顾名思义，是用随机的方式建立一个森林，森林里面有很多的决策树组成，随机森林的每一棵决策树之间是没有关联的。在得到森林之后，当有一个新的输入样本进入的时候，就让森林中的每一棵决策树分别进行一下判断，看看这个样本应该属于哪一类（对于分类算法），然后看看哪一类被选择最多，就预测这个样本为那一类。算法思想解释：在上述中，这些决策树好比是臭皮匠，森林就是臭皮匠的聚集之地。在分类中，倘若臭皮匠大

2015-11-03 14:35:46 35001 1

原创 PRML_决策论&信息论

决策论分类决策在做决策的一个准则就是如何减少误分类损失：如在而分类中，即把所属类别为c1的数据分到c2，把所属类别为c2的数据分到c1。 p(mistake)=∫R1p(x,c2)dx+∫R2p(x,c1)dxp(mistake) = \int_{\mathcal R_1}p(x,c_2)dx + \int_{\mathcal R_2}p(x,c_1)dx 用矩阵表示可以为： E

2015-09-25 11:52:43 806

原创 PRML第一章_概率论

1.2 概率论本节介绍了简单的概念：概率密度现在有两个box，红的box里面有2个apples，6 oranges,蓝的box里面有3 apples，1 oranges。进行有放回的选取，即bootstrap. p(B)指的就是从两个box中取到红box的概率 p(F)指的是取到apple的概率 1. 概率规则： sum rule: p(X)=∑Yp(X,Y)p(X) = \s

2015-09-25 11:44:32 737

原创 PRML第一章_易混淆概念-先验后验&生成判别&分类回归

先验概率和后验概率：例如先验概率是p(B)，不需要给定的F，就可以得到的概率叫做先验概率。后验概率是p(B|F)，给定F之后，才得到的概率就叫做后验概率。生成和判别模型生成模型：通过联合概率密度p(x,y),再间接根据由数据学习联合概率密度分布P(X,Y)，然后求出条件概率分布P(Y|X)作为预测的模型，即生成模型：P(Y|X)= P(X,Y)/ P(X)。基本思想是首先建立样本的联合概

2015-09-25 11:41:10 669

原创 PRML第一章_易混淆概念-先验后验&生成判别&分类回归

先验概率和后验概率：例如先验概率是p(B)，不需要给定的F，就可以得到的概率叫做先验概率。后验概率是p(B|F)，给定F之后，才得到的概率就叫做后验概率。生成和判别模型生成模型：通过联合概率密度p(x,y),再间接根据由数据学习联合概率密度分布P(X,Y)，然后求出条件概率分布P(Y|X)作为预测的模型，即生成模型：P(Y|X)= P(X,Y)/ P(X)。基本思想是首先建

2015-09-25 11:39:36 635

原创 PRML第一章学习笔记_过拟合问题

第一章举了一个数字图像识别的例子来介绍了机器学习的几个重要概念：学习，训练集，测试集，监督学习，无监督学习，强化学习，回归，特征抽取，泛化性，等等。 1.1多项式拟合问题我们很容易的想到了多项式拟合，这个是最naïve的想法。 y(x,w)=w0+w1x+w2x2+w3x3+...+wMxM=∑Mj=0wjxjy(x,w) = w_0 + w_1x + w_2x^2 + w_3x^3 +

2015-09-23 11:12:14 934

转载欢迎使用CSDN-markdown编辑器

欢迎使用Markdown编辑器写博客本Markdown编辑器使用StackEdit修改而来，用它写博客，将会带来全新的体验哦：Markdown和扩展Markdown简洁的语法代码块高亮图片链接和图片上传LaTex数学公式UML序列图和流程图离线写博客导入导出Markdown文件丰富的快捷键快捷键加粗 Ctrl + B 斜体 Ctrl + I 引用 Ctrl

2015-09-23 11:07:29 477

原创 python 安装模块

例如安装模块pyexcelerator直接将pyexcelerator-0.6.4.1这个文件夹里的pyExcelerator文件夹复制到C:\Python27\Lib\site-packages文件夹下就可以使用

2015-01-06 20:27:33 626 1

原创梯度下降的概念和在机器学习的应用

梯度下降的公式是：

2014-11-15 11:09:27 560

转载 Matlab导出eps图形给latex使用

通常情况下对于IEEE模板，如果文章是占一列column,图形的宽度是3.5in(1in=2.54cm), 如果是2列,图形是7in通常情况下，字体可以用9或者10pt请按照如下步骤生成符号标准的eps图形：1.点击你的图形窗口—>Export Setup2.点击size, 填写3.5或者7,单位选择inch3.选择fonts,在minimum里面填入9

2014-10-25 21:36:53 2738

原创 matlab函数调用

MATLAB中函数调用是通过文件名调用，所以函数wenjianming

2014-10-23 09:45:49 1338

原创 precision and recall rate

准确率就是对的占返回的所有数目的

2014-10-09 17:31:35 850

原创 python 读写mat文件

import scipy.io as sioimport matplotlib.pyplot as pltimport numpy as np#matlab文件名matfn=u'E:/python/测试程序/162250671_162251656_1244.mat'data=sio.loadmat(matfn)plt.close('all')xi=data['xi']yi=da

2014-09-13 19:32:06 706

原创 primal and dual(原问题和对偶问题)

定义：这是优化界的一种方法，对偶问题为原问题提供了一个霞

2014-09-06 12:21:27 15064

原创 Backup

1/matlab 优化函数工具箱

2014-08-12 21:19:19 545

原创集成学习(Ensemble Learning)

1、集成学习主要采用“”

2014-07-29 11:29:20 1358 2

原创少数民族语言

最好的语料获取地方就是去维基上查找语言，ranho

2014-07-27 17:32:20 1551

原创本体

本体是一个比较深奥的东西，例如可以利用

2014-07-27 16:09:03 607

原创 feng_1

如何选择合适的论文：waizai

2014-07-27 15:43:06 472

原创 latex 数学公式

http://hubl82.blog.163.com/blog/static/12676948520134510173383/

2014-07-27 12:35:16 719 1

原创 mac中的Texshop中文乱码问题

参见博客第一种方法：http://blog.csdn.net/quantumpo/article/details/9317925先用着把，第二种方法会出现缺少某些字体，

2014-07-26 19:54:58 9289 2

原创协同过滤技术

协同过滤技术有SVD分解针对xi's

2014-07-26 09:30:34 735 2

原创关注的学术大牛

机器学习：University of Wisconsin-Madison：

2014-07-24 19:57:04 934

原创 Mac快捷键

chrome快捷键：TAB 跳转到网页k

2014-07-23 12:55:09 503

原创 presentation skill

参考链接：点击打开链接

2014-07-09 21:48:20 950

原创主动学习文章_active learning by querying informative and representative examples

大部分的主动学习模型只考虑其中的一种，例如

2014-07-09 09:40:48 2404 1

原创 Active learning(主动学习)

主动学习假设：1、AL implicitly assumes that a large pool of unlabeled documents is availableand that querying this pool is cheap compared to labelingsince the latter takes a human expert’s time

2014-07-08 22:01:33 2504

原创 how to read a paper

要有三个过程：一、

2014-06-26 22:03:56 571

原创 Deep Learning

DBN原理：类似于LDA模型，可以当做是文档的生成过程，当文档是yizh

2014-06-18 21:10:15 645

原创 RNN－递归神经网络

pLearning continuous phrase representations and syntactic parsing with Recursive Neural Networks.pdf

2014-06-09 21:55:23 2025

原创 CYK算法

这个部分最好的材料还是看

2014-06-09 20:23:56 7947 1

原创牛顿法及拟牛顿法（L-BFGS）

为了搞懂L-BFGS，发现资料很少。参考链接ji

2014-06-09 16:06:20 1686

原创 K-means(tri)利用三角不等式性质加速k-means

paper:Using the Triangle Inequality to Accelerate k-means公式1：x

2014-06-09 10:43:52 3655 1

原创 Subgradient

次梯度定义：

2014-06-08 20:58:55 1832

原创 softmax

softmax是柔性化最大值，是一种归一操作，使得输出在（0,1）之间。举例来说a=3,b=6,c=9. max=9,softmax=9/(3+6+9)=0.5,argmax其实是取得max时的arg，argmax=c

2014-06-08 15:46:05 4493

原创 Max margin framework

:在函数取最大值的时候，y

2014-06-08 11:11:02 2473

原创在博客中写公式

复合函数qiud

2014-06-06 22:02:15 511

原创 Using the Triangle Inequality to Accelerate k-Means

If a point is far away from a center, it is not necessary to calculate the exact distance between the point and the center.如果一个点距离中心很远，那么计算这个d

2014-06-01 22:10:46 833

转载 Efficient Estimation of Word Representations in Vector Space

标题：Efficient Estimation of Word Representations in Vector Space作者：Tomas Mikolov发表于：ICLR 2013

2014-06-01 12:21:05 1469

原创 An Analysis of Single-Layer Networks in Unsupervised Feature Learning

K-means:http://metaoptimize.com/qa/questions/4964/why-does-k-means-generate-such-good-features-especially-compared-to-gmmIn the paper above, Ng's group uses K-means for dictionary learning; that

2014-06-01 12:15:45 1104

空空如也

空空如也