HandbookofFaceRecogn的专栏

转载 [ZZ]计算机视觉、机器学习相关领域论文和源代码大集合

注：下面有project网站的大部分都有paper和相应的code。Code一般是C/C++或者Matlab代码。最近一次更新：2013-1-29一、特征提取Feature Extraction：   SIFT [1] [Demo program][SIFT Library] [VLFeat]   PCA-SIFT [2] [Project]   Affin

转载 cross-validation 交叉验证

交叉验证在机器学习、数据挖掘和模式识别等领域，需要训练大量的数据来得到一个准确的模型，当数据的数量有限时，就会出现不同的问题。为了解决这些问题，交叉验证的方法就出现了。名词解释:l  Holdout    当数据有限时，需要将原始数据分为两份，一份用来training一份用来testing（比例一般是2/3和1/3），或者分为三份，还有一份用来validation。以上过程

转载 支持向量机（SVM）、支持向量回归（SVR）

1、支持向量机（ SVM ）是一种比较好的实现了结构风险最小化思想的方法。它的机器学习策略是结构风险最小化原则 为了最小化期望风险，应同时最小化经验风险和置信范围）支持向量机方法的基本思想：（ 1 ）它是专门针对有限样本情况的学习机器，实现的是结构风险最小化：在对给定的数据逼近的精度与逼近函数的复杂性之间寻求折衷，以期获得最好的推广能力；（ 2 ）它最终解决的是一个凸二次规

转载 互信息

转载 结构风险最小化

传统机器学习方法中普遍采用的经验风险最小化原则在样本数目有限是是不合理的，因为我们需要同时最小化经验风险和置信范围。事实上，在传统的方法中，我们选择学习模型和算法的过程，就是优化置信范围的过程，如果选择的模型比较适合现有的训练样本（h/n值适当），则可以取得比较好的效果。比如在神经网络中，需要根据问题和样本的具体情况来选择不同的网络结构（对应于不同的VC维），然后进行经验风险最小化。在模式识别问题