elden_nie-CSDN博客

原创斯坦福《机器学习》Lesson8感想-------1、SMO

从上一篇文章可知支持向量(supervector)就是指的离分隔超平面最近的那些点。整个SVM最需要的步骤是训练分类器，得到alpha，从而得到整个用于数据分类的分隔超平面。支持向量机（super vector machine，SVM）的一般应用流程如下：（1）收集数据：可以使用任意方法（2）准备数据：需要数值型数据（3）分析数据：有助于可视化分隔超

2015-08-06 14:23:08 974

原创斯坦福《机器学习》Lesson7感想———1、最优间隔分类器

从上一课可知，对于给定的线性可分的数据集，离分隔超平面最近的点是支持向量。而支持向量与分隔超平面间的距离越远，则说明最后算法的预测结果越可信。这课的核心就在于如何确定最佳的分隔超平面，即最优间隔分类器。首先我们要介绍其中的数学推理，然后介绍最优间隔分类器。1、凸优化问题选取一个函数里的两个点，连接两个点成一条直线，两点间的函数点都在这条直线下即为凸函数，凸函数的例子有指数函数。

2015-07-24 18:33:14 1347

原创斯坦福《机器学习》Lesson6感想———1、函数间隔和几何间隔

这一课主要是从如何判断一个机器学习分类算法里拟合的参数是最佳参数引出函数间隔和几何间隔的定义。 1、函数间隔假设假想函数，，那么可以知道y=1；反之则y=0 。所以当，我们可以很确定的认为y=1；当，可以很确定地认为y=0。所以在分类算法中，我们在训练样本时得到这两个结果的时候，就可以知道选择的参数能很好的拟合数据，能很有自信地认为我们的分类器是符合数据事实的。因此我们数据

2015-07-24 15:20:45 4826

原创斯坦福《机器学习》Lesson5感想———2、朴素贝叶斯算法

朴素贝叶斯算法与上篇中写到到生成学习算法的思想是一致的。它不需要像线性回归等算法一样去拟合各种假设的可能，只需要计算各种假设的概率，然后选择概率最高的那种假设分类类别。其中还添入了一个贝叶斯假定：在给定目标值y时属性值x之间相互独立。这样的分类算法被称为朴素贝叶斯分类器（Naive Bayes classifier）。1、朴素贝叶斯算法在朴素贝叶斯算法的模型里，给定的训练集为,

2015-07-24 10:24:31 1029

原创斯坦福《机器学习》Lesson5感想———1、成学习算法

在前面几课里的学习算法的思路都是给定数据集以后，确定基于此数据集的最佳假设H函数，通过学习算法确定最佳假设H的各个参数，然后通过最佳假设函数H得出新的数据集的结果。在这一课里介绍了一种新的思路，它的核心思想是直接计算各种假设的最高概率，然后拟合各个假设的最高概率参数，并利用拟合得到的假设概率，计算出新的数据集的概率，选取概率最高的假设直接得出分类类别。整个生成学习算法的精髓在于条件概率

2015-07-24 08:51:08 990

原创斯坦福《机器学习》Lesson4感想-------2、广义线性模型

在前面几篇中分类问题和回归问题里涉及到的伯努利分布和高斯分布都是广义线性模型（Generative Linear Models.GLMs）的特例。下面将详细介绍广义线性模型。 1、指数族我们可以将一些分布总结到一个指数族中。指数族可表示为：η是指naturalparameter/canonical parameter，T (y)是指sufficientstatistic

2015-07-07 18:58:50 882

原创斯坦福《机器学习》Lesson4感想--1、Logistic回归中的牛顿方法

在上一篇中提到的Logistic回归是利用最大似然概率的思想和梯度上升算法确定θ，从而确定f(θ)。本篇将介绍另一种求解最大似然概率ℓ(θ)的方法，即牛顿迭代法。在牛顿迭代法中，假设一个函数是，求解θ值使得f(θ)=0。在图1中可知，图1选择一个点，对应函数值为,并将对应的切线与x轴相交的点记为，所以 ,依此类推可知牛顿迭代规律。为了求得最大似然概率ℓ(θ)，让,

2015-07-07 16:02:07 958

原创斯坦福《机器学习》Lesson1-3感想-------4、Logistic回归

回归就是根据已有的数据点，用一条线对这些点进行拟合。而利用Logistic回归的核心思想是根据现有数据点对分类边界线建立回归公式，以此进行分类。训练分类时要做的就是找到最佳拟合参数，使用的是最优化算法。分类算法针对的一般是离散型的数据集。这里我们讨论的是一个二元分类的问题。而一般输出0或者1的函数是Sigmoid函数。Sigmoid函数的具体计算公式如下：因此可知：1、

2015-07-03 17:08:20 516

原创斯坦福《机器学习》Lesson1-3感想-------3、线性回归二

从上一篇可知，在监督学习里最重要的就是确定假想函数h(θ),即通过使得代价函数J(θ)最小，从而确定h(θ).上一篇通过梯度下降法求得J(θ)最小，这篇我们将使用矩阵的方法来解释。 1、普通最小二乘法利用矩阵的方式，m个训练集（x,y）可以如下表示：因此,所以根据可知，为使J(θ)最小，通过求导推导可得：

2015-07-02 11:05:39 1142

原创斯坦福《机器学习》Lesson1-3感想-------2、线性回归

监督学习的主要任务是预测目标变量的值，而且一般已经已知一些目标变量y。所以通常假设函数会根据训练集（x,y）设为：基于已知的训练集，我们应该如何确定θ的值。一般我们认为h(x)与y值的越接近，θ的值越好。因此定义了代价函数：所以θ的值可以通过最小化代价函数来确定。1、LMS（Least Mean Square）算法为了让J(θ)最小，我们可

2015-07-01 20:49:50 554

原创斯坦福《机器学习》Lesson1-3感想-------1、机器学习的基本定义

机器学习就是把无序的数据转换成有用的信息。机器学习一般包括训练集、学习算法、目标变量、假设函数。目标变量是机器学习的预测结果。如图1所示，在训练集上结合目标变量，利用学习算法不断学习，使得假设函数h能够解释（x,y）之间的关系。图1 机器学习的算法分类如图2所示。图2 机器学习的分类在使用机器学习算法中，如果想要预测变量的值，则可以选择监督学习算法。否则可以选择无

2015-07-01 20:03:08 561

原创 Bootstrap之入门

Bootstrap是个非常简洁、直观、强悍的前端开发框架，Web开发非常便捷。学习Bootstrap，最快捷的就是上bootstrap的中文网看它的文档。中国官网为：www.bootcss.com（1）如果想快点的话就自己看文档，大抵路径是：Bootstrap中文文档-》起步-》全局CSS样式-》组件-》Javascript插件。一般看完这些就可以自己上手编一些东西了。

2015-07-01 11:19:13 313

原创利用UIActionsheet完成上传头像

UIActionsheet的定义和声明我就不写了，主要写功能函数。此功能函数是主要是从相册中选取图片还是直接调用照相机。func actionSheet(actionSheet:IBActionSheet!, clickedButtonAtIndex buttonIndex:Int) { var sourceType =UIImagePickerContr

2015-06-07 16:35:56 416

原创 RDD

1.RDD的定义 RDD(Resilient Distributed Dataset) ,分布式弹性数据集，是Spark上的一个核心抽象表示用于并行计算的，不可修改的，对数据集合进行分片的数据结构。任何数据在Spark中都被表示为RDD。从开发者角度来看， RDD是Spark的一个对象，它本身存在于内存中，如读文件是一个RDD，对文件计算也是一个RDD，结果集也是一个RDD，不同的分片、

2015-05-22 16:27:06 622

原创 IOS 中imageView增加响应函数

最近我实现了点击imageView 图片变大满屏，再点击恢复原样（1）声明imageView var imageView: UIImageView!（2）添加响应函数 self.imageView.userInteractionEnabled =true; var singleTap:UITapGestureReco

2015-05-19 12:55:03 353

原创 Mac 终端显示［进程已完成］解决办法

昨天在配置git的时候，不知道为啥就把终端弄成这样了。然后百度了下问题，其实也不知道是什么原因，如有大神知道，欢迎指导！下面是我的解决方法（1）在应用程序里找到实用工具2、打开实用工具找到磁盘工具3.打开磁盘工具，点击第二级的Mactoinsh HD,点击急救－》验证磁盘权限－》修复磁盘权限

2015-05-13 10:32:50 10010 1

原创 01_06 探索性数据分析概览

1、探索性数据分析内容（1）图形分析的规则（2）探索性图形（3）R中的绘图系统：base,lattice,ggplot2（4）系统聚类（5）K-means聚类（6）降维2、加一个geomqplot(displ,hwy,data=mpg,geom=c("point","smooth")) 3、图形分析的规则规则1:对比规则2:分析因果关系、

2015-05-03 17:22:46 458

原创 01_05 数据获取和清理概览

1、数据获取和清理的内容（1）脏数据和干净数据（2）下载文档（3）读取数据（excel,xml,json,mysql,hdf5,web....）（4）合并数据（5）重新构造数据（6）汇总数据（7）寻找和替换（8）数据源2、数据库连接和列举ucsDb result result3、合并数据——merge()mergeData2

2015-05-03 17:11:34 348

原创 01 _04 R语言概览

1、R语言的内容数据类型、子集、读取和存储数据、控制结构、函数、作用域、向量化操作、日期和时间、调试、模拟、优化2、从文本整行读取数据 readLines可以用来整行整行地读取网页的整页数据conx3、寻找错误如何知道你自己的函数出错了？（1）你的输入是什么？你如何调用你的函数？（2）你认为函数调用完后的是什么？输出、信息、或者其他答案

2015-05-03 16:56:02 362

原创 01_03 获取答案

1、数据科学关键特点之一数据科学是集数据分析、黑客技术、实际知识的交集。2、黑客的主要特点（1）愿意自己去找到答案（2）知道自己该去哪儿找到答案（3）不会被新的数据类型或者包吓到（4）不害怕说自己不知道（5）礼貌而冷酷3、不同问题的答案的对应地点（1）R语言论坛上搜索、读帮助文档、网上搜索、询问技术好的朋友、将问题提交到stack overf

2015-05-03 16:54:36 342

原创 01-02 数据科学家如何获取帮助

1、问问题（1）上课问老师问题（2）在mooc上上传问题到信息版2、通常最快速获取到答案的途径是你自己找到答案（1）首先自己回答自己的问题这很重要（2）如果你的问题可以在帮助文档或者google hit上搜索到，那你应该首先读文档或者直接google.（3）如果你在论坛上看到了你解决过的问题，你应该上传你的答案。3、一些重要的帮助你的r语言的命令（1

2015-05-02 21:22:58 355

原创 01_01 工具概览

1、数据科学家干什么？（1）定义问题。（2）定义理想的数据集。（3）决定目标数据。（4）获取数据。（5）清洗数据。（6）数据分析。（7）分析预测／模型化。（8）解释结果。（9）验证结果。（10）综合陈述结果。（11）编写可重复使用的代码。（12）公布结果给众人。2、数据科学家的编程公具和编程环境主要是r语言以及对应的r-studio。3、分享你的成果利用gi

2015-05-02 21:08:16 278