GoodShot的专栏

原创 基座向量施密特正交化

施密特正交化的相关问题梳理

原创 根据样本计算协方差矩阵的过程

2. 将数据集 X 的每个样本减去均值向量，得到新的数据集 X_centered。其中，`T` 表示矩阵的转置，`@` 表示矩阵乘法，`n` 表示样本数。均值向量 mean_X = [ (1+4+7)/3, (2+5+8)/3, (3+6+9)/3 ] = [4, 5, 6]假设我们有一个包含3个样本的数据集，每个样本包含3个维度的数据，可以表示为一个3x3的矩阵。请注意，我们在计算协方差矩阵时，将结果除以了 `(n-1)`，其中 `n` 是样本数目，这是为了无偏估计协方差矩阵。

转载 基于深度学习的目标检测技术演进：从目标检测到人脸检测

本篇博客主要转载两篇写得好的分别介绍基于深度学习的目标检测和人脸检测的文章，最近在调研基于深度学习的人脸检测相关的文章，在网上查相关资料时，有幸看到。文末附带基于深度学习的目标检测和人脸检测相关经典文献及下载地址。基于深度学习的目标检测技术演进：R-CNN、Fast R-CNN、Faster R-CNNobject detection我的理解，就是在给定的图片中精确找到物体所在位置，...

转载 深度学习之人脸检测实践-现有框架实现 opencv Face++

人脸检测通常是人脸识别等复杂任务的第一步操作，目前主流的人脸检测算法：https://zhuanlan.zhihu.com/p/24816781。这里主要记录一些常用的算法实践，目前只有OpenCV提供的Haar级联检测和调用Face++的人脸检测接口，后续实践后会补充，相当于做个小小的积累。1. OpenCV的Haar级联检测：安装OpenCV；下载人脸检测模型：...

转载 python matplotlib:figure,add_subplot,subplot，subplots讲解实现

最近又用到了matplotlib 中画图的函数。总结几个常用的函数的作用于区别。from matplotlib import pyplot as plt1.figure()函数定义matplotlib.pyplot.figure(num=None, figsize=None, dpi=None, facecolor=None, edgecolor=None, frameon=True...

转载 使用scatter()绘制散点图

绘制简单散点图要绘制单个点，使用scatter()函数，并向它传递一对x和y坐标，它将在指定位置绘制一个点import matplotlib.pyplot as pltplt.scatter(2,4)plt.show()运行结果：图形美化下面设置输出样式，使其更有趣:添加标题，给轴加上标签import matplotlib.pyplot as pltplt...

转载 Python程序执行顺序

#示例代码基于py3.6一直对Python程序的执行顺序有些疑惑，例如python程序是顺序执行的，那怎么还有main函数的出现呢？在查阅了资料后，参见这里后，算是有点明白了：1.python程序是顺序执行的，而C++中main()是程序的入口例如以下代码，结果如注释所示，这里虽然有个main函数，但是最先输出的不是“main”而是“test1”：#test1print (...

转载 python matplotlib:figure,add_subplot,subplot，subplots讲解实现

from matplotlib import pyplot as plt1.figure()函数定义matplotlib.pyplot.figure(num=None, figsize=None, dpi=None, facecolor=None, edgecolor=None, frameon=True, FigureClass=<class 'matplotlib.figure....

原创 pyCharm pyplot.show()不显示图表的解决

现象：import pandas as pdfrom numpy import *import matplotlib.pyplot as pltimport matplotlib as mplts = pd.Series(random.randn(1000), index=pd.date_range('1/1/2000', periods=1000))ts = ts.cumsu...

转载 梯度下降（Gradient Descent）小结

转载 python---之plt.subplot画图详解

转载：https://www.cnblogs.com/nju2014/p/5620776.html【Matplotlib】详解图像各个部分首先一幅Matplotlib的图像组成部分介绍。在matplotlib中，整个图像为一个Figure对象。在Figure对象中可以包含一个或者多个Axes对象。每个Axes(ax)对象都是一个拥有自己坐标系统的绘图区域。所属关系如下：下面以一...

转载 in <module>     from . import multiarray ImportError: DLL load failed: 找不到指定的模块解决

1、问题现象：D:\path\python.exe "D:/ML_SourceCode/machinelearninginaction/Ch/b.py"Traceback (most recent call last):  File "D:\Anaconda3\lib\site-packages\numpy\core\__init__.py", line 16, in &lt;module&...

原创 python 一个.py文件如何调用另一个.py文件中的类和函数

1、HelloWorld  文件名称  Hello是类from HelloWorld import Hello&gt;&gt;&gt; h = Hello()&gt;&gt;&gt; h.hello()Hello, world  # 输出结果HelloWorld.py文件内容class Hello(object):　　def hello(self, name='worl...

转载 python:浅析python 中__name__ = '__main__' 的作用

有句话经典的概括了这段代码的意义：“Make a script both importable and executable”意思就是说让你写的脚本模块既可以导入到别的模块中用，另外该模块自己也可执行。这句话，可能一开始听的还不是很懂。下面举例说明：先写一个模块：#module.pydef main(): print "we are in %s"%__name__if...

转载 Python保留字详解

python的保留字并不多，一共33个​​1.Falseif q=False:#Flase2.None表示该值是一个空对象，空值是Python里一个特殊的值，用None表示。None不能理解为0，因为0是有意义的，而None是一个特殊的空值。&gt;&gt;&gt;type(None)&lt;class 'NoneType'&gt;&gt;&gt;&gt;typ...

转载 Python中self用法详解

https://blog.csdn.net/CLHugh/article/details/75000104

原创 working space和working set关系

working space:完整的各个项目都罗列在内1)project explorer下观看：                                                          2)package explorer下观看：                  working set:可分门别类的将这些项目放到不同逻辑文件夹下，例如重点看4个，则放在M...

转载 将一个项目打成一个jar包，导入到另一个项目中并调用

1.创建两个项目Import（用于导入和调用jar包的print方法）  ,Export (用于导出jar包声明一个print方法，打印一句“倒入成功”)2.将Export包打包并导出（在项目上点击右键，选择Export，选择java目录下的JAR file)3. 选择导出路径和导出包名。4.到对应目录下找到并复制jar包。5.在导入项目下新建一个文件夹用于存储导入的jar包，并把...

转载 Eclipse JAVA项目的 目录结构 和 导入 import菜单使用

Eclipse JAVA项目的 目录结构 和 导入作者：[email protected]本文为作者原创，转载请注明出处：http://www.cnblogs.com/oucbl/p/6071140.html目录1. Eclipse下的java工程目录 1.1 修改工作空间 1.2 Java Project 的目录结构 1.3 查看.project、.c...

转载 Eclipse 各种小图标的含义

Eclipse的Package Explorer和Outline中用图标表示了很多内容，其实能看懂这些图标在编程中也是很有用的。      绿色的小圆表示公有类型：如果是实心的就是函数（），如果是圈就表示是变量（）。      红色的矩形表示私有类型：如果是实心的就是函数（），如果是空心就表示是变量（）。      保护类与保护函数用的是黄色的菱形：大菱形表示是函数（），小菱形表示是变量（...

转载 eclipse中菜单Build Path的解释和设置

什么是Build Path?Build Path是指定Java工程所包含的资源属性集合。在一个成熟的Java工程中，不仅仅有自己编写的源代码，还需要引用系统运行库（JRE）、第三方的功能扩展库、工作空间中的其他工程，甚至外部的类文件，所有这些资源都是被这个工程所依赖的，并且只有被引用后，才能够将该工程编译成功，而Build Path就是用来配置和管理对这些资源的引用的。Build Pa...

原创 大数据中，机器学习和数据挖掘的联系与区别

数据挖掘是从海量数据中获取有效的、新颖的、潜在有用的、最终可理解的模式的非平凡过程。数据挖掘中用到了大量的机器学习界提供的数据分析技术和数据库界提供的数据管理技术。从数据分析的角度来看，数据挖掘与机器学习有很多相似之处，但不同之处也十分明显，例如，数据挖掘并没有机器学习探索人的学习机制这一科学发现任务，数据挖掘中的数据分析是针对海量数据进行的，等等。从某种意义上说，机器学习的科学成分更...

转载 统计学三大相关系数之皮尔森（pearson）相关系数

最早接触pearson相关系数时，是和同学一起搞数学建模，当时也是需要一种方法评价两组数据之间的相关性，于是找到了皮尔森（pearson）相关系数和斯皮尔曼（spearman）相关系数。其实，还有一种相关系数肯德尔（kendall）相关系数。在这三大相关系数中，spearman和kendall属于等级相关系数亦称为“秩相关系数”，是反映等级相关程度的统计分析指标。今天暂时用不到，所以现在只做pea...

转载 零基础入门深度学习(7) - 递归神经网络

无论即将到来的是大数据时代还是人工智能时代，亦或是传统行业使用人工智能在云上处理大数据的时代，作为一个有理想有追求的程序员，不懂深度学习（Deep Learning）这个超热的技术，会不会感觉马上就out了？现在救命稻草来了，《零基础入门深度学习》系列文章旨在讲帮助爱编程的你从零基础达到入门级水平。零基础意味着你不需要太多的数学知识，只要会写程序就行了，没错，这是专门为程序员写的文章。虽然文中会有...

转载 零基础入门深度学习(6) - 长短时记忆网络(LSTM)

无论即将到来的是大数据时代还是人工智能时代，亦或是传统行业使用人工智能在云上处理大数据的时代，作为一个有理想有追求的程序员，不懂深度学习（Deep Learning）这个超热的技术，会不会感觉马上就out了？现在救命稻草来了，《零基础入门深度学习》系列文章旨在讲帮助爱编程的你从零基础达到入门级水平。零基础意味着你不需要太多的数学知识，只要会写程序就行了，没错，这是专门为程序员写的文章。虽然文中会有...

转载 零基础入门深度学习(5) - 循环神经网络

无论即将到来的是大数据时代还是人工智能时代，亦或是传统行业使用人工智能在云上处理大数据的时代，作为一个有理想有追求的程序员，不懂深度学习（Deep Learning）这个超热的技术，会不会感觉马上就out了？现在救命稻草来了，《零基础入门深度学习》系列文章旨在讲帮助爱编程的你从零基础达到入门级水平。零基础意味着你不需要太多的数学知识，只要会写程序就行了，没错，这是专门为程序员写的文章。虽然文中会有...

转载 零基础入门深度学习(4) - 卷积神经网络

无论即将到来的是大数据时代还是人工智能时代，亦或是传统行业使用人工智能在云上处理大数据的时代，作为一个有理想有追求的程序员，不懂深度学习（Deep Learning）这个超热的技术，会不会感觉马上就out了？现在救命稻草来了，《零基础入门深度学习》系列文章旨在讲帮助爱编程的你从零基础达到入门级水平。零基础意味着你不需要太多的数学知识，只要会写程序就行了，没错，这是专门为程序员写的文章。虽然文中会有...

转载 零基础入门深度学习(3) - 神经网络和反向传播算法

无论即将到来的是大数据时代还是人工智能时代，亦或是传统行业使用人工智能在云上处理大数据的时代，作为一个有理想有追求的程序员，不懂深度学习（Deep Learning）这个超热的技术，会不会感觉马上就out了？现在救命稻草来了，《零基础入门深度学习》系列文章旨在讲帮助爱编程的你从零基础达到入门级水平。零基础意味着你不需要太多的数学知识，只要会写程序就行了，没错，这是专门为程序员写的文章。虽然文中会有...

转载 零基础入门深度学习(1) - 感知器

无论即将到来的是大数据时代还是人工智能时代，亦或是传统行业使用人工智能在云上处理大数据的时代，作为一个有理想有追求的程序员，不懂深度学习（Deep Learning）这个超热的技术，会不会感觉马上就out了？现在救命稻草来了，《零基础入门深度学习》系列文章旨在讲帮助爱编程的你从零基础达到入门级水平。零基础意味着你不需要太多的数学知识，只要会写程序就行了，没错，这是专门为程序员写的文章。虽然文中会有...

原创 各种网络的结构比较

一、全连接(full connected, FC)神经网络其训练：其实现和案例：参考：https://www.zybuluo.com/hanbingtao/note/476663二 CNN神经网络每一层并非都是全连接，共享权值，pooling是特点，最后才使用全连接层FC其训练：其实现和案例：参考：https://www.zybuluo.com/hanbingtao/note/485480-陆续更...

原创 正则化方法：防止过拟合，提高泛化能力

本文是《Neural networks and deep learning》概览 中第三章的一部分，讲机器学习/深度学习算法中常用的正则化方法。（本文会不断补充）正则化方法：防止过拟合，提高泛化能力在训练数据不够多时，或者overtraining时，常常会导致overfitting（过拟合）。其直观的表现如下图所示，随着训练过程的进行，模型复杂度增加，在training data上的error渐渐...

转载 详解最大似然估计（MLE）、最大后验概率估计（MAP），以及贝叶斯公式的理解

原创 CS231n课程笔记5.4：超参数的选择&交叉验证

CS231n简介详见 CS231n课程笔记1：Introduction。 注：斜体字用于注明作者自己的思考，正确性未经过验证，欢迎指教。1. 超参数有哪些与超参数对应的是参数。参数是可以在模型中通过BP（反向传播）进行更新学习的参数，例如各种权值矩阵，偏移量等等。超参数是需要进行程序员自己选择的参数，无法学习获得。 常见的超参数有模型（SVM，Softmax，Multi-layer Neural ...

原创 深度学习-超参数和交叉验证

1.什么是超参数没接触过机器学习的人可能对这个概念比较模糊。我们可以从两方面来理解(1)参数值的产生由来超参数是在开始学习过程之前设置值的参数（人为设置），而不是通过训练得到的参数数据。（2）超参数含义定义关于模型的更高层次的概念，如复杂性或学习能力。不能直接从标准模型培训过程中的数据中学习，需要预先定义。可以通过设置不同的值，训练不同的模型和选择更好的测试值来决定（3）举例超参数的一些示例：树的...

转载 合页损失函数的理解

在学习支持向量机的过程中，我们知道其损失函数为合页损失函数。至于为什么叫这个名字，李航老师的《统计学习方法》上是这么说的：由于函数形状像一个合页，故命合页损失函数。下图为合页损失函数的图像（取自《统计学习方法》）：    之前对损失函数的意义一直不是很懂。今天，在看了吴恩达老师的《机器学习》相关视频后，又读了《统计学习方法》的相关内容。对合页损失函数有了自己的理解：横轴表示函数间隔，我们从两个方面...

转载 LDA （Linear Discriminate Analysis）Fisher Criteria

之前说到的PCA，它主要的目的是寻找数据variance变化最大的轴。通过删去数据中variance变化不大的轴来压缩数据的维数。PCA没有办法很好的解决数据分类的问题（classification）。LDA or Fisher Discriminate Analysis 是一种用于分类数据的分析方法。他的目的是寻找到一条直线，当把所有数据点投影到直线上之后，尽可能的分开不同类别的训练数据。很容易...

原创 主成分分析PCA案例及原理

1.主成分分析PCA案例 http://www.cnblogs.com/zhangchaoyang/articles/2222048.html附:使用上方链接的解释：2.主成分分析（PCA）原理总结http://www.cnblogs.com/pinard/p/6239403.html...

转载 中心化（又叫零均值化）和标准化（又叫归一化）

一、中心化（又叫零均值化）和标准化（又叫归一化）概念及目的？1、在回归问题和一些机器学习算法中，以及训练神经网络的过程中，通常需要对原始数据进行中心化（Zero-centered或者Mean-subtraction（subtraction表示减去））处理和标准化（Standardization或Normalization）处理数据标准化（归一化）处理是数据挖掘的一项基础工作，不同评价指标往往具有不...

转载 "数据的属性"及“数据的特征”

数据的属性指的是数据的最原始的特征，比如图片的原始像素点，而数据的特征大多指的是属性经过特定的操作的数据，如图片的像素点经过CNN卷积之后得到的特征。广义来说，数据的属性和特征没有区别。...

转载 经验误差，泛化误差

经验误差，泛化误差前言我们在上篇博文 《机器学习模型的容量，过拟合与欠拟合》 中曾经提到过模型的泛化问题，指的就是描述一个模型在未见过的数据中的表现能力。这里再提出了，用于比较经验误差。 ...