Codename-NC-CSDN博客

原创 CNN学习笔记(8)---模型集成方法

13.模型集成方法深度模型的集成多从“数据层面”和“模型层面”两方面着手13.1 数据层面的集成方法13.1.1 测试阶段数据扩充训练阶段的数据扩充手段：图像多尺度，随机扣取等都可以用到测试阶段以随机扣取为例，对某张测试图像可得到 n 张随机扣取图像，测试阶段只需用训练好的深度网络模型对 n 张图分别做预测，之后将预测的各类置信度平均作为该测试图像最终预测结...

2018-04-27 09:16:17 4811

原创 CNN笔记(7)---不平衡数据的处理(imbalance)

12.不平衡数据的处理(imbalance)除了常规的分类，回归任务，图像语义分割，深度估计等像素级别任务也不乏不平衡样本的出现12.1 数据层面处理方法数据层面处理方法多借助数据采样法（sampling）使整体训练集样本趋于平衡即各类样本数基本一致12.1.1 数据重采样重采样包括上采样和下采样对于样本较少的类别，使用上采样(赋值/数据扩充)，增加样本数对...

2018-04-27 09:13:36 6895

原创 CNN笔记(6)---超参数设定和网络训练

11.超参数设定和网络训练11.1 网络超参数设定网络结构相关的各项超参数：输入图像像素、卷积层个数、卷积核的相关参数11.1.1 输入数据像素大小不同输入图像为得到同规格输出，统一压缩到2n2n2^n大小：32x32,96x96,224x224分辨率越高，有助于性能提升，(特别是attention model),但是会延长训练时间改变原始模型的输入图像分辨率，需要重...

2018-04-27 09:10:23 10462

原创 CNN学习笔记(5)---正则化

10.Regularization正则化有效防止模型的过拟合10.1 l2l2l_2正则化 —邻回归（Ridge regression）—Tikhonov 正则化假设待正则的网络层参数为www,l2l2l_2正则式为：l2=12λ||w||22l2=12λ||w||22l_2 = \frac{1}{2}\lambda ||w||^2_2将正则项加入目标函数又叫...

2018-04-27 00:12:28 6297

原创 CNN笔记(4)--目标函数

9.目标函数（损失函数，代价函数）9.1分类任务的目标函数9.1.1 交叉熵损失函数（cross entropy）(SoftMax)Lcross entropy loss=Lsoftmax_loss=−1N∑i=1Nlogehyi∑Cj=1ehjLcross entropy loss=Lsoftmax_loss=−1N∑i=1Nlog⁡e...

2018-04-27 00:09:34 1600

原创 CNN笔记(3)---激活函数

8.Activation Function8.1 Sigmoid 型函数σ(x)=11+e(−x)σ(x)=11+e(−x)\sigma(x)=\frac{1}{1+e^{(-x)}}sigmoid 将输出响应的值域压缩到[0,1]之间但是，两端大于5，小于-5的区域，梯度接近0，带来梯度的“饱和效应”反向传播中无法传递误差而且sigmoid 的值域均值并非为0，而...

2018-04-27 00:05:53 1499

原创 CNN笔记(2)--网络参数初始化

7网络参数初始化7.1 全零初始化网络收敛到稳定状态时，参数（权值）在理想情况下应基本保持正负各半，期望为0全0初始化可以使初始化全零时参数期望为0但是，全0初始化不能训练7.2随机初始化仍然希望参数期望接近1随机参数服从高斯分布或均匀分布进行初始化7.2.1.高斯分布高斯分布为均值为0，方差为1 的标准高斯分布w = 0.001 .* ra...

2018-04-27 00:01:07 4516

原创 CNN笔记(1)---数据扩充与数据预处理

1.Data Augmentation1.1 简单的数据扩充图像水平翻转随机扣取尺度变换和旋转色彩抖动：在RGB颜色空间对原有RGB色彩分布进行轻微扰动也可以在HSV空间随机改变图像原有的饱和度和明度（改变S和V通道的值）或对色调进行微调（小范围改变H的值）1.2 特殊的数据扩充方式1.2.1 F...

2018-04-26 23:58:44 2320

原创向量与矩阵的范数定义的总结

向量的范数范数定义 1-范数 ||x||1=∑i=1N|xi|||x||1=∑i=1N|xi|||x||_1 = \sum_{i=1}^N |x_i| 2-范数 ||x||2=(∑i=1N|xi|2)12||x||2=(∑i=1N|xi|2)12||x||_2 = (\sum_{i=1}^N|x_i|^2)^{\frac{1}{2}} ∞∞\i...

2018-04-26 17:28:26 972

原创导入tensorflow ,提示警告信息的消除

1.版本信息tensorflow 1.12.0 numpy 1.12.12.警告信息导入tensorflow 时会出现的警告信息 FutureWarning: Conversion of the second argument of issubdtype from float to np.floating is deprecated. In future, it wil...

2018-03-14 15:03:45 10404 1

原创 C++ 短路求值特性的利用

题目求1+2+3+…+n，要求不能使用乘除法、for、while、if、else、switch、case等关键字及条件判断语句（A?B:C）。解决方案class Solution {public: int Sum_Solution(int n) { int res = n; res && (res = res + Sum_S...

2018-03-02 11:37:03 900

原创 SVM分类器的概率校准在scikit-learn 中的几种实现方式

SVM分类器的分类结果只有类别，没有概率，属于maximum-margin 的方法如果我们想从SVM的分类结果中得到属于某个类别的置信概率，就要用到概率校准经典的概率校准思路有Platt Scaling,核心思想就是把分类的结果作为新的训练集，用logistics回归再训练一个关系，得到具体的概率值P(y=1∣x)=11+e(A∗f(x)+B)P(y=1∣x)=11+e(A∗f(...

2018-02-19 19:05:42 5331 1

翻译 SVM 解决类别不平衡问题(scikit_learn)

在支持向量机中，CCC 是负责惩罚错误分类数据的超参数。解决数据类别不平衡的一个方法就是使用基于类别增加权重的CCC值Cj=C∗wjCj=C∗wjC_j = C * w_j其中，CCC是误分类的惩罚项，wjwjw_j是与类别 jjj 的出现频率成反比的权重参数，CjCjC_j 就是类别 jjj 对应的加权CCC值主要思路就是增大误分类少数类别带来的影响，保证少数类别的...

2018-02-18 10:10:34 11236

翻译找到SVM分类器的支持向量(scikit-learn)

0.库的导入# 导入库from sklearn.svm import SVCfrom sklearn import datasetsfrom sklearn.preprocessing import StandardScalerimport numpy as np1.加载Iris Flower 数据集#Iris Flower 数据集有三个类别，这里只加载两个...

2018-02-17 18:49:53 2299

翻译 SVM 分类器的分类超平面的绘制

0.库的导入# Load librariesfrom sklearn.svm import LinearSVCfrom sklearn import datasetsfrom sklearn.preprocessing import StandardScalerimport numpy as npfrom matplotlib import pyplot as plt...

2018-02-17 18:36:49 10364

翻译支持向量分类器的scikit-learn 实现(Support Vector Classifier)

支持向量分类器（SVC）在最大化分类间隔(margin)和最小化错误分类(misclassification)上需要一个平衡。在SVC分类器中，用超参数C作为误差的惩罚项当C比较小时，可以接受一些数据点的误分类,模型的偏差高而方差低(high bias low variance)当C比较大时，对错误分类的点惩罚严重，分类器会尽力避免错误的分类，得到的模型偏差小但方差高(low bi...

2018-02-17 18:00:12 1666

原创 Docker容器图形界面显示（运行GUI软件）的配置方法

0.环境说明Ubuntu 16.04 docker 1.351.Docker的“可视化”Docker本身的工作模式是命令行的，因为主要的使用场景可能是做服务器后端方面的比较多。但有时候我们会有在docker容器里运行一些图形界面的软件，或者要调用摄像头，输出图像等等一些需求，这个时候需要解决这个Docker “可视化”的问题。（这里的“可视化”不是很容易搜到的可视化管理的方法

2018-02-04 17:39:43 73609 18

原创使用DaoCloud加速docker镜像下载——修改daemon.json遇到的问题

1.docker镜像的获取使用如下的docker pull 命令可以从官方的docker hub网站获取需要的镜像。docker pull NAME[:TAG]官方网站虽然资源多，但是由于是国外的网站，访问速度很不理想，获取一个镜像可能要等很久。2.镜像获取加速的方法2.1 非官方仓库下载国内有很多提供这样服务的镜像源，下载的速度要好很多。有满足需要的镜像的话，

2018-02-03 21:39:20 4051

原创 Anaconda环境中配置openCV报错-- numpy版本问题--解决方案

一 .环境信息win10/64bit anaconda3 python 3.5.4 opencv3二.报错信息创建了一个新的conda环境,在环境中配置了TensorFlow和Keras. 使用pip install [file path] 的方式安装 opencv_python 3.4.0+contrib cp35 cp35m win_amd64.whl 文件安装完成后

2018-01-17 19:48:30 2045

原创 OpenCV 调用摄像头录制指定分辨率视频----（解决保存的视频仅有6Kb的问题）

1.环境信息win10 系统，VS2012,openCV 2.4.9，支持UVC协议的免驱动720p摄像头2.问题描述摄像头最大支持1280x960分辨率，但OpenCV调用的时候默认的分辨率是640x480。需要调用摄像头录制1280x720的视频。没有报错信息，却发现生成的视频始终只有6Kb,无法播放。程序如下#include#include#include

2018-01-10 15:58:15 4931 2

原创 Python 2.x 与 3.x 版本不同造成的报错处理

运行一些网上下载的代码时，由于代码经常是数年前用Python 2.x 编写的，一些函数用法上会出现变化，直接运行会发生报错。记录一些见到的小问题：1.Error ‘dict’ object has no attribute ‘iteritems’2.from pil import image 报错 DLL load failed3.TypeError: 'dict_keys' object does not

2017-08-17 21:49:30 609

原创 Python Algorithms Learning Notes(2)—Implementing Graphs and Trees

This one is learning note for Python Algorithm , on the topic of graphs and trees

2017-08-08 11:23:08 298

原创 Python Algorithms Learning Notes（1）--Asymptotic Notations

Lately , I've been reading《Python Algorithms》by Magnus Lie Hetland. To understand the contents better , I’ll keep notes about it through the whole process.

2017-07-31 21:17:56 377

原创 Python 结合bat批处理文件实现密码保管箱

Python 利用字典实现简单的密码保存，使用批处理文件实现程序的快速运行调用

2017-07-26 09:01:07 1387 2

原创 Python 字典（dict）操作基础

Python 字典(dict)的基本概念与常用方法

2017-07-21 16:38:06 665

原创 Python 字符串操作基础

Python 语言字符串的基本概念和常用操作方法

2017-07-21 16:14:25 250

原创高斯混合模型视频背景建模的EM算法与Matlab 实现

使用混合高斯模型对视频背景进行建模，实现视频的背景前景分离；使用 EM 算法迭代估计混合高斯模型参数；使用Matlab 实现整个视频动静分离过程。

2017-06-18 13:12:51 8333 3

翻译 Tensorflow 10分钟快速上手

Tensorflow 10分钟快速上手本文依据教程 TensorFlow Tutorial: 10 minutes Practical TensorFlow lesson for quick learners的内容编写… 实现了教程中的所有指令,内容进行了不完整的翻译,仅供参考

2017-06-06 18:00:51 879

原创 Ubuntu16.04LTS 搜狗输入法无法输入中文

Ubuntu16.04LTS 开机后,搜狗输入法无法输入中文,输入法可以选择,但是不显示备选词条

2017-06-06 12:41:48 401

原创 Machine Learning Class 1:Introduction,supervised & unsupervised learning

The note of Andrew Ng's Machine Learning class on coursera.This blog is for the Introduction part

2017-05-20 01:10:00 314

原创 Ubuntu16.04 报错信息处理

更新Ubuntu系统过程中，提示/boot 空间不足。解决了/boot 空间不足、已安装 post-installation 脚本返回错误状态 1、新的 pre-removal 脚本返回错误状态 1、旧的 pre-removal 脚本返回错误状态 1、ImportError: No module named 'ConfigParser'、设置Python2和Python3的切换一系列问题

2017-05-18 13:44:09 5619 4

原创 KL散度的理解

这篇文章是博客Count Bayesie上的文章Kullback-Leibler Divergence Explained 的学习笔记

2017-05-17 10:32:05 34674 2

原创深度学习中的数学--lecture 1(2)

本篇文章为 MIT 课程 Mathematical Aspects of Deep Learning 的lecture 1 的第二部分学习笔记：2.卷积网络(Convolution Network)

2017-05-17 09:57:44 436

原创深度学习中的数学—Lecture 1(1)

本篇文章为 MIT 课程 Mathematical Aspects of Deep Learning 的 lecture 1 Introduction:A Non-Rigorous Review of Deep Learning的第一部分学习笔记，1.深度前向网络（Deep forward networks ).

2017-05-16 18:54:30 1091

原创基于 jieba 和 word_cloud 生成《人民的名义》小说词云

基于 jieba 和 word_cloud 生成《人民的名义》小说词云由于词云在反映文本关键信息上的显著优势，在本文中，我选择结合实例为大家介绍一下 Python 中专门用来生成词云的一个库——word_cloud 。实例中的分析对象就选择为最近大火的电视剧《人民的名义》小说原著，通过词云来分析一下小说各具魅力的人物中，究竟谁的出场率最高，谁是真正的主角。

2017-05-09 17:38:15 4724

Learning Python

Amazon.com Review, The authors of Learning Python show you enough essentials of the Python scripting language to enable you to begin solving problems right away, then reveal more powerful aspects of the language one at a time. This approach is sure to appeal to programmers and system administrators who have urgent problems and a preference for learning by semi-guided experimentation., First off, Learning Python shows the relationships among Python scripts and their interpreter (in a mostly platform-neutral way). Then, the authors address the mechanics of the language itself, providing illustrations of how Python conceives of numbers, strings, and other objects as well as the operators you use to work with them. Dictionaries, lists, tuples, and other data structures specific to Python receive plenty of attention including complete examples., Authors Mark Lutz and David Ascher build on that fundamental information in their discussions of functions and modules, which evolve into coverage of namespaces, classes, and the object-oriented aspects of Python programming. There's also information on creating graphical user interfaces (GUIs) for Python applications with Tkinter., In addition to its careful expository prose, Learning Python includes exercises that both test your Python skills and help reveal more elusive truths about the language. --This text refers to an out of print or unavailable edition of this title., Review, As a book for programmers who want to learn Python, it does a very good job. The coverage is informative and well order; making it easy to find what you're looking for. Overall, if you do some work with Python, you will benefit from owning this book. ' - Sam Smith, news@UK, March 'This book is a good example of Python culture, in the clarity of its text as much as in the quality of its code. Anyhone working their way through it will have a solid foundation upon which to explore Python's potential. Highly recommended.' - Ivan Uemilianin, CVu, October 2004 --This text refers to the Paperback edition.

2017-07-20

KL散度的理解英文文档

介绍KL散度的含义和作用

2017-05-18

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人