Grit_007-CSDN博客

原创如何在Google官方实现的DeeplavV3+上面训练自己的数据集

环境：ubuntu 16.04 + TensorFlow 1.8.1 + cuda 9.0 + cudnn 7.0 +python2.7 tensorflow 项目链接 https://github.com/tensorflow/models.git下载后解压，所需要的工程在models/...

2019-03-08 16:15:25 710

原创解决Linux环境下GPU运行Paddlepaddle找不到libcublas.so文件问题

前言最近百度开源了用paddle框架实现的用于做语义分割的deeplabv3+模型，正好自己也在做这方面的事情，所以就把模型拿过来跑一下inference，结果是各种采坑，所以记录下来，以后便于查阅！1、首先需要在Linux上面安装GPU版本的paddle，我用的是pip安装的，感觉docker太麻烦。安装命令： pip install paddlepaddle-gpu 此命名默认安装的...

2018-12-14 11:27:25 10738 6

转载 pycharm远程连接服务器

http://blog.csdn.net/duankaifei/article/details/418986411、写在前面    之前一致用putty，ssh，修改代码，或者本地修改，上传到服务器，各种不爽，现在改用xshell，但是有时候还是不方便感觉，于是自己配置了远程连接pycharm，这样不用总是到代码里...

2018-11-28 17:51:40 1594 1

原创 CNN结构演化

前言文章仅给出各个模型的大概结构，详细内容请参考相关的论文及博客，在文章中我也会推荐一些资料。一、早期尝试—1998 LeNet 网络结构详细介绍和代码实现请参考这里：LeNet二、历史突破—2012 AlexNet这是其网络结构，看着比较抽象，我们可以结合具体实现代码来看一下模型结构Sequential容器封装了这个模型的结构，可以很清楚的看到每一层都是用了什么，无非就是卷积层...

2018-11-20 17:45:13 947

原创空间金字塔模型与池化

前言原来一切如此简单与神奇！论文：&nbsp;《Spatial Pyramid Pooling in Deep Convolutional Networks for Visual Recognition》&nbsp;本篇博文主要讲解大神何凯明2014年的paper：《Spatial Pyramid Pooling in Deep Convolutional Networks for Vis...

2018-11-19 17:42:34 5700 1

转载 Linux下实时查看GPU状态

前言现在不管是分布式还是其他服务器还是深度学习训练模型等，都离不开GPU，因此了解一下GPU常见的参数命令以及性能指标是十分重要的，几个十分重要的参数如：温度、内存占用情况、GPU使用情况等。1. 显示当前GPU使用情况Nvidia自带了一个nvidia-smi的命令行工具，会显示显存使用情况：$ nvidia-smi11输出： 2. 周期性输出GPU使用情况但是有...

2018-11-19 17:34:34 2430

转载 Pytorch框架中的可视化模块—tensorboardX

前言首先说明一下，tensorboardX的用法和tensorboard是十分类似的，后者是TensorFlow框架中的可视化工具。TensorFlow是2016年Google推出的深度学习框架，而pytorch是2017年FaceBook推出的深度学习框架，其接口和设计都比TensorFlow要灵活简单的多，属于后起之秀。1、若读者想看关于TensorFlow的tensorboard的系列教...

2018-11-19 15:09:52 870

原创 Deeplabv3+论文学习笔记粗略总结

1、在本文中，我们考虑了两种使用空间金字塔池模块[18,19,20]或编码器解码器结构[21,22]进行语义分割的神经网络，前者通过不同分辨率的池化特征获取丰富的上下文信息，后者能够获得清晰的对象边界。2、我们提出的模型DeepLabv3+通过添加一个简单而有效的解码器模块来恢复对象边界，扩展了DeepLabv33、batchsize越小，速度越快，权值更新越频繁；且具有随机性，对于非凸损失函...

2018-11-13 18:02:12 5065

原创深度学习入门—理论杂谈(5)

前言这部分内容是书上的第六章内容，主要讲的是卷积网络，当然也是最重要的一章。先验概率是指根据以往经验和分析得到的概率，如全概率公式中的，它往往作为“由因求果”问题中的“因”出现。后验概率是指在得到“结果”的信息后重新修正的概率，是“执果寻因”问题中的“因” 。后验概率是基于新的信息，修正原来的先验概率后所获得的更接近实际情况的概率估计。一、卷积网络的结构1、卷积神经⽹络采⽤了三种基本概...

2018-11-08 12:11:04 302

原创深度学习入门—理论杂谈(4)

前言第四章讲述的是一个定理的证明：神经网络可以计算任何函数，通俗点来说就是不管别人给你一个多么复杂和奇特的函数，总会确保有一个神经网络对任何可能的输入x ,其值f(x)是这个网络的输出(或者说足够的近似)。这个定理说的就是神经网络的普适性，我感觉这句话是废话，如果不成立的话，我们花那么大精力研究神经网络也没有意义。因此这一章pass，有兴趣的可去原书籍上面查看证明过程。最后扔一句结论在这儿：普...

2018-11-05 20:47:33 301

原创深度学习入门—理论杂谈(3)

前言此部分内容为第三章续一、过度拟合和正则化1、验证集的作用可以理解为培训数据，帮我们学习到更好的超参数(超参数是在开始学习过程之前设置值的参数，而不是通过训练得到的参数数据。通常情况下，需要对超参数进行优化，给学习机选择一组最优超参数，以提高学习的性能和效果。)，其最终目的是为了防止过拟合。2、通过增加训练数据，某种程度上可以有效的减少过拟合的发生，但是训练数据可能很昂贵或难以获得，因此...

2018-11-05 16:55:16 158

原创深度学习入门—理论杂谈(2)

当我们对某些事情出现严重错误时，我们往往学得最快。但是我们刚刚看到我们的人工神经元在严重错误的情况下学习有很多困难 - 比只是有点错误时要困难得多。更重要的是，事实证明，这种行为不仅发生在这个玩具模型中，而且发生在更一般的网络中。为什么学习这么慢？我们能找到避免这种放缓的方法吗？

2018-11-02 14:23:51 241

原创 anaconda3在win10环境下安装pytorch0.4 + cuda9.0

前言一、安装torch与torchvision初次安装的时候，没有经验，在安装CUDA时踩了很多坑，各种帖子都看了，比如去官网下载最新的驱动，用DDU将电脑上的显卡卸载干净等，最后还是没装上CUDA。果断放弃了。最后看了各种资料突然发现，原来使用 conda install pytorch -c pytorch 命令安装pytorch时，就默认安装了CUDA！！！天了噜，折腾了那么多时间！...

2018-11-01 20:21:17 1719

原创深度学习入门—BP算法简单实现

前言算法实现的过程，我感觉就是把公式翻译成代码的过程，关于详细的算法思想介绍，已经写在了上一篇博客中：https://blog.csdn.net/Grit_007/article/details/83509548，需要参考的可以点这一个，这里重点是实现BP算法。一、代码实现我不啰嗦了，直接上代码了，因为看了理论之后，很容易就能读懂代码，而且每一行代码我都加了详细的注释。&quot;&quot;&quot;BP算法的简...

2018-10-31 15:23:00 714

原创深度学习入门—理论杂谈(1)

前言写文章比较随性，主要是个人学习资料的重点笔记的记录，这是关于深度学习的，学习的目的是打牢深度学习的理论基础。书籍链接：http://neuralnetworksanddeeplearning.com/index.html第一章1、感知机模型网络：说它强大是因为其计算能力可以像其他任何计算设备一样，说其普通是因为它本质上不过是逻辑门而已，实现的都是各种等价的逻辑操作。2、Sigmoid...

2018-10-31 11:00:51 321

原创 k-Means聚类算法实现

前言机器学习算法主要分为三部分的应用:分类、回归、聚类。前两部分我们都已经介绍过，今天我们来说最后一部分–聚类。首先来说聚类它是一种无监督学习方式，输入的数据集实例中并没有标签，也没有指定的学习任务，算法的结果是产生几个簇，把最相似的数据实例放在一起，而这个相似度的度量，正是算法的核心，本文采用的是基于距离的度量方式（有点类似KNN算法策略）。一、算法实现该算法思想比较简单，我就不啰嗦了，...

2018-10-26 16:20:40 208

原创多元线性回归的简单实现

前言前面一直讨论的都是机器学习中的分类问题，今天来实现一个简单的回归问题。线性回归，分为一元线性回归和多元线性回归，前者自变量只有一个特征，后者自变量具有多个特征。本文不从数学角度来理解，忽略背后的数学原理和证明过程，有兴趣的读者可参考其他相关资料。一、算法简介首先来说，线性回归在我们生活中有着极其广泛的应用，房价预测、销量预测、价格预测等都有其身影。算法的目的是求得一条最佳的线性拟合直线，...

2018-10-26 15:51:45 1221

原创机器学习中的优化方法

一、无约束的优化问题1、梯度下降法：核心就是求偏导，都会涉及到泰勒展开等，目的都是找到最佳最快的收敛点。2、牛顿法：寻找更合适的步长，以便于更快的收敛，自适应更强，其过程是用一组二次曲线，逐步的去逼近最优点，需要涉及到二次导数的计算，不适合高维数据，高维会导致计算量极大，其实用的相对少一点。二、有约束的优化问题1、拉格朗日乘子法：首先构造拉格朗日函数，然后求偏导，令偏导等于零求解即可，具体...

2018-10-26 11:27:21 379

原创 SVM算法杂谈(附代码实现)

前言SVM算法确实有难度，我感觉没有两三遍学习，是很难彻底掌握的，这是我第一遍学习时的理解与体会，有瑕疵的地方还望海涵，日后会再更新（SVM算法的数学原理很多也很复杂，本文不作深入介绍，仅在需要的时候提一下）。一、算法简介SVM算法，全称是支持向量机算法，是一个二分类机器学习算法，也是目前分类效率最高以及泛化性能最好的算法，不过以此同时也是理论最深、实现起来最复杂的算法。为什么叫支持向量机...

2018-10-23 16:53:49 1251 1

原创逻辑回归算法及其实现

一、算法简介说到逻辑回归，我们应该先提一下与其紧密相关的线性回归。在统计学中，线性回归（Linear Regression）是利用称为线性回归方程的最小平方函数对一个或多个自变量和因变量之间关系进行建模的一种回归分析。这种函数是一个或多个称为回归系数的模型参数的线性组合（自变量都是一次方）。函数的输入是特征向量及其对应的标签（因为是监督学习方式），输出是学得的模型，也就是一个线性函数y=...

2018-10-18 21:18:39 946

原创 Jupyter NoteBook 的快捷键使用指南

Jupyter NoteBook 的快捷键使用指南¶Jupyter Notebook 有两种键盘输入模式。即命令模式和编辑模式，这与 Vim 有些类似。在编辑模式下，可以往单元中键入代码或文本，此时单元格被绿色的框线包围，且命令模式下的快捷键不生效。在命令模式下，可以用快捷键命令运行单元格，移动单元格，切换单元格编辑状态等等，此时的单元格被灰色的框线包围，且编辑模式下的快捷...

2018-10-17 11:42:56 219

转载话说薛定谔的猫

喜欢物理学尤其是量子力学的朋友一定对薛定谔的猫不会陌生，至于那些不大懂的小伙伴建议可以网上搜索了解下，对你的人生观、价值观可能会有所改变（不说笑，真的哦）。对于量子论从爱因斯坦、波尔时代至今，一直是人们讨论的焦点。因为量子论只存在于理论和思维实验，理论上是咩有办法实物验证的，用哲学家的话来说量子论是一种很悬很悬的存在。言归正传，人天生就有好奇的思想观念，对于自己捉摸不透的或者怀疑的东西总是想亲...

2018-10-17 11:38:35 458

原创朴素贝叶斯分类算法介绍及实现

一、算法简介朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设(这也是为什么成为朴素贝叶斯算法的原因，如果特征不不独立，则需要用到贝叶斯网络模型，此文不做介绍)的分类方法。对于给定的训练集，首先基于特征条件独立假设学习输入/输出的联合概率分布，然后根据学得的模型，对于给定的输入x,模型根据后验概率最大化输出y(也就是x的类别)。二、算法执行步骤1.准备数据训练集2.格式化数据以满足算法输入要求...

2018-10-16 16:04:16 1132

原创决策树算法思想及实现介绍

一、决策树简介决策树，顾名思义，首先是一个树形结构（二叉树或者非二叉树），内部节点表示一个特征或者属性，外节点表示一个类。可以将决策树看成一个if-then规则的集合，由决策树的根节点到叶节点的路径构成一条规则。决策树模型学习的目标是根据给定的数据集，建立一个决策树模型，使它能够对实例进行正确的分类，本质上是从训练集中归纳出一组分类规则，决策树学习是由训练数据估计条件概率模型。二、决策树算...

2018-10-15 11:19:48 3768

转载如何将代码上传到github上面

转自： https://blog.csdn.net/u013490896/article/details/51112359 如何将本地代码上传到GitHub说明：Win7操作系统，客户端采用Git.前言搜资料的时候，看到很多朋友都把源码放到了GitHub上托管，于是我也产...

2018-10-10 13:11:06 576

原创用四种方法求连续数组的最大子段和

一、问题描述一个整数数组中的元素有正有负，在该数组中找出一个连续子数组，要求该连续子数组中各元素的和最大，这个连续子数组便被称作最大连续子数组。比如数组{2,4,-7,5,2,-1,2,-4,3}的最大连续子数组为{5,2,-1,2}，最大连续子数组的和为5+2-1+2=8。二、求解算法1、暴力求解法该方法的思想非常简单，先找出从第1个元素开始的最大子数组，而后再从第2个元素开始找...

2018-10-09 17:57:35 1025 1

原创用Python完整实现KNN算法

目录前言1、K-近邻算法概述2、K-近邻算法的一般流程3、具体模块实现4、附完整代码前言代码运行环境是pycharm，编译器是anaconda3，任何IDE或者编辑器都能运行此 demo，只要配置好环境即可数据集链接：https://www.manning.com/books/machine-learning-in-action sourceco...

2018-09-30 16:43:40 1238 1

Grit_007的博客