- 博客(48)
- 收藏
- 关注
RSS订阅
原创 Markdown学习笔记
如何更改字体大小和颜色我是黑体字 我是微软雅黑 我是华文彩云color=#0099ff size=72 face=”黑体”color=#00ffff color=gray颜色表可以查看下面的链接：颜色表对其方式居中对齐
2016-04-14 23:16:35
512
转载 欢迎使用CSDN-markdown编辑器
欢迎使用Markdown编辑器写博客本Markdown编辑器使用StackEdit修改而来，用它写博客，将会带来全新的体验哦：Markdown和扩展Markdown简洁的语法代码块高亮图片链接和图片上传LaTex数学公式UML序列图和流程图离线写博客导入导出Markdown文件丰富的快捷键快捷键加粗 Ctrl + B 斜体 Ctrl + I 引用 Ctrl
2016-04-13 21:45:56
386
原创 Pareto-Optimal Quantized ResNet Is Mostly 4-bit
论文背景文章地址代码地址amirali.abdolrashidi @email.ucr.edu,{fwanglisa, shivaniagrawal, malmaud, rybakov, cleichner, lewg} @google.com谷歌和UCR联合发表的期刊/会议: CVPR 2020AbstractIn this work, we use ResNet as acase study to systematically investigate the effect
2021-07-13 16:04:18
313
原创 Neural Network Compression Framework for fast model inference
论文背景文章地址代码地址Alexander Kozlov Ivan Lazarevich Vasily Shamporov Nikolay Lyalyushkin Yury Gorbachevintel名字看起来都是俄罗斯人期刊/会议: CVPR 2020Abstract基于pytorch框架, 可以提供quantization, sparsity, filter pruning and binarization等压缩技术. 可独立使用, 也可以与现有的training co
2021-07-08 15:45:58
249
原创 GROWING EFFICIENT DEEP NETWORKS BY STRUCTURED CONTINUOUS SPARSIFICATION
论文地址[代码地址]论文背景作者以及其机构Xin Yuan University of ChicagoPedro Savarese TTI-ChicagoMichael Maire University of Chicago期刊/会议:ICLR 2021贡献与现有的在全尺寸(或者超级网络结构)上实施的剪枝或NAS技术不同, 作者的方法可以从一个小的、简单的种子开始, 动态增长, 并且对layer和filter都进行剪枝.该方
2021-07-01 18:47:10
379
1
原创 CPT: Efficient Deep Neural Network Training via Cyclic Precision
论文地址代码地址论文背景Yonggan Fu, Han Guo, Xin Yang, Yining Ding & Yingyan Lin电子与计算机工程系, 莱斯大学Meng Li & Vikas Chandra, Facebook看起来都是中国人, 不过都是国外的大学和公司期刊/会议: 发表在ICLR 2021贡献提出了循环精度训练(CPT)，以循环改变两个边界值之间的精度，这两个边界可以在前几轮训练时, 使用简单的精度范围测试来识别.和学习率类似,
2021-06-11 17:16:01
331
1
原创 DEGREE-QUANT: QUANTIZATION-AWARE TRAINING FOR GRAPH NEURAL NETWORKS
作者背景Shyam A. Tailor 计算机科学与技术系, 剑桥大学Javier Fernandez-Marques 计算机科学系, 牛津大学Nicholas D. Lane, 计算机科学与技术系 , 剑桥大学&三星AI中心文章地址代码地址发表在ICLR 2021文章内容似乎跟我平时接触的模型不太一样, GNN不太熟, 文章主要针对GCN, GAT and GIN这几类的模型.看不懂, 算了, 下一篇...
2021-06-10 18:24:51
252
1
原创 Towards Accurate Post-training Network Quantization via Bit-Split and Stitching
自动化所的一篇文章, 文章地址, 代码地址文章主要有两个创新点将量化后的weigths进行split, 然后优化每一位bit, 使得目标函数最小, 得到每一位的bit后再将所有位的bit进行stitching在保证计算效率的前提下, 可以对Activation使用per-channel的量化, 论文中叫Error Compensated Activation Quantization(ECAQ)下面针对这两条分别说明,Bit-Split and Stitching常规的二进制, 第一位是
2021-06-09 18:07:54
569
原创 C++ round和numpy round区别
先来看numpy round:numpy round referenceFor values exactly halfway between rounded decimal values, NumPy rounds to the nearest even value. Thus 1.5 and 2.5 round to 2.0, -0.5 and 0.5 round to 0.0, etc.可以看到, numpy的round是四舍五入到最近的偶数c++ round referenceval
2021-06-07 16:40:05
500
原创 import_graph_def运行流水线
本来想看看import_graph_def能不能将某些variable改为reuse的方式，一步一步跟踪下去之后发现最终调用的是c_api里的函数，貌似是不太好修改了，浅尝辄止检查graph检查inputmap检查return elements移除未知的默认属性修正input_map获取option填充Options导入graphimport_graph_defget_registered_op...
2019-09-16 14:55:10
581
原创 keras model save and restore
Keras save and restore基于tensorflow 1.9版本，工作中发现keras保存的ckpt内的key和estimator，slim等保存的不一样。keras使用的是object-based ckpt，而estimator等使用的是name-based ckpt存储方式。object-based方式会在名字中加入该节点的依赖项，使用ckpt中的key和graph中的nod...
2019-08-27 17:51:24
415
原创 import_meta_graph 和 replicate_model_fn
replicate_model_fn现在已被弃用，但是项目中的代码还是用到了这个函数目前的项目需要用import_meta_graph的方式进行建图，然后finetune问题出现了，在restore的时候会产生错误Key tower_1/ssd1200/additional_layers/conv10/conv10_1/bias not found in checkpoint这是因为rep...
2019-08-27 14:28:11
649
原创 tmux ：cannot create socket no such a file or directory
换机器时容易出现先用strace -f -e trace=file tmux命令查看哪个文件夹出错，然后看看是否存在如果存在就删除，如果不存在就新建一个，接着再运行tmux，这时错误就变成cannot create socket:Permission denied 接着染出这个目录就可以了...
2019-08-27 11:28:40
1117
原创 conda create -n name_of_virtualenv python=3.6 --offline
当使用offline新建虚拟环境时，没有自己安装pip，又因为新建的虚拟环境可以访问外部的bin，所以在进去虚拟环境后的pip还是环境外的pip，建议先用which pip查看一下是哪个pip，如果是外部的需要自己下载安装包在虚拟环境内安装一个pip，接着再安装自己的包，配置环境...
2019-08-27 11:23:25
1887
原创 ERROR: XXXXX.whl is not a supported wheel on this platform
这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入欢迎使用Ma...
2019-08-27 11:11:13
700
原创 cs231n：assignment2——python文件：cnn.py
视频里 Andrej Karpathy上课的时候说,这次的作业meaty but educational,确实很meaty,作业一般是由.ipynb文件和.py文件组成,这次因为每个.ipynb文件涉及到的.py文件较多,且互相之间有交叉,所以每篇博客只贴出一个.ipynb或者一个.py文件.(因为之前的作业由于是一个.ipynb文件对应一个.py文件,所以就整合到一篇博客里) 还是那句话,有错
2016-12-29 20:56:54
1698
5
原创 cs231n：assignment2——python文件：optim.py
视频里 Andrej Karpathy上课的时候说,这次的作业meaty but educational,确实很meaty,作业一般是由.ipynb文件和.py文件组成,这次因为每个.ipynb文件涉及到的.py文件较多,且互相之间有交叉,所以每篇博客只贴出一个.ipynb或者一个.py文件.(因为之前的作业由于是一个.ipynb文件对应一个.py文件,所以就整合到一篇博客里) 还是那句话,有错
2016-12-29 20:55:13
1534
原创 cs231n：assignment2——python文件：fc_net.py
视频里 Andrej Karpathy上课的时候说,这次的作业meaty but educational,确实很meaty,作业一般是由.ipynb文件和.py文件组成,这次因为每个.ipynb文件涉及到的.py文件较多,且互相之间有交叉,所以每篇博客只贴出一个.ipynb或者一个.py文件.(因为之前的作业由于是一个.ipynb文件对应一个.py文件,所以就整合到一篇博客里) 还是那句话,有错
2016-12-29 20:53:19
3816
原创 cs231n：assignment2——python文件：layer_utils.py
视频里 Andrej Karpathy上课的时候说,这次的作业meaty but educational,确实很meaty,作业一般是由.ipynb文件和.py文件组成,这次因为每个.ipynb文件涉及到的.py文件较多,且互相之间有交叉,所以每篇博客只贴出一个.ipynb或者一个.py文件.(因为之前的作业由于是一个.ipynb文件对应一个.py文件,所以就整合到一篇博客里) 还是那句话,有错
2016-12-29 20:46:50
1764
原创 cs231n：assignment2——python文件：layers.py
视频里 Andrej Karpathy上课的时候说,这次的作业meaty but educational,确实很meaty,作业一般是由.ipynb文件和.py文件组成,这次因为每个.ipynb文件涉及到的.py文件较多,且互相之间有交叉,所以每篇博客只贴出一个.ipynb或者一个.py文件.(因为之前的作业由于是一个.ipynb文件对应一个.py文件,所以就整合到一篇博客里) 还是那句话,有错
2016-12-29 20:45:08
2657
原创 cs231n：assignment2——Q4: ConvNet on CIFAR-10
视频里 Andrej Karpathy上课的时候说,这次的作业meaty but educational,确实很meaty,作业一般是由.ipynb文件和.py文件组成,这次因为每个.ipynb文件涉及到的.py文件较多,且互相之间有交叉,所以每篇博客只贴出一个.ipynb或者一个.py文件.(因为之前的作业由于是一个.ipynb文件对应一个.py文件,所以就整合到一篇博客里) 还是那句话,有错
2016-12-29 20:18:14
5375
3
原创 cs231n：assignment2——Q3: Dropout
视频里 Andrej Karpathy上课的时候说,这次的作业meaty but educational,确实很meaty,作业一般是由.ipynb文件和.py文件组成,这次因为每个.ipynb文件涉及到的.py文件较多,且互相之间有交叉,所以每篇博客只贴出一个.ipynb或者一个.py文件.(因为之前的作业由于是一个.ipynb文件对应一个.py文件,所以就整合到一篇博客里) 还是那句话,有错误
2016-12-23 15:42:01
2573
原创 cs231n：assignment2——Q2: Batch Normalization
视频里 Andrej Karpathy上课的时候说,这次的作业meaty but educational,确实很meaty,作业一般是由.ipynb文件和.py文件组成,这次因为每个.ipynb文件涉及到的.py文件较多,且互相之间有交叉,所以每篇博客只贴出一个.ipynb或者一个.py文件.(因为之前的作业由于是一个.ipynb文件对应一个.py文件,所以就整合到一篇博客里) 还是那句话,有错误
2016-12-23 15:38:48
5361
原创 cs231n：assignment2——Q1: Fully-connected Neural Network
视频里 Andrej Karpathy上课的时候说,这次的作业meaty but educational,确实很meaty,作业一般是由.ipynb文件和.py文件组成,这次因为每个.ipynb文件涉及到的.py文件较多,且互相之间有交叉,所以每篇博客只贴出一个.ipynb或者一个.py文件.(因为之前的作业由于是一个.ipynb文件对应一个.py文件,所以就整合到一篇博客里) 还是那句话,有错误
2016-12-23 14:36:47
7830
原创 cs231n：assignment1——Q5: Higher Level Representations: Image Features
自己写的cs231n的作业,希望给点意见,支出错误和不足.谢谢 featuresipynb内容Image features exerciseLoad dataExtract FeaturesTrain SVM on featuresInline question 1Neural Network on image featuresBonus Design your own feature
2016-12-05 17:34:21
4344
原创 cs231n：assignment1——Q4: Two-Layer Neural Network
自己写的cs231n的作业,希望给点意见,支出错误和不足.谢谢 参数调了好久,貌似也没什么太好的头绪,有一次调到57+%,当时没记参数,后来调不会来了two_layer_net.ipynb内容:Implementing a Neural NetworkIn this exercise we will develop a neural network with fully-connected lay
2016-12-05 15:24:14
7924
原创 cs231n：assignment1——Q3: Implement a Softmax classifier
Jupyter notebook softmaxipynb 内容Softmax exerciseSoftmax ClassifierInline Question 1softmaxpy 内容linear_classifierpy 内容Jupyter notebook softmax.ipynb 内容:Softmax exerciseComplete and hand in this
2016-11-25 12:14:57
3491
2
原创 cs231n：assignment1——Q2: Training a Support Vector Machine
作业文件地址下载（添加百度云链接） 作业一其他问题：（添加其他问题的博客地址）Training a Support Vector Machine（添加地址）Implement a Softmax classifier （添加地址）Two-Layer Neural Network （添加地址）Higher Level Representations: Image Features（添加地址）
2016-11-13 21:45:38
4253
原创 cs231n：assignment1——Q1: k-Nearest Neighbor classifier（自动生成版）
作业文件地址下载（添加百度云链接） 作业一其他问题：（添加其他问题的博客地址）Training a Support Vector Machine（添加地址）Implement a Softmax classifier （添加地址）Two-Layer Neural Network （添加地址）Higher Level Representations: Image Features（添加地址）
2016-11-13 21:33:18
4306
原创 cs231n——assignment1： Q1: k-Nearest Neighbor classifier（手动复制版）
作业文件地址下载（添加百度云链接） 作业一其他问题：（添加其他问题的博客地址）Training a Support Vector Machine（添加地址）Implement a Softmax classifier （添加地址）Two-Layer Neural Network （添加地址）Higher Level Representations: Image Features（添加地址）
2016-11-13 21:26:49
1792
1
原创 BP反向传播算法
前言：本来想把自己报告的ppt写成博客，后来公式打起来太麻烦了，不想再敲第二遍了。可以看斯坦福cs231n的课程，因为我发现很多人的博客的图和公式直接是截的那边的图。youtube上没有英文字幕，但是youtube会提供自动生成英文字幕，我的英文水平比较渣，有英文字幕还是听不懂，后来发现在网页上可以用0.5倍的速度观看。这个时候还可以。正文：BP反向传播算法明白了之后其实是比较简单，现在想想一开始阻
2016-10-30 18:14:51
2024
原创 leetcode--278. First Bad Version
题目：278 First Bad Version：You are a product manager and currently leading a team to develop a new product. Unfortunately, the latest version of your product fails the quality check. Since each version
2016-10-30 17:14:41
297
原创 leetcode--344.Reverse String
344.Reverse StringPython实现class Solution(object): def reverseString(self, s): """ :type s: str :rtype: str """ l = len(s) r = range(l) for i
2016-10-30 16:54:50
302
转载 欢迎使用CSDN-markdown编辑器
看《机器学习实战》中的第六章SVM，编程时array和matrix的乘法看的有点混乱，找到一篇博客觉得写的还比较清楚————转载自nex3z’s blogNumPy中array和matrix用于矩阵乘法时的区别在NumPy中，array用于表示通用的N维数组，matrix则特定用于线性代数计算。array和matrix都可以用来表示矩阵，二者在进行乘法操作时，有一些不同之处。 用array时，运算
2016-07-25 11:13:24
272
原创 基于非参数核密度估计的行人分割
这是模式识别的一个实验，参考文献是： [1] L. Zhao, L.S. Davis, “Iterative figure-ground discrimination,” 17th International Conference on Pattern Recognition (ICPR), vol. 1, pp. 67-70, 2004. [2] Automatic Pedestri
2016-06-01 21:50:49
1807
17
原创 python+opencv实现霍夫变换检测直线
python+opencv实现高斯平滑滤波 python+opencv实现阈值分割（2016-5-10）到OpenCV-Python Tutorials’s documentation可以下载功能：创建一个滑动条来控制检测直线的长度阈值，即大于该阈值的检测出来，小于该阈值的忽略 注意：这里用的函数是HoughLinesP而不是HoughLines，因为HoughLinesP直接给出了直线的断点，
2016-05-10 11:16:05
10026
4
原创 python+opencv实现高斯平滑滤波
功能：创建两个滑动条来分别控制高斯核的size和σ\sigma的大小，这个程序是在阈值分割的那个程序上改动的。阈值分割程序在这 注意：由于σ=0\sigma=0时，opencv会根据窗口大小计算出σ\sigma，所以，从0滑动σ\sigma的滑动条时，会出现先边清晰又变模糊的现象代码：# -*- coding: utf-8 -*- import cv2#两个回调函数def GaussianBlu
2016-05-09 19:08:39
13752
原创 python+opencv实现阈值分割
最近老师留了几个作业，虽然用opencv很简单一句话就出来了，但是还没用python写过。在官方文档中的tutorial中的threshold里，看到可以创建两个滑动条来选择type和value，决定用python实现一下 注意python中的全局变量，用global声明 开始出现了一些问题，因为毁掉函数每次只能传回一个值，所以每次只能更新value，后来就弄了两个毁掉函数，这个时候，又出现了滑
2016-05-08 17:57:30
7001
原创 《机器学习实战》学习笔记——第3章 决策树
程序清单3-3中有一句featList = [example[i] for example in dataSet]乍一看觉得困惑，但是又大概知道它要做什么，前几天查资料的时候好像有碰到for的这个用法。 感觉上面那句是下面这句的简写for example in dataSet: featList.append(example[i])测试：>>> dataSet = [[1, 'a', 'y
2016-05-01 19:51:55
438
原创 《机器学习实战》学习笔记——kNN
原始代码：程序清单0：from numpy import *import operatordef createDataSet(): group = array([[1.0, 1.1], [1.0, 1.0], [0, 0], [0, 0.1]]) labels = ['A', 'A', 'B', 'B'] return group, labels
2016-04-19 17:41:36
427
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人