- 博客(33)
- 收藏
- 关注
RSS订阅原创 Global Sparse Momentum SGD for Pruning Very Deep Neural Networks 论文阅读笔记
Global Sparse Momentum SGD for Pruning Very Deep Neural NetworksIntroduction这篇论文来自NIPS19，虽然做的是非结构化的剪枝，但是可以直接迁移到结构化剪枝上去做。这篇paper的方法我觉得是非常简单奏效的，作者提出了将网络中的权重动态地进行分类，在一个batch的训练中，用一阶泰勒展开来判断对一个权重进行剪枝会对最终的输出造成多少影响，对这个影响进行排序，然后将整个网络中的权重进行分类，对第一类，即造成影响较大的权重，采用常规
2020-06-14 12:57:18
851
原创 COCO数据集提取特定多个类并在YOLO-V3上训练
本blog多处代码copy自https://blog.csdn.net/TYUT_xiaoming/article/details/102480016，主要记录自己实践中遇到的问题和自己的解决方案，按下面的流程走相信你能快乐地完成该任务~Step 1 PrepareYolo-v3代码fork fromhttps://github.com/eriklindernoren/PyTorch-YOLOv3Coco数据集需要自行下载Step 2 提取图片和标注信息首先运行下面的代码从原coco数据集中提取需
2020-05-22 16:01:15
2470
1
原创 Proximal Mean-field for Neural Network Quantization 论文阅读笔记
Proximal Mean-field for Neural Network Quantization1.Background Knowledge1.1 MRF optimization令F={F1,…,Fm}是一组定义在集合S上的随机变量，其中Fi代表在标签集L中的一个取值fi，Fi=fi代表取值为fi的事件，（F1=f1,…,Fm=fm）代表联合事件（joint event）。假设f={...
2019-10-29 17:18:42
290
原创 VITAL Tracker Pytorch 代码阅读笔记
VITAL Tracker Pytorch 代码阅读笔记论文链接：https://arxiv.org/pdf/1804.04273.pdf代码链接：https://github.com/abnerwang/py-Vital1.项目结构datasetsgnetg_init.pyg_pretrain.pymodelsmoduelsmodel.pysample...
2019-10-21 20:49:11
991
3
原创 BNN Pytorch代码阅读笔记
BNN Pytorch代码阅读笔记这篇博客来写一下我对BNN（二值化神经网络）pytorch代码的理解，我是第一次阅读项目代码，所以想仔细的自己写一遍，把细节理解透彻，希望也能帮到大家!论文链接：https://papers.nips.cc/paper/6573-binarized-neural-networks代码链接： https://github.com/itayhubara/Bina...
2019-10-17 21:20:50
4600
9
原创 论文阅读：Co-Evolutionary Compression for Unpaired Image Translation
论文阅读：Co-Evolutionary Compression for Unpaired Image TranslationAbstract作者提出了一种新的协同进化方法来同时减少内存使用和FLOP。在实践中，两个图像域的生成器被编码为两个群体且协同优化来迭代地研究最重要的卷积滤波器。用参数的数量、鉴别器感知正则化和循环一致性来计算每个个体的适应度。Method作者指出，传统网络压缩使用...
2019-09-30 16:04:13
793
原创 论文阅读：Channel Pruning for Accelerating Very Deep Neural Networks
论文链接代码链接(caffe)Motivation & Abstract作者指出当前的CNN加速工作分为三种：optimized implementation （直接优化？）量化（这个还没接触过，不过以后一定会钻研）structured simplification 结构简化作者的方法就属于第三种结构简化，这种方法又可以细分为三种，如下图：图c是张量分解,即将...
2019-09-22 10:08:04
215
原创 论文阅读：Designing Energy-Efficient Convolutional Neural Networks using Energy-Aware Pruning
论文链接MotivationMethodExperimentConclusion
2019-09-21 11:15:08
714
原创 论文阅读：NetworkTrimming: A Data-Driven Neuron Pruning Approach towards Efficient Deep Architectures
第一次接触这个方向，很多术语都不甚熟悉，希望大家不吝赐教~文章链接Motivation作者在对现在主流的CNN网络进行分析后，发现CNN中的很多神经元的“表现力”很弱(low activations)，这些神经元可以被剪枝，同时网络的表现能力不会被破坏，作者提出了一个可迭代的优化方法来对这些弱神经元进行剪枝，提出了一个新的参数应用于剪枝方法： Average Percentage of Zer...
2019-09-19 20:49:50
1302
原创 人工智能知识点总结
人工智能知识点总结什么是人工智能？它的研究目标是什么它是计算机科学的一个分支，是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。它的研究目标是人工智能的目标是提出建造人工智能系统的新技术、新方法和新理论,并在此基础上研制出具有智能行为的计算机系统。人工智能的研究领域主要包括？它们分别的具体研究内容是？–机器人–语言识别–图像识别–自然语言...
2019-07-12 19:36:31
9035
原创 计算机网络知识点总结
计算机网络知识点总结TCP/IP五层网络模型物理层数据链路层网络层传输层应用层TCP/IP五层网络模型物理层物理层为上层协议提供了一个传输数据的可靠的物理媒介，考虑的是如何将采集的信号转化为二进制数据，用什么介质传播。数据链路层数据链路层在物理层的基础上向网络层提供服务，要做的是如何将数据组合成数据块，在数据链路层中称为帧，帧是数据链路层的传送单位；该层的作用包括：物理地址寻址、数据的成...
2019-07-03 15:06:20
1354
原创 线性代数知识点总结
线性代数知识点总结行列式行列式和它的转置行列式相等对换行列式的两行（列），行列式变号如果行列式中有两行（列）相同或成比例，那么此行列式等于0行列式的某一行（列）中所有的元素都乘同一数k，等于用数k乘此行列式把行列式的某一行（列）的各元素乘同一数然后加到另一行（列）对应的元素上去，行列式不变行列式等于它的任一行（列）的各元素与其对应的各元素与其对应的代数余子式乘积之和行列式某一行（...
2019-07-02 17:19:25
8633
2
原创 数据结构之树
数据结构之树树的定义树的存储结构双亲表示法孩子表示法孩子兄弟表示法二叉树的定义二叉树的分类与性质分类性质二叉树的存储结构二叉树的遍历☆前序遍历中序遍历后序遍历层序遍历线索二叉树赫夫曼树平衡二叉树树的定义树（Tree）是n个节点的有限集。n=0时称为空树，在任意一棵非空树中：有且仅有一个特定的称为**根（Root）**的节点；当n > 1时，其余结点可分为m（m > 0）个...
2019-06-26 13:23:10
243
原创 数据结构之串
数据结构之串串（string）是由零个或多个字符组成的优先序列。 串同样有顺序和链式两种存储结构，在顺序存储结构中，通常用’ \0 '来表示串值的终结。串的概念很easy，这里主要记一下串的KMP模式匹配算法。这个视频讲KMP算法讲的非常好：https://www.bilibili.com/video/av47471886?from=search&seid=166271501348...
2019-06-25 16:48:31
190
原创 数据结构之栈与队列
数据结构之栈与队列栈的定义抽象数据类型栈的顺序存储结构栈的链式存储结构队列的定义抽象数据类型队列的顺序存储结构队列的链式存储结构栈的定义栈(stack)是限定仅在表尾进行插入和删除操作的线性表。 用白话说：先进后出，后进先出，谁进的晚，谁出的早。抽象数据类型ADT 栈（Stack）DataOperation： InitStack(*S); StackEmpty(S); Cl...
2019-06-24 21:55:34
327
原创 数据结构之线性表
数据结构之线性表写在前面Concept抽象数据类型顺序存储结构链式存储结构静态链表循环链表双向链表写在前面记一些数据结构复习过程中的随笔。我主要看的是程杰的大话数据结构和清华的那本数据结构。ConceptWhat is 线性表？线性表：零个或多个数据元素的有限序列。ps：这里的数据元素，可以由若干个数据项组成，例如由学生信息组成的线性表，每个学生信息结构体被认为线性表中的一个元素。抽...
2019-06-24 20:49:36
158
原创 LeetCode中级算法之动态规划
LeetCode中级算法之排序和搜索跳跃游戏不同路径零钱兑换Longest Increasing Subsequence跳跃游戏Question：给定一个非负整数数组，你最初位于数组的第一个位置。数组中的每个元素代表你在该位置可以跳跃的最大长度。判断你是否能够到达最后一个位置。示例 1:输入: [2,3,1,1,4]输出: true解释: 从位置 0 到 1 跳 1 步, 然后跳...
2019-06-22 18:21:45
189
原创 LeetCode中级算法之排序和搜索
LeetCode中级算法之排序和搜索颜色分类前K个高频元素颜色分类Question：给定一个包含红色、白色和蓝色，一共 n 个元素的数组，原地对它们进行排序，使得相同颜色的元素相邻，并按照红色、白色、蓝色顺序排列。此题中，我们使用整数 0、 1 和 2 分别表示红色、白色和蓝色。注意:不能使用代码库中的排序函数来解决这道题。示例:输入: [2,0,2,1,1,0]输出: [0,0...
2019-06-22 12:25:56
217
原创 LeetCode中级算法之设计问题
LeetCode中级算法之设计问题二叉树的序列化与反序列化Insert Delete GetRandom O(1)二叉树的序列化与反序列化Question：序列化是将一个数据结构或者对象转换为连续的比特位的操作，进而可以将转换后的数据存储在一个文件或者内存中，同时也可以通过网络传输到另一个计算机环境，采取相反方式重构得到原数据。请设计一个算法来实现二叉树的序列化与反序列化。这里不限定你的序...
2019-06-21 15:35:01
177
原创 2019Deecamp面试经验分享
Deecamp面试经验分享（2019.6.21）自我介绍一道cnn的题目解决过拟合的方法正则化图像预处理的方法算法题目：n+1的队列，n个输出，找出重复数字，要求时间复杂度O(n)，空间复杂度O(1)有什么想问的之前笔试翻车了，到现在才面试应该是后来捞上来的把23333，还是基础太薄弱，加油~...
2019-06-21 15:31:25
809
原创 LeetCode中级算法之其他
LeetCode中级算法之其他两整数之和逆波兰表达式求值求众数Task Scheduler两整数之和Question：不使用运算符 + 和 - ，计算两整数 a 、b 之和。示例 1:输入: a = 1, b = 2输出: 3示例 2:输入: a = -2, b = 3输出: 1Solution： int getSum(int a...
2019-06-20 10:41:35
267
原创 LeetCode中级算法之数学
LeetCode中级算法之数学快乐数阶乘后的零Excel表列序号Pow(x, n)☆x 的平方根两数相除分数到小数快乐数Question：编写一个算法来判断一个数是不是“快乐数”。一个“快乐数”定义为：对于一个正整数，每一次将该数替换为它每个位置上的数字的平方和，然后重复这个过程直到这个数变为 1，也可能是无限循环但始终变不到 1。如果可以变为 1，那么这个数就是快乐数。示例: 输入:...
2019-06-19 21:15:49
185
原创 LeetCode中级算法之回溯算法
LeetCode中级算法之回溯算法电话号码的字母组合生成括号全排列子集单词搜索电话号码的字母组合Question：给定一个仅包含数字 2-9 的字符串，返回所有它能表示的字母组合。给出数字到字母的映射如下（与电话按键相同）。注意 1 不对应任何字母。示例:输入："23"输出：["ad", "ae", "af", "bd", "be", "bf", "cd", "ce", "cf"]...
2019-06-19 14:23:29
382
原创 LeetCode中级算法之树和图
LeetCode中级算法之树和图中序遍历二叉树二叉树的锯齿形层次遍历从前序与中序遍历序列构造二叉树填充每个节点的下一个右侧节点指针二叉搜索树中第K小的元素岛屿数量中序遍历二叉树Question：给定一个二叉树，返回它的中序 遍历。示例:输入: [1,null,2,3] 1 \ 2 / 3输出: [1,3,2]进阶: 递归算法很简单，你可以通过迭...
2019-06-18 17:49:34
138
原创 LeetCode中级算法之链表
LeetCode中级算法之链表两数相加奇偶链表相交链表两数相加Question：给出两个 非空 的链表用来表示两个非负的整数。其中，它们各自的位数是按照 逆序 的方式存储的，并且它们的每个节点只能存储 一位 数字。如果，我们将这两个数相加起来，则会返回一个新的链表来表示它们的和。您可以假设除了数字 0 之外，这两个数都不会以 0 开头。示例： 输入：(2 -> 4 ->...
2019-06-17 15:47:20
144
原创 LeetCode中级算法之数组和字符串
LeetCode中级算法之数组和字符串三数之和矩阵置零字谜分组无重复字符的最长子串最长回文子串递增的三元子序列写在后面三数之和Question：给定一个包含 n 个整数的数组 nums，判断 nums 中是否存在三个元素 a，b，c ，使得 a + b + c = 0 ？找出所有满足条件且不重复的三元组。注意：答案中不可以包含重复的三元组。例如, 给定数组 nums = [-1, 0, ...
2019-06-17 10:41:56
228
原创 LeetCode初级算法之数学
LeetCode初级算法之数学Fizz Buzz计数质数3的幂Fizz BuzzQuestion：写一个程序，输出从 1 到 n 数字的字符串表示。1.如果 n 是3的倍数，输出“Fizz”；2. 如果 n 是5的倍数，输出“Buzz”；3.如果 n 同时是3和5的倍数，输出 “FizzBuzz”。示例：n = 15,返回:[ "1", "2", "Fi...
2019-06-15 10:04:07
198
原创 LeetCode初级算法之设计
LeetCode初级算法之设计Shuffle an Array最小栈Shuffle an ArrayQuestion：打乱一个没有重复元素的数组。示例:// 以数字集合 1, 2 和 3 初始化数组。int[] nums = {1,2,3};Solution solution = new Solution(nums);// 打乱数组 [1,2,3] 并返回结果。任何 [1,2,3]...
2019-06-14 20:22:31
134
原创 LeetCode初级算法之动态规划
[LeetCode]初级算法之动态规划爬楼梯买卖股票的最佳时机最大子序和打家劫舍写在后面爬楼梯Question：假设你正在爬楼梯。需要 n 阶你才能到达楼顶。每次你可以爬 1 或 2 个台阶。你有多少种不同的方法可以爬到楼顶呢？注意：给定 n 是一个正整数。示例 1：输入： 2输出： 2解释： 有两种方法可以爬到楼顶。1. 1 阶 + 1 阶2. 2 阶示例2：输入...
2019-06-13 22:25:30
210
原创 LeetCode初级算法之排序和搜索
[LeetCode]初级算法之排序和搜索合并两个有序数组第一个错误的版本合并两个有序数组Question:给定两个有序整数数组 nums1 和 nums2，将 nums2 合并到 nums1 中，使得 num1 成为一个有序数组。说明:初始化 nums1 和 nums2 的元素数量分别为 m 和 n。你可以假设 nums1 有足够的空间（空间大小大于或等于 m + n）来保存 nums...
2019-06-12 20:51:21
83
原创 LeetCode初级算法之树
LeetCode初级算法之树写在刚刚开始二叉树的最大深度验证二叉搜索树对称二叉树写在刚刚开始从今天开始记录一些leetcode上的刷题记录和心得，小菜鸡也有成为大牛的梦想！从初级算法的树开始，之前的就不记录了，准备一个月刷到中级算法结束，加油！！二叉树的最大深度Question: 给定一个二叉树，找出其最大深度。二叉树的深度为根节点到最远叶子节点的最长路径上的节点数。说明: 叶子节点是指...
2019-06-12 15:38:03
177
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人