看_这是一群菜鸟-CSDN博客

原创移动端使用的卷积神经网络MobileNet

一、简介深度学习虽然在近期得到快速的发展，但是由于深度学习网络过于复杂，往往像一些知名的大型卷积神经网络的参数都会在数百M，此外深度学习需要较大的计算量，这些给深度学习在移动端的使用带来了困难。本文针对这一问题设计的MobileNet可以大大的减少网络的参数，同时能够减少网络的计算量，使网络可以适用于移动端，这也是为何称它为MobileNet的原因。二、MobileNet网络结构1、D...

2019-05-12 00:14:44 2430

一、简介注意力机制是人类视觉系统中的重要部分，人在识别物体时会自动的将注意力集中在所要识别的物体上。笔者个人认为这种注意力机制可以帮助人在识别物体时减少背景信息带来的影响，从而使人的识别能力更不易受其他干扰的影响，因此如果能使卷积神经网络也具有这种能力，就能在提高模型的识别能力的同时提高模型的鲁棒性。在本文中，作者通过同时利用特征图的通道信息及空间信息设计了一种具有注意力能力的卷积模块，使模型...

2019-03-10 17:04:48 9324 1

原创大大减少网络参数的squeezenet

一、简介近些年来深度学习在计算机视觉方面取得了突飞猛进的发展，但是目前深度学习存在着一个非常严重的问题就是模型过大，对计算资源的需求太多，所以目前深度学习在移动端的应用还比较有限。为此网络压缩成为了神经网络研究的一个重点，一般神经网络的压缩方法有对网络的裁剪、网络的量化等，而从网络的设计上来进行考虑，从根本上减少网络的冗余，也是网络压缩的重要手段，本文所介绍的squeezenet就是从这方面来...

2019-02-16 22:14:56 2044

原创基于域适应的弱监督学习的物体检测：

1、简介随着深度学习在物体检测方面的快速发展，但目前的物体检测技术主要的面向对象是真实场景下的图像，但对于像水彩画这种非真实场景下的物体检测技术来说，其一般很难获取大量的带有标注的数据集，因此问题就变得比较棘手。为解决这一问题，作者提出了基于域适应的弱监督学习策略，其可以描述为（1）、选取一个带有实例级标注的源域数据；（2）、仅有图像级标注的目标域数据；（3）、目标域数据的类别是源域数据类别的...

2018-07-17 14:08:47 2186 1

翻译 pytorch版本问题：AttributeError: 'module' object has no attribute '_rebuild_tensor_v2'

用pytorch加载训练好的模型的时候遇到了如下的问题：AttributeError: 'module' object has no attribute '_rebuild_tensor_v2'到网上查了一下是由于当前所使用的pytorch版本与之前训练模型所使用的版本不同所导致的。...

2018-07-04 14:24:23 13687 1

原创多层注意力模型：Hierarchical Attention Networks for Document Classification

1、简介

2018-05-29 21:04:10 31511 13

原创自动寻找如何共享特征层的“十字绣”网络：Cross-stitch Networks for Multi-task Learning

1、简介多任务学习是机器学习中重要的一部分，关于多任务学习的更多内容可以去看这篇文章。但是对于应用深度学习进行多任务学习会遇到一个棘手的问题，那就是我们该如何确定网络的共享部分。针对不同的任务，其最佳共享层往往存在不同，其中作者针对使用AlexNet网络分别进行图像检测、图像属性生成及图像语义分割、图像平面法向量（Surface Normal）进行多任务学习，针对两个任务，作者分别从fc8层进行共...

2018-05-26 22:13:22 3702 3

翻译分类卷积神经网络综合设计指南

前言当用CNN做图像分类时，我们该从何处入手？该使用哪个预训练网络？该如何修改它以适应你的需求？网络应该是20层还是100层？哪些是最快的？最准确的？这些都是在做图像分类任务时确定最佳CNN时所会遇到的问题。当为图像分类任务选择一个CNN时，主要考虑三个指标：准确性，速度和内存。这些指标将取决于所选择的CNN模型及你对其进行的修改。不同的网络如VGG，Inception和ResNet...

2018-05-15 22:58:08 988

原创神奇的深度迁移学习DDC：Deep Domain Confusion: Maximizing for Domain Invariance

1、简介数据样本不够怎么使用深度学习？大家第一时间想到的肯定是微调已经训练好的模型，像VGG、Inception、Resnet这样的模型，但是有时我们可能会发现，有时微调后的效果并不是很好，可能会需要微调好多层才能得到较好的效果，但是这往往需要大量的样本，但当我们仅有少量或没有带标注的数据时，我们就无法有效的通过微调网络来实现对新样本的识别。存在这一问题的主要原因是源数据与目标数据之间的分布情况不...

2018-05-10 15:09:01 13573 24

原创通过对比实现少样本或零样本学习Learning to Compare: Relation Network for Few-Shot Learning

一、简介最近偶然间看到一篇解读CVPR中Learning to Compare: Relation Network for Few-Shot Learning这篇论文（https://arxiv.org/abs/1711.06025）的文章（http://www.gzhshoulu.wang/article/1926990），感觉非常有意思。大家都知道，近年来深度学习之所以取得如此大的成功，主要在...

2018-04-24 08:29:07 22910 14

原创树卷积神经网络Tree-CNN: A Deep Convolutional Neural Network for Lifelong Learning

一、简介：学习深度学习的人都知道，深度学习有一个严重的问题——“灾难性遗忘”，即一旦使用新的数据集去训练已有的模型，该模型将会失去对原数据集识别的能力。为解决这一问题，本文作者提出了树卷积神经网络Tree-CNN，通过先将物体分为几个大类，然后再将将各个大类依次进行划分，就行树一样不断的开枝散叶，最终叶节点得到的类别就是我们最终所要识别的类别。二、网络结构及学习策略1、网络结构Tree-CNN模型...

2018-04-17 08:32:39 9501

翻译 25个常用的深度学习开源数据集

简介学习深度学习最重要的就是数据集啦。小编在刚开始学习深度学习的时候最头疼的一件事就是没有数据，徒有很多想法，但却无法实现，这里小编给大家介绍25个常用的深度学习开源数据集，这是从国外的一篇博客中看到的，参见https://www.analyticsvidhya.com/blog/2018/03/comprehensive-collection-deep-learning-datasets/。第一...

2018-04-08 10:21:51 17847 1

原创 GAIN论文解读 Tell Me Where to Look: Guided Attention Inference Network

简介这篇论文是依据Ramprasaath R. Selvaraju的Grad-CAM:Visual Explanations from Deep Networks via Gradient-based Localization的论文来写的。Grad-CAM这篇文章展示出卷积神经网络的识别方式和人的识别方式有着异曲同工之妙。如图1所示，当识别狗时，网络会将“注意力”放在狗身上，同样的当识别猫时，网络...

2018-04-02 15:28:19 7013

qq_24305433的博客