行云

原创 全文翻译【YOLOv7: Trainable bag-of-freebies sets new state-of-the-art for real-time object detectors】

YOLOv7在5FPS到 160 FPS 范围内的速度和准确度都超过了所有已知的物体检测器，YOLOv7 在 5 FPS 到 160 FPS 范围内的速度和准确度都超过了所有已知的目标检测器，并且在 GPU V100 上 30 FPS 或更高的所有已知实时目标检测器中具有最高的准确度 56.8% AP。YOLOv7-E6 目标检测器（56 FPS V100，55.9% AP）比基于transformer-based的检测器 SWINL Cascade-Mask R-CNN（9.2 FPS A100，53.9

原创 YOLOV6训练自己的数据集

YOLOV6

原创 全文翻译【Scaled-YOLOv4: Scaling Cross Stage Partial Netw】

Abstract我们展示了基于CSP方法的YOLOv4对象检测神经网络，可以向上和向下缩放，并且适用于小型和大型网络，同时保持最佳速度和准确性。我们提出了一种网络缩放方法，该方法不仅可以修改深度，宽度，分辨率，还可以修改网络的结构。YOLOv4-large模型达到了最先进的结果：在Tesla V100上以15 FPS的速度为MS COCO数据集提供55.4％的AP（73.3％AP50），而随着测试时间的增加，YOLOv4-large的AP达到了55.8％（73.2 AP50）。据我们所知，这是目前所有已

原创 Pytorch 版YOLOV5训练自己的数据集

我们曾经梦寐以求的权利，白嫖的权利：1、环境搭建https://github.com/ultralytics/yolov52、安装需要的软件 pip install -U -r requirements.txt3、准备数据在data文件下建立上面三个文件（Annotations、images与ImageSets，labels后续我们脚本生成）其中Annotations存放xml文件，images图像，ImageSets新建Main文件存放train与test文件（脚本生成），

原创 【全文翻译】YOLOv4：目标检测的最佳速度和准确性

摘要 有许多功能可以提高卷积神经网络（CNN）的准确性。需要在大型数据集上对这些特征的组合进行实际测试，并对结果进行理论证明。一些功能仅在某些模型上运行，并且仅在某些问题上运行，或者仅在小规模数据集上运行； 而某些功能（例如批归一化和残差连接）适用于大多数模型，任务和数据集。我们假设此类通用功能包括加权残差连接（WRC），跨阶段部分连接（CSP），跨小批量标准化（CmBN），自...

原创 YOLOV3损失函数

该损失函数是根据源码进行写的，与keras、pytorch等版本的V3损失函数不相同，欢迎各位小伙伴一起讨论交流：第一项xy的坐标损失也乘(2-w*h) 提升针对小物体的小技巧：针对YOLOv3来说，regression损失会乘一个（2-w*h）的比例系数，w 和 h 分别是ground truth 的宽和高。如果不减去 w*h，AP 会有一个明显下降。如果继...

原创 Pytorch 版YOLOV3训练自己的数据集

数据是深度学习的灵魂所在，默认你已经准备好数据，哈哈1、环境搭建git clone https://github.com/ultralytics/yolov3.git2、安装需要的软件pip install -r requirements.txt3、准备数据在data文件下建立上面三个文件（Annotations、images与ImageSets，lab...

原创 Maskrcnn-benchmark 训练过程中使用TensorBoard

继续上篇改的代码有点多,不足之处大佬指出运行命令：pythontools/train_net.py--use-tensorboard--config-fileexperiments/cfgs/e2e_faster_rcnn_R_50_FPN_1x.yaml1、修改maskrcnn_benchmark/config/defaults.py在最后添加_C.TENSO...

原创 MaskRCNN-Benchmark训练自己的数据集

这篇文章主要介绍记录使用Maskrcnn-Benchmark（连接官网）的训练自己的数据的心得，还算比较顺利。有问题，希望大佬指出，共同进步1、安装$ conda create --name maskrcnn_benchmark$ source activate maskrcnn_benchmark# this installs the right pip and dependen...

转载 YOLOv6：又快又准的目标检测框架开源

YOLOv6 是美团视觉智能部研发的一款目标检测框架，致力于工业应用。本框架同时专注于检测的精度和推理效率，在工业界常用的尺寸模型中：YOLOv6-nano 在 COCO 上精度可达 35.0% AP，在 T4 上推理速度可达 1242 FPS；YOLOv6-s 在 COCO 上精度可达 43.1% AP，在 T4 上推理速度可达 520 FPS。在部署方面，YOLOv6 支持 GPU（TensorRT）、CPU（OPENVINO）、ARM（MNN、TNN、NCNN）等不同平台的部署，极大地简化工程部署时的

转载 深度学习模型大小与模型推理速度的探讨

0、前言当年头一次实习做算法的时候，主管给的第一个任务就是“把一个大的分割模型砍成一个小的”。当时并不理解模型“大”、“小”的真正含义，就简单的选取计算量作为评价指标，疯狂砍计算量（backbone 换 MobileNet/ShuffleNet、Conv 换成 DepthWise Conv、以及一些奇奇怪怪的融合结构等等），把模型计算量砍了将近 10 倍，结果一部署发现速度并没有快多少，反而是把最初的 ResNet 简单砍掉几个 block 效果更好。也是从那时起接触了访存量、流水线、RoofL

原创 Kaggle竞赛优胜解决方案、思路大合集

连接：https://farid.one/kaggle-solutions/

原创 深度学习中的遥感影像数据集

https://mp.weixin.qq.com/s/5b5c0KSikYm6fYVXp2IkEA

转载 如何阅读一个前向推理框架？以NCNN为例

0x00. 想法来源CNN从15年的ResNet在ImageNet比赛中大放异彩，到今天各种层出不穷的网络结构被提出以解决生活中碰到的各种问题。然而，在CNN长期发展过程中，也伴随着很多的挑战，比如如何调整算法使得在特定场景或者说数据集上取得最好的精度，如何将学术界出色的算法落地到工业界，如何设计出在边缘端或者有限硬件条件下的定制化CNN等。前两天看到腾讯优图的文章：腾讯优图开源这三年，里面提到了NCNN背后的故事，十分感动和佩服，然后我也是白嫖了很多NCNN的算法实现以及一些调优技巧。所以为了让很多.

转载 CNN：我不是你想的那样

摘要每当我们训练完一个CNN模型进行推理时候，一旦出现人类无法解释的现象就立刻指责CNN垃圾，说这都学不会？其实你可能冤枉它了，而本文试图为它进行辩护。本文是CVPR2020 Oral论文，核心是从数据高低频分布上探讨CNN泛化能力，其注意到CNN具备捕获人类无法感知的高频成分能力，而这个现象可以用于解释多种人类无法理解的假设，例如泛化能力、对抗样本鲁棒性等。本文其实没有提出一个具体的解决办法，主要是通过CNN能够捕获人类无法感知的高频成分这一现象而对所提假设进行分析。我个人觉得本文..

转载 超轻量目标检测模型NanoDet

华为P30上用NCNN移植跑benchmark，每帧仅需10.23毫秒，比yolov4-tiny快3倍，参数量小6倍，COCO mAP(0.5:0.95)能够达到20.6 。而且模型权重文件只有1.8mb，对比动辄数十兆的模型，可以说是相当友好了~Android Demo项目地址（提供训练代码到安卓部署一站式解决方案）：RangiLyu/nanodet: ⚡Super fast and lightweight anchor-free object detection model. Onl..

原创 使用深度学习从视频中估计车辆的速度

车速预测代码：https://github.com/SharifElfouly/vehicle-speed-estimation我想要解决的问题是：在一辆车里有一个摄像头，我想知道车开得有多快。你显然不能看速度表，只能看视频片段本身。深度学习魔法应该能帮助我们。...

转载 模型压缩之网络剪枝（Network Pruning）篇

1. 背景今天，深度学习已成为机器学习中最主流的分支之一。它的广泛应用不计其数，无需多言。但众所周知深度神经网络（DNN）有个很大的缺点就是计算量太大。这很大程度上阻碍了基于深度学习方法的产品化，尤其是在一些边缘设备上。因为边缘设备大多不是为计算密集任务设计的，如果简单部署上去则功耗、时延等都会成为问题。即使是在服务端，更多的计算也会直接导致成本的增加。人们正在从各个角度试图克服这个问题，如这几年如火如荼的各处神经网络芯片，其思路是对于给定的计算任务用专用硬件加速。而另一个思路是考虑模型中的计算是不是都

转载 Pytorch的nn.DataParallel

公司配备多卡的GPU服务器，当我们在上面跑程序的时候，当迭代次数或者epoch足够大的时候，我们通常会使用nn.DataParallel函数来用多个GPU来加速训练。一般我们会在代码中加入以下这句：device_ids = [0, 1]net = torch.nn.DataParallel(net, device_ids=device_ids)似乎只要加上这一行代码，你在ternimal下执行watch -n 1 nvidia-smi后会发现确实会使用多个GPU来并行训练。但是细心点会发现其实第

转载 PyTorch trick 集锦

转载一篇知乎大佬写的：目录：指定GPU编号 查看模型每层输出详情 梯度裁剪 扩展单张图片维度 one hot编码 防止验证模型时爆显存 学习率衰减 冻结某些层的参数 对不同层使用不同学习率 模型相关操作 Pytorch内置one hot函数 网络参数初始化（小学生补充） 加载内置预训练模型...

原创 YOLOv5的模型结构

参考链接：https://github.com/ultralytics/yolov5/issues/280

原创 docker 常用的命令

docker ps // 查看所有正在运行容器 docker stop containerId // containerId 是容器的ID docker ps -a // 查看所有容器 docker ps -a -q // 查看所有容器ID docker start $(docker ps -a -q) // start启动所有停止的容器 docker stop $(docker ps -a -q) // stop停止所有容器 docker rm $(docker ps -a -q) /..

原创 解决github图片不显示问题

window系统打开路径C:\Windows\System32\drivers\etc下的hosts文件，后面加上：# GitHub Start 192.30.253.112 github.com 192.30.253.119 gist.github.com151.101.184.133 assets-cdn.github.com151.101.184.133 raw.githubusercontent.com151.101.184.133 gist.githu

原创 激活函数总结

原创 YOLOV4涉及的知识点总结

该图来自微信公众号：GiantPandaCV

转载 超参数调试与BN(Batch Norm)

1. 深度学习中的超参数深度学习最难之一的问题，也是被许多人不喜的愿意就是超参数，深度学习中有许多超参数，例如常见的学习率、隐藏层的数量、优化算法中的超参数等等。这些超参数往往没有一个固定的比较好的值，在不同的领域、不同的场景、甚至是硬件条件不变，最适合的超参数也在变化，因此，想要掌握深度学习，超参数是不得不面对的一件事。那么超参数那么多，到底怎样选取合适的值呢？我们首先根据大多数人的...

原创 【论文解读】：数据增强

论文地址：https://arxiv.org/abs/1905.04899v21.数据增强的区别:Mixup,Cutout,CutMixMixup:将随机的两张样本按比例混合，分类的结果按比例分配； Cutout:随机的将样本中的部分区域cut掉，并且填充0像素值，分类的结果不变； CutMix:就是将一部分区域cut掉但不填充0像素而是随机填充训练集中的其他数据的区域像素值，分类结果...

原创 【CVPR2020】Designing Network Design Spaces

论文地址：https://arxiv.org/pdf/2003.13678.pdf Abstract 在这项工作中，我们提出了一个新的网络设计范例。我们的目标是帮助提高对网络设计的理解，并发现跨领域（settings）的通用设计原则。我们不是专注于设计单个网络实例，而是设...

原创 git常用命令速查表

原创 Mish激活函数

Diganta Misra的一篇题为“Mish: A Self Regularized Non-Monotonic Neural Activation Function”的新论文介绍了一个新的深度学习激活函数，该函数在最终准确度上比Swish(+.494%)和ReLU(+ 1.671%)都有提高地址：https://github.com/digantamisra98/Mish...

原创 VS2017官方下载路径

官网都是指定最新版本的VS:踩个脚印：https://docs.microsoft.com/en-us/visualstudio/releasenotes/vs2017-relnotes

原创 【论文解读】Deconvolution and Checkerboard Artifacts

今天看到了一篇2016的论文，关键是可以视化卷积操作,地址如下：https://distill.pub/2016/deconv-checkerboard/ 当我们非常仔细地观察由神经网络生成的图像时，经常会看到一种奇怪的棋盘状伪像图案。在某些情况下，这种情况比在其他情况下更为明显，但是最近的模型中有很大一部分都表现出了这种行为。 非常神奇的地方，棋盘格图...

原创 [论文]MixNet——MixConv: Mixed Depthwise Convolutional Kernels

arXiv地址：https://arxiv.org/abs/1907.09595abstract 深度卷积在现代高效卷积神经网络中越来越受欢迎，但其核大小却常常被忽略。在本文中，我们系统地研究了不同核大小的影响，并观察到将不同尺寸核的优点结合起来可以获得更好的精度和效率。在此基础上，我们提出了一种新的混合深度卷积（MixConv），它很自然地将多个核大小混合在一个卷积中。我们的Mix...

原创 【pytorch】基于Apex的混合精度加速

双倍训练速度，双倍的快乐，简单记录Nvidia开发的基于PyTorch的混合精度训练加速神器--Apex，可以用短短三行代码就能实现不同程度的混合精度加速，训练时间直接缩小一半三行代码搞定：from apex import ampmodel, optimizer = amp.initialize(model, optimizer, opt_level="O1") # 这里是“欧...

原创 github打开慢，甚至打不开

Windows系统hosts文件的路径：“C:\Windows\System32\drivers\etc\hosts”hosts添加：192.30.253.112 github.com 192.30.253.119 gist.github.com 151.101.100.133 assets-cdn.github.com 151.101.100.133 raw.githubuser...

原创 INT8量化总结

原创 [论文解读]Gaussian YOLOv3: An Accurate and Fast Object Detector Using Localization Uncertainty

题目：Gaussian YOLOv3: An Accurate and Fast Object Detector Using Localization Uncertainty作者：Jiwoong Choi , Dayoung Chun, Hyun Kim , Hyuk-Jae Leegithud：https://github.com/jwchoi384/Gaussian_YOLOv3 ...

原创 Batch Size大小对训练过程的影响

现在绝大多数的框架在进行mini-batch的反向传播的时候，默认都是将batch中每个instance的loss平均化之后在进行反向传播，所以相对大一点的batch size能够防止loss震荡的情况发生。从这两张图中可以看出batch size越小，相邻iter之间的loss震荡就越厉害，相应的，反传回去的梯度的变化也就越大，也就越不利于收敛。同时很有意思的一个现象，batch si...

转载 Warmup Learning

Warmup学习率并不是一个新颖的东西， 在很多task上面都被证明是有效的，标准Baseline使用是的常见阶梯下降型学习率，初始学习率为3.5e-4，总共训,120个epoch，在第40和70个epoch进行学习率下降。用一个很大的学习率初始化网路可能使得网络震荡到一个次优空间，因为网络初期的梯度是很大的。Warmup的策略就是初期用一个逐渐递增的学习率去初始化网络，渐渐初始化到...

原创 Linux几种常用命令

最近脑子不好用，记录下：cd .. 返回上一级目录 cd ../.. 返回上两级目录 cd 进入个人的主目录 cd ~user1 进入个人的主目录 cd - 返回上次所在的目录 ...