weixin_39306118的博客

原创 卷积神经网络CNN中1×1卷积作用理解

https://blog.csdn.net/yaochunchu/article/details/95527760转载自 青衫憶笙

转载 深度学习基础--池化--Overlapping Pooling(重叠池化)

Overlapping Pooling(重叠池化)  alexnet中提出和使用。  相对于传统的no-overlapping pooling，采用Overlapping Pooling不仅可以提升预测精度，同时一定程度上可以减缓过拟合。  相比于正常池化（步长s=2，窗口z=2） 重叠池化(步长s=2，窗口z=3) 可以减少top-1, top-5分别为0.4% 和0.3%；重叠池化可以避...

原创 全连接层输入为什么是固定维度的（拉直/压扁Flatten成为列向量）

(转载）全连接层的计算其实相当于输入的特征图数据矩阵和全连接层权值矩阵进行内积，在配置一个网络时，全连接层的参数维度是固定的，所以两个矩阵要能够进行内积，则输入的特征图的数据矩阵维数也需要固定。全连接层需要把输入拉成一个列项向量，如下图所示： 比如你的输入的feature map是2X2，那么就需要把这个feature map 拉成4X1的列向量，如果你的feature map 的c...

转载 IDEA found duplicate code

用IDEA经常会遇到found duplicate code的问题，下面有黄线标注，严重影响强迫症患者的使用。下面就是如何取消的方法上面有搜索栏，搜可以搜到

转载 白化部分知识点

3.白化：白化的目的是去除输入数据的冗余信息。　　例如：训练数据是图像，由于图像中相邻像素之间具有很强的相关性，因此输入是冗余的。白化的目的就是降低输入的冗余性。　　输入数据集，经过白化处理后，生成的新数据集满足两个条件：一是特征相关性较低；二是特征具有相同的方差。　　白化算法的实现过程：第一步操作是PCA，求出新特征空间中的新坐标，第二步是对新的坐标进行方差归一化操作。...

转载 DL起步假设函数

https://blog.csdn.net/weixin_40166430/article/details/81211822

原创 面试问答：什么是端到端（明确端是输入端到输出端）的学习

端到端1.指的是输入是原始数据，输出是最后的结果，端到端深度学习模型在训练过程中，从输入端（输入数据）到输出端会得到一个预测结果，与真实结果相比较会得到一个误差，这个误差会在模型中的每一层传递（反向传播），每一层的表示都会根据这个误差来做调整，直到模型收敛或达到预期的效果才结束，这是端到端的。2.其次说一下非端到端的输入端不是直接的原始数据，而是在原始数据中提取的特征，这一点在图像问题上尤为突...

原创 名词解释 代价函数和损失函数

损失函数（Loss Function ）是定义在单个样本上的，算的是一个样本的误差。代价函数（Cost Function ）是定义在整个训练集上的，是所有样本误差的平均，也就是损失函数的平均。吴恩达老师为什么用代价函数一词从公式推导符号中就能看出来肯定是代价函数目标函数（Object Function）定义为：最终需要优化的函数。等于经验风险+结构风险（也就是Cost Function + 正...

转载 Sigmoid,Tanh,Relu的区别

https://www.jianshu.com/p/f86002b7fcc4 转载https://www.cnblogs.com/hutao722/p/9732223.html

转载 教你看懂各种神经网络

https://www.cnblogs.com/freebird92/p/7738601.html 转载 看吧

转载 递归的理解

相当于查字典我们可以把” 递归 “比喻成 “查字典 “，当你查一个词，发现这个词的解释中某个词仍然不懂，于是你开始查这第二个词。可惜，第二个词里仍然有不懂的词，于是查第三个词，这样查下去，直到有一个词的解释是你完全能看懂的，那么递归走到了尽头，然后你开始后退，逐个明白之前查过的每一个词，最终，你明白了最开始那个词的意思。（摘自知乎的一个回答）递归的本质是把一个大问题分成两个或者多个问题。在其...

转载 FPN特征提取器（精确度很高的模型RetinaNet的基础）附平台链接

http://www.tensorinfinity.com/paper_137.htmlhttps://www.jiqizhixin.com/articles/2017-07-25-2http://www.tensorinfinity.com/paper_148.html

原创 拔刺

图像的分类和检测（2stage)都要有标注，CNN仅仅是学到这一圈像素里有个东西，是什么label并不知道VOC2007这种人家众包早已经标好了然后我们的的检测中的ground truth就是手动标注验证集中是一定有输出的...

转载 RCNN论文训练的三种不同数据（正负样本）

转载 5月2日 RCNN训练时的边框回归详解

转载 https://blog.csdn.net/zijin0802034/article/details/77685438对于为什么要使用边框回归已抄录在电子笔记上，后面具体怎么操作的包含公式，时间很紧、暂不进行学习。...

原创 矩阵转置b.T用到的地方和一点学习体会

之前复习到的是np的数组拼接np.concatenate如果画一下两个数组，拼接的这一axis端不一致，是不能np.concatenate（a,b,axis=1)的b.T是兴许可以帮你，而且转置是行列真实的转变。目前对于各个类库的使用要更加集中在如果数据预处理部分用的到的话那就是极好的，而不是某个模型内部用的到，看懂模型的理论大于看懂模型的代码。我们可以使用开源的。那么对tensorflo...

原创 一块心结

tf内的张量(数据）需要以numpy方式来实现，它本身没有实现工具

转载 Python中的列表、元组、字典、字符串及切片操作

https://blog.csdn.net/weixin_41476978/article/details/81123607 手打笔记

原创 一文搞定置信度和置信空间

有人说95%置信区间就是这个区间有95%的概率包含真值。对吗？似乎对，其实错了！谈到置信度，必然要谈置信区间，而要说清楚置信区间，则需要理解统计学最核心的思想，即用样本估计总体！ 既然是用样本估计总体，那么上述的“真值”指的就是总体参数的真值，例如人类的平均身高（上帝知道这个值，我们不知道），而不是样本参数值，例如某一小撮人的平均身高（这个我们可以知道）。 既然是总体参数的真值，那...

转载 【深度学习】目标检测算法总结（R-CNN、Fast R-CNN、Faster R-CNN、FPN、YOLO、SSD、RetinaNet）

详细见https://www.cnblogs.com/guoyaohua/p/8994246.html这个人的其他博客也不错

转载 Pre-train 与 Fine-tuning

预训练 顾名思义就是指之前被训练好的Model, 比如很大很耗时间的model, 你又不想从头training一遍。这时候可以直接download别人训练好的model， 里面保存的都是每一层的parameter配置情况。(Caffe里对于ImageNet的一个model, 我记得是200+M的model大小)。你有了这样的model之后，可以直接拿来做testing, 前提是你的output的...

转载 交叉验证的定义

交叉验证是在机器学习建立模型和验证模型参数时常用的办法。交叉验证，顾名思义，就是重复的使用数据，把得到的样本数据进行切分，组合为不同的训练集和测试集，用训练集来训练模型，用测试集来评估模型预测的好坏。在此基础上可以得到多组不同的训练集和测试集，某次训练集中的某样本在下次可能成为测试集中的样本，即所谓“交叉”。那么什么时候才需要交叉验证呢？交叉验证用在数据不是很充足的时候。比如在我日常项目里面，对...

原创 移位符号和乘除法的关系

关系如下： a<<1 右移1位相当于a=a/2 a>>1 左移1位相当于a=a*2同理 a<<2 相当于 a =a /4 依次类推

转载 GDAL库常用函数介绍

本文转自https://blog.csdn.net/hong__fang/article/details/43529561