鹊踏枝-码农-CSDN博客

原创 LaTex为字母添加圆圈

【代码】LaTex为字母添加圆圈。

2023-04-06 09:58:00 3589 2

原创 2022年11月100篇 diffusion models 扩散模型汇总！

2022年11月100篇 diffusion models 扩散模型汇总！

2022-12-09 10:47:17 2234

原创检查软件依赖项-How to Check for Software Dependencies

我们在编写完源码，生成exe文件后（这里特指windows系统），我们要发布我们的文件供别人下载安装。而在发布我们的软件或制作安装包的时候，需要检查软件所需要的依赖项，如dll文件等。那么该如何检查软件依赖项呢？这有具体的软件可以完成这件事，具体推荐三个工具：1. 微软Visual Studio自带的dumpbin.exe。该工具在VS的安装路径下，一般在：VC\bin\dumpbin.exe这个工具需要从VS命令行打开，即从cmd命令行定位到dumpbin.exe所在路径即可。使用示例如下：具体可参

2022-06-08 10:36:58 1035 1

原创 Matlab画图设置指数坐标

这个分两种情况：第一种，纵轴已经显示为指数刻度，只是想改变这个指数，如由10^3改为10^6，可如下设置：参考：How do I change the yaxis exponent when using a double y-axis plot?第二种，纵轴并没有显示为指数刻度，需要把它显示为指数刻度，如下设置：参考：Formatting y axis to exponential format如上可以看出，两种情况有些许差别。

2022-06-02 15:30:51 7023

原创特效制作软件AE(After Effects)插件安装

特效制作软件AE(After Effects)插件下载及安装地址：大众脸：https://www.lookae.com/

2021-03-02 17:14:50 784

原创 Few-shot learning经典算法之PyTorch实现

最近也在学习Few-shot learning，用Few-shot learning方法作图像分类，下面对Few-shot learning经典算法及其PyTorch实现作一下梳理：MAML：Model-Agnostic Meta-Learning for Fast Adaptation of Deep NetworksPyTorch code:1.https://github.com/dragen1860/MAML-Pytorch2.https://github.com/katerak..

2020-10-12 10:52:03 4143

原创 Python读取txt、csv等文件出现\ufeff、\u202a等非法字符解决方法

在利用Python读取txt、csv等文件时，有时会出现\ufeff、\u202a等非法字符，其若出现在解析文件路径中，如txt文件中为文件路径的话，通常会出现如下错误：“OSError: [WinError 123] 文件名、目录名或卷标语法不正确”，不注意非法字符的话，很难解决。下面给出两种具体的解决方法，如下：1. 将要读取的文件的编码方式由“UTF-8”改为“UTF-8-sig”，示例代码如下：with open('keywords.txt',mode="r", encoding='u

2020-07-02 22:03:16 2987 1

原创 PyTorch之利用预训练模型进行Fine-tuning教程

在Deep Learning领域，很多子领域的应用，比如一些动物识别，食物的识别等，公开的可用的数据库相对于ImageNet等数据库而言，其规模太小了，无法利用深度网络模型直接train from scratch，这时就需要把一些在大规模数据库上已经训练完成的模型拿过来，在目标数据库上直接进行Fine-tuning（微调），这个已经经过训练的模型对于目标数据集而言，只是一种相对较好的参数初始化方法...

2020-04-12 17:36:34 3457 1

原创 win10文件夹显示需要管理员权限才能删除怎么办

win10文件夹显示需要管理员权限才能删除怎么办？解决办法如下：按下键盘上的组合键win+R，在弹出的运行对话框中输入gpedit.msc，点击确定或按下Enter键，然后按下图所示操作：将红框中的两项设置为启用即可，然后重启机器才能生效。这时再去删除文件夹可以愉快地删除啦。...

2020-04-12 15:46:34 4964

原创关于Visio画图与GSview转换为eps格式图片问题

在使用Visio画图时，如果画的图比较大，比如超过A4纸的大小时，会显示明显的分页符，并且在将visio画图保存为图片时会显示不全。解决的方法为在Visio菜单栏中的【设计】-->【大小】可以设置合适的纸张大小，如A0等，此时保存为图片时便可以显示全部图形，具体如下图所示：在将Visio画图通过打印到文件保存为.ps格式文件之后，利用GSview将.ps文件转换为eps文件时，如果图...

2020-03-21 17:23:52 1700

原创 Learning to Compare: Relation Network for Few-Shot Learning source code

Paper下载地址：Learning to Compare: Relation Network for Few-Shot Learning原代码是基于如下的要求实现的：# RequirementsPython 2.7Pytorch 0.3，现已经更改为支持：# RequirementsPython 3.xPytorch 1.x代码下载地址（百度云）：链接：h...

2019-12-01 21:31:06 603 14

原创 PyTorch利用多GPU训练深度学习网络

PyTorch深度学习框架可以利用GPU加速网络训练，网络太深，参数太多的话，很可能在利用GPU训练网络的时候导致GPU显存不够，无法继续训练。GPU的显存大小几乎与其价格成正比，显存越大，也就越贵。但是为了利用GPU训练深度学习网络模型，可能需要大显存的显卡，比如直接买一个1080ti，显存为11G，但是也可以退而求其次，买两个1070ti，总显存为16G，似乎更划算。那么，单机多卡（一台机器配...

2019-11-28 16:18:36 2061

原创 PyTorch权重初始化的几种方法

PyTorch在自定义变量及其初始化方法：self.fuse_weight_1 = torch.nn.Parameter(torch.FloatTensor(1), requires_grad=True)self.fuse_weight_1.data.fill_(0.25)如上是定义一个可学习的标量。也可以定义一个可学习的矩阵：self.fuse_weight_1 = torch...

2019-11-28 15:36:28 9375

原创关于650w电源能否带动两个GTX 1070ti显卡

首先说一下本人的机器配置: i7 8700 + GTX AORUS小雕 1070ti，主板为技嘉 Z370 HD3，可以安装三个显卡。电源为振华Leadex G650 650w。现在想加装一个GTX AORUS小雕 1070ti显卡，组成SLI。具体记录一下加装过程遇到的问题。1. 加了一个GTX AORUS小雕 1070ti后，现在机器上有两个GTX AORUS小雕 1070ti，启动机器，...

2019-11-28 11:46:51 4421

原创 PyTorch自定义激活函数和为激活函数添加可学习的参数

在深度学习框架PyTorch中已经内置了很多激活函数，如ReLU等，但是有时根据个人需要，需要自定义激活函数，甚至需要为激活函数添加可学习的参数，如PReLU，具体参见PyTorch官方激活函数源码实现。对于不需要可学习参数的激活函数的实现，比较简单，具体见PyTorch官方教程的一个例子（所用PyTorch版本为1.2）：# Inherit from Functionclass Li...

2019-10-30 11:14:44 12009 1

原创关于Python下空列表，空元组，空字符串，空字典的判断

在Python中，一个空列表，空元组，空字符串，空字典的布尔值为False，但是不是None，具体如下所示：如上所示，Python中判断一个列表是否为空，切不可用是否None来判断，而应该直接判断，如if a，如果a为空列表，则不成立，否则判断条件为真。如果您觉得我的文章对您有所帮助，欢迎扫码进行赞赏！...

2019-09-30 19:37:26 4716

原创在PyTorch中为可学习参数施加约束或正则项的方法

根据不同的需求，在PyTorch中有时需要为模型的可学习参数施加自定义的约束或正则项（regular term），下面具体介绍在PyTorch中为可学习参数施加约束或正则项的方法，先看一下为损失函数（Loss function）施加正则项的具体形式，如下为L2正则项：在上式中，是训练误差关于可学习参数w的函数，右边的第二项表示L2正则项。在PyTorch中L2正则项是默认内置实现的，其中的...

2019-08-22 16:15:42 8786 5

原创 Multiplication in PyTorch

1. Element-wise Multiplication*torch.Tensor.mul()torch.mul()2. Matrix Multiplicationtorch.Tensor.matmul()torch.matmul()torch.Tensor.mm()torch.mm()3. Batch Matrix Multiplicationto...

2019-07-17 17:14:50 2591

原创通道随机混合操作（Channel Shuffle Operation）

通道随机混合操作（Channel Shuffle Operation）可以看成“重塑-转置-重塑”（“reshapetranspose-reshape”）操作。这里假设把4个Feature Maps级联后，共1024个Channels。现在我们想把这个1024个Channels随机打乱混合。首先把Channels重塑为（g, c），其中 g 表示分组数目，c=1024/g。然后把它转置一下为（...

2019-07-17 16:38:04 9127

转载 PyTorch Cookbook（常用代码段整理合集）

本文代码基于PyTorch 1.0版本，需要用到以下包import collectionsimport osimport shutilimport tqdmimport numpy as npimport PIL.Imageimport torchimport torchvision1 基础配置1-1 检查PyTorch版本torch.__version__ ...

2019-06-05 20:26:26 663

原创关于LaTex下插入的图片排列问题及图片与文本排列问题

\begin{figure*}[tb] \centering \setlength{\abovecaptionskip}{0pt} \setlength{\belowcaptionskip}{0pt} \subfigure[show Fig.1]{\label{subfig:Fig.1} \begin{minipage}[t]{0.4\linewidth} \centering...

2019-06-03 20:31:48 8090 1

原创关于Matlab中画图任意调整Markers距离的问题

在写论文时，曲线图有需添加Markers以使曲线更具有区分度，主要考虑到文章在打印出来时，单纯靠颜色无法区分，这就是为曲线添加Markers的意义。可是，在利用Matlab的plot等函数在为曲线添加Markers时导致Markers之间的距离过近，导致Markers太过密集，曲线图之间的Gap也显得拥挤。如下图所示：x = linspace(0,10,25);y = x.^2;p = ...

2019-04-29 15:29:25 11308

原创深度学习中常用的特征归一化方法

在深度学习中，特征的归一化起到至关重要的作用，甚至比本身所提出的方法更重要。比如相关滤波（Correlation Filters）的输出结果，协方差矩阵等，若不经过合适的归一化方法，其作为特征表示的最终结果（Performance）将会很差。下面介绍在深度学习中常用的特征归一化（Normalized Features）方法如下：按照大类划分的话可大致分为如下两类：1. Soft Nor...

2019-04-29 10:59:00 3402

原创关于LaTex中Visio和Matlab图片的处理

首先说一下所使用的LaTex环境和LaTex编译器：texlive2018+TexStudio2018。关于这两个软件的安装，请参考：windows 下TexLive2018的安装和配置。LaTex环境交代完毕后开始介绍在写Paper时需要插入的图片的两种格式（但不限于此两种，只是本人目前仅用到了这两种）：pdf 和 eps。其中用到的pdf图片是由Visio画图，保存为pdf格式的，用到的e...

2019-04-28 10:35:18 1516

原创小白组装电脑详细教程

为了跑深度学习，自己年后动手组装了一台台式机，这里详细记录组装的过程和遇到的问题及解决方案。首先是主要配件的购买。西面是组装电脑需要购买的几大组件，如下表所示：上述组件根据目前的市场价格会有所浮动，风扇集线器买了两个，一个即可，航嘉MVP2只能安装5个风扇，多余了一个风扇。下面是具体的组装过程：1. 打开主板CPU套装后，把CPU安装到主板即可，安装CPU时有箭头指示安装方向，将CPU...

2019-03-31 23:17:44 10391

原创 PyTorch之图像和Tensor填充

在PyTorch中可以对图像和Tensor进行填充，如常量值填充，镜像填充和复制填充等。在图像预处理阶段设置图像边界填充的方式如下：import vision.torchvision.transforms as transformsimg_to_pad = transforms.Compose([ transforms.Pad(padding=2, paddin...

2019-01-23 10:55:19 10648 2

原创 PyTorch之nn.ReLU与F.ReLU的区别

import torch.nn as nnimport torch.nn.functional as Fimport torch.nn as nnclass AlexNet_1(nn.Module): def __init__(self, num_classes=n): super(AlexNet, self).__init__() self.f...

2019-01-22 22:08:26 71196 9

原创 CUDA error (3): initialization error (multiprocessing)

在使用PyTorch框架搭建完网络，训练时出现CUDA error (3): initialization error (multiprocessing)错误，此类错误（若确定网络搭建没问题的话）多半是因为有其它并行程序正在运行，占用，导致在运行PyTorch程序时无法启动多线程，导致报错。本人遇到此错误是因为在运行Matlab程序（parfor循环），启动多线程，Matlab程序运行完毕后而...

2019-01-04 11:11:20 4799

转载 The difference between Softmax and Softmax-Loss

转载来源：The difference between Softmax and Softmax-LossThe softmax loss layer computes the multinomial logistic loss of the softmax of its inputs. It’s conceptually identical to a softmax layer followe...

2018-11-30 09:26:03 912 1

原创 PyTorch之前向传播函数forward

神经网络的典型处理如下所示：1. 定义可学习参数的网络结构（堆叠各层和层的设计）；2. 数据集输入；3. 对输入进行处理（由定义的网络层进行处理）,主要体现在网络的前向传播；4. 计算loss ，由Loss层计算；5. 反向传播求梯度；6. 根据梯度改变参数值,最简单的实现方式（SGD）为: weight = weight - learning_rate * gradient...

2018-11-14 11:37:40 113572 24

原创 Python之np.squeeze()

import matplotlib.pyplot as pltimport numpy as npx = np.linspace(0, 100, 50)y = np.random.randn(1, 50)plt.plot(x, y)如上代码报错为：“ValueError: x and y must have same first dimension, but have shapes...

2018-11-14 09:23:08 5407

原创 Keras之自定义损失（loss）函数

在Keras中可以自定义损失函数，在自定义损失函数的过程中需要注意的一点是，损失函数的参数形式，这一点在Keras中是固定的，须如下形式：def my_loss(y_true, y_pred):# y_true: True labels. TensorFlow/Theano tensor# y_pred: Predictions. TensorFlow/Theano tensor of...

2018-11-13 16:13:49 7542 4

原创深度学习框架之Keras

一. Keras网络结构二. Keras网络配置三. Keras预处理功能参考来源：1. Keras 学习之旅（一）

2018-11-13 15:55:49 1674

原创 Keras之fit_generator与train_on_batch

关于Keras中，当数据比较大时，不能全部载入内存，在训练的时候就需要利用train_on_batch或fit_generator进行训练了。两者均是利用生成器，每次载入一个batch-size的数据进行训练。那么fit_generator与train_on_batch该用哪一个呢？train_on_batch(self, x, y, class_weight=None, sample_wei...

2018-11-13 15:35:44 14737 2

原创 Keras之model.compile与train_on_batch和TensorBoard for train_on_batch

在利用TensorFlow的TensorBoard对train_on_batch的输出进行画图时发现了一些问题。下面对train_on_batch的输出进行讲解。在讲解train_on_batch之前，先看一下Keras的model.compile函数。下面利用Keras版Faster R-CNN代码进行讲解。示例代码如下：# define the RPN, built on the bas...

2018-11-10 17:40:12 11566 9

原创 you must feed a value for placeholder tensor 'input_2' with dtype float and shape [?,?,6]

如下代码：from keras.layers import Inputfrom keras.models import Model...img_input = Input(shape=input_shape_img)roi_input = Input(shape=(None, 6))...model_classifier = Model([img_input, roi_i...

2018-11-06 15:54:42 8260

原创 Keras中的Sequential与PyTorch中的Sequential对比

深度学习库Keras中的Sequential是多个网络层的线性堆叠，在实现AlexNet与VGG等网络方面比较容易，因为它们没有ResNet那样的shortcut连接。在Keras中要实现ResNet网络则需要Model模型。下面是Keras的Sequential具体示例：可以通过向Sequential模型传递一个layer的list来构造该模型：from keras.models im...

2018-10-31 15:43:40 3741

原创关于Numpy中的ZeroDivisionError

在Numpy中关于计算式中除数为零或被除数为零给出的错误提示有些有误导性，下面是关于在np.log中关于表达式中除数为零或被除数为零给出的错误提示，如下：由上可以看出，在np.log中当被除数为零时，给出的错误提示为“RuntimeWarning: divide by zero encountered in log”，而当除数为零时，给出的错误提示为“ZeroDivisionError: ...

2018-10-30 10:22:44 5905 1

翻译理解交叉熵作为损失函数在神经网络中的作用

转载来源：理解交叉熵作为损失函数在神经网络中的作用通过神经网络解决多分类问题时，最常用的一种方式就是在最后一层设置n个输出节点，无论在浅层神经网络还是在CNN中都是如此，比如，在AlexNet中最后的输出层有1000个节点：而即便是ResNet取消了全连接层，也会在最后有一个1000个节点的输出层：一般情况下，最后一个输出层的节点个数与分类任务的目标数相等。假设最后的节点数为N...

2018-10-26 11:05:27 1258