- 博客(54)
- 资源 (1)
- 收藏
- 关注
RSS订阅原创 python之并发编程详解
一、多任务编程(1). 简述多任务编程包括多进程、多线程等编程方式，可以充分的利用计算机CPU的多核资源同时处理多个应用程序任务，以此提高程序的运行效率。二、 多任务编程之进程（process）(1). 定义进程指的是程序在计算机中的一次运行。程序是一个可执行的文件，是静态的占有磁盘，而进程是一个动态的过程描述，占有计算机运行资源，有一定的生命周期。(2). 系统中如何产生一个进程？...
2020-03-27 17:26:13
687
原创 加密解密之Token令牌
一、base64(1). base64加密解密方法图示方法作用参数返回值b64encode将输入的参数转化为base64规则的串预加密的明文，类型为bytes；例：b‘steve Jobs’base64对应编码的密文，类型为bytes；例:b’c3RldmUgSm9icw==’b64decode将base64串解密回明文base64密文，类型为bytes...
2020-03-19 12:28:23
4882
原创 python中的生成器原理详解
一、什么是生成器？生成器指的是可迭代对象（拥有__iter__方法的类对象为可迭代对象）+迭代器（拥有__next__方法的类对象为迭代器）二、生成器举例(1). 生成器举例代码如下：#encoding = utf-8"""@version:3.7@author:qiuyucheng@file:generator.py@time:10:27"""class MyGenerat...
2020-01-17 10:43:28
988
原创 python中的yield方法原理详解
一、yield的作用是什么？yield 的作用是将当前方法中的 yield之前的语句改为迭代器模式的代码，生成迭代器代码的大致规则如下：(1). 将yield以前的语句定义在__next__方法中(2). 将yield后面的数据作为__next__的返回值二、yield的执行过程(1). 调用当前方法，不执行(内部创建迭代器对象)(2). 调用__next__方法，才执行(3). 执...
2020-01-16 13:28:05
1292
原创 python中的for循环底层原理详解
一、构建一个可迭代对象（列表、元组、字典等）tuple01 = ("Stay hungry Stay foolish","Keep looking,don't sate","hobbies")dict01 = {"Steve Jobs":1001,"Bill Gates":1002,"near Object":1003}二、用for循环来进行迭代(1). 代码如下所示：for tupl...
2020-01-16 10:50:24
2411
原创 python中的类内存图文详解
一、一个python类的演示代码#encoding = utf-8"""@version:3.7@author:qiu@file:object_oriented.py@time:22:34"""class Wife: #数据成员 def __init__(self,name,sex): # self是调用当前方法的对象地址 self....
2019-12-27 23:10:14
1286
1
原创 python中的函数内存操作图文详解
一、代码如下:def fun(a): a[1] = [200]list_target = [1,[2,3]]fun(list_target)print(list_target[1])二、内存图如下：2.1 函数内存解析图
2019-12-25 17:36:02
1377
原创 python中的深拷贝与浅拷贝图文详解
一、深拷贝与浅拷贝的定义是什么？1.浅拷贝：它指的是在复制过程中,只复制一层变量而不会复制深层变量绑定的对象。2.深拷贝：复制整个依赖的变量，即包括深层变量绑定的对象。二、深拷贝与浅拷贝的实例说明(1). 浅拷贝举例1.浅拷贝示例代码如下：list01 = [800,[1000,500]]list02 = list01[:]#list02 = list01.copy() #浅拷贝与...
2019-12-18 12:47:05
329
原创 使用迅雷下载FSNS数据集
一、什么是FSNS数据集？FSNS（French Street Name Sign）指的是法国街道名称标志，它包含了大量的法国街道名称标志的图像。该数据集最显著的特征是该数据集不包含任何本地化文本的注释。可以用来作为端到端的OCR（Optical Character Recognition）算法训练与测试的数据集二、怎样使用迅雷下载FSNS数据集？(1). 安装pywin32，打开Anaco...
2019-11-14 18:25:19
1271
原创 Tensorflow，python，cuda，cudnn以及Keras版本匹配详解
具体的版本匹配网址：https://docs.floydhub.com/guides/environments/
2019-11-11 15:24:30
1618
原创 表格检测与识别的数据集TableBank
一、什么是TableBank数据集?TableBank是一个基于图像的新表检测和识别数据集，它基于Internet上Word和Latex文档的新型弱监督功能而构建，包含417K高质量标签表。TableBank数据集总共包含417,234个高质量标记的表以及它们在各个领域中的原始文档。二、引用介绍论文TableBank: Table Benchmark for Image-based Tabl...
2019-11-07 16:44:13
5284
2
原创 使用keras实现swish以及h_swish激活函数的创建以及调用
一、使用keras实现swish以及h_swish激活函数的创建并将添加from keras import backend as Kfrom keras.layers import Activationfrom keras.utils.generic_utils import get_custom_objectsdef swish(inputs): return (K.sigmo...
2019-10-14 13:43:53
5208
5
原创 Keras实现Senet block模块
一、keras实现的Senet block模块代码class SeBlock(keras.layers.Layer): #add def __init__(self, reduction=4,**kwargs): super(SeBlock,self).__init__(**kwargs) self.reduction = reduction ...
2019-10-14 13:40:45
8720
29
原创 数据增强之mixup算法详解
论文地址：mixup: BEYOND EMPIRICAL RISK MINIMIZATION(一)、什么是数据增强？(1). 数据增强主要指在计算机视觉领域中对图像进行数据增强，从而弥补训练图像数据集不足，达到对训练数据扩充的目的。(2). 数据增强是一种数据扩充方法，可分为同类增强（如：翻转、旋转、缩放、翻译、模糊等）和混类增强（如mixup）两种方式。(二)、同类数据增强方式主要有哪些...
2019-09-28 20:39:48
52645
14
原创 深度学习中的循环神经网络GRU详解
(一)、什么是循环神经网络GRU？GRU指的是门控循环单元（Gated Recurrent Units ），它是循环神经网络中的一种门控机制，是由Kyunghyun Cho等人于2014年引入的，它与具有遗忘门的长短期记忆网络（LSTM）相类似。(二)、GRU实现记忆的原理是什么？参考：深度学习中的循环神经网络LSTM详解 2.1 GRU网络原理图(三)、GRU的原理公式是什么？经典的...
2019-09-13 11:54:59
16329
2
原创 Pytorch中的scatter_函数
(1). scatter_函数详细描述如下:scatter_(input,dim,index,value) 将value对应的值按照index确定的索引写入本tensor中，其中索引是根据给定的dim（维度）来确定的，且index维度要与input维度一致"""Args:input：要进行scatter_填充的tensordim：要在input张量哪一个维度进行scatter_填充i...
2019-09-12 22:42:43
3044
1
原创 命名实体识别中的原始预处理文本转换为标注文本
(一)、转换格式1.其他字转换为O2.实体首字转换为B-PRODUCT3.实体中间的字转换为I-PRODUCT4.实体尾字转换为E-PRODUCT5.单实体转换为S-PRODUCT(二)、原始预处理文本(1). annotated_src.txt-DOCSTART-本公司具有{炭黑专用油}生产能力。-DOCSTART-公司已掌握了{虾}、{鲍鱼}、{海胆}等海珍品苗的工厂化培...
2019-09-10 17:50:03
1947
原创 深度学习中的循环神经网络LSTM详解
(一)、什么是循环神经网络LSTM？LSTM指的是长短期记忆网络（Long Short Term Memory），它是循环神经网络的最知名和成功的扩展。由于循环神经网络有梯度消失和梯度爆炸的问题，学习能力有限，在实际任务中的效果很难达到预期，为了增强循环神经网络的学习能力，缓解网络的梯度消失等问题，LSTM此时便应运而生。该网络可以对有价值的信息进行长期记忆，从而减小循环神经网络的学习难度，并由...
2019-09-08 21:38:30
5543
原创 深度学习中的标签平滑正则化（Label Smoothing Regularization）方法原理详解
论文：https://arxiv.org/pdf/1512.00567.pdf(一)、为什么有标签平滑正则化（Label Smoothing Regularization, LSR）的方法?在深度学习样本训练的过程中，我们采用one-hot标签去进行计算交叉熵损失时，只考虑到训练样本中正确的标签位置（one-hot标签为1的位置）的损失，而忽略了错误标签位置（one-hot标签为0的位置）的损...
2019-08-31 00:16:31
13853
9
原创 准确率，精确率，召回率以及F1 score详解
(一)、什么是准确率？准确率是指分类正确的样本占总样本个数的比例，其定义如下所示：Accuracy=ncorrectntotalAccuracy=\frac{n_{correct}}{n_{total}}Accuracy=ntotalncorrect其中AccuracyAccuracyAccuracy指的是准确率，ncorrectn_{correct}ncorrect指的是被分类正确的...
2019-08-30 14:50:42
3535
原创 Pytorch中的train和eval模式详解
(一)、model.train()和model.eval()分别在训练和测试中都要写，它们的作用如下：(1)model.train()启用 BatchNormalization 和 Dropout，将BatchNormalization和Dropout置为True(2).model.eval()不启用 BatchNormalization 和 Dropout，将BatchNormaliza...
2019-08-29 21:52:26
12779
2
原创 tensorflow之tf.tensordot详解
tf.tensordot是tensorflow中tensor矩阵相乘的API，可以进行任意维度的矩阵相乘(1).tf.tensordot函数详细介绍如下:tf.tensordot( a, b, axes, name=None)"""Args: a:类型为float32或者float64的tensor b:和a有相同的type,即张量同类型,...
2019-08-29 20:47:25
16183
3
原创 Pytorch之torch.nn.functional.pad函数详解
torch.nn.functional.pad函数是PyTorch内置的矩阵填充函数(1).tensor进行paddingtorch.nn.functional.pad(input, pad, mode,value ) Args: """ input：四维或者五维的tensor Variabe pad：不同Tensor的填充方式 1.四维Tensor：传入四元素tuple(pad_...
2019-08-28 18:20:16
42877
17
原创 conda安装opencv，imgaug库
1.add channels conda-forge，防止不能识别anaconda包的问题conda config --add channels conda-forge2.安装opencvconda install -c conda-forge opencv3.安装imguageconda install -c conda-forge imgaug...
2019-08-28 13:56:28
896
原创 面部识别系统流程
论文：Face Recognition: From Traditional to Deep Learning Methods(一)、什么是人脸识别?广义的人脸识别实际包括构建人脸识别系统的一系列相关技术，包括人脸图像采集、人脸定位、人脸识别预处理、身份确认以及身份查找等；而狭义的人脸识别特指通过人脸进行身份确认或者身份查找的技术或系统。 人脸识别是一项热门的计算机技术研究领域，它属于生物特征识...
2019-08-27 13:44:10
1579
原创 深度学习中的gelu激活函数详解
论文：gaussian error linear units(一)、什么是gelus激活函数?gelus（gaussian error linear units）就是我们常说的高斯误差线性单元，它是一种高性能的神经网络激活函数，公式如下：(1)xP(X≤x)=xΦ(x){xP(X \le x)=x\Phi(x)}\tag{1}xP(X≤x)=xΦ(x)(1)计算结果大约为:(2)0.5x(1+...
2019-08-26 23:47:20
21382
原创 CSDN中的Markdown常用公式、符号以及相关使用技巧
单行公式用：$公式$，即公式写在两个$符号中间多行公式用：$$公式$$，即公式写在四个$符号中间，公式两边分别两个$常用公式：Markdown数学公式及符号大全Markdown使用教程：Markdown简明教程...
2019-08-26 23:30:20
512
原创 面部识别算法中的损失函数A-softmax loss详解
论文1：SphereFace: Deep Hypersphere Embedding for Face Recognition论文2：ArcFace: Additive Angular Margin Loss for Deep Face Recognition(一)、原始的（普通的）Softmax函数是什么？在数学，尤其是概率论和相关领域中，Softmax函数，或称归一化指数函数，是逻辑函数...
2019-08-25 01:06:14
2785
3
原创 深度学习中的Adam优化算法详解
Adam论文：https://arxiv.org/pdf/1412.6980.pdf(一)、什么是Adam算法?Adam（Adaptive method）是一种随机优化方法（A method for stochastic optimization）,经常作为深度学习中的优化器算法。(二)、Adam算法如何实现？(1). 上图就是Adam优化算法在深度学习应用于梯度下降方法的详细过程,有...
2019-08-23 01:22:12
31415
6
原创 深度学习中的滑动平均算法原理详解
(一)、什么是一阶滞后滤波?一阶滞后滤波是一种数据平滑的手段，通过对本次采样值与上次滤波输出，做概率加权叠加，有效的使得了每次数据的滤波结果不仅仅与本次采样有关还与上次的输出有关，保证了每次的滤波输出都会一定程度上受上次滤波结果的影响，一般来说，这种影响在这种机制中都会占很大权重，即上次滤波输出的概率权重远大于本次采样的概率权重，从而可以使得滤波结果可以很平滑的从上次滤波结果过渡到本次滤波结果，...
2019-08-21 03:13:29
5495
原创 使用Google Colaboratory部署深度学习项目
一、创建一个Google云端硬盘账号二、在Google创建一个新文件夹，并将你的深度学习项目上传到这个新文件夹中三、在Google云端硬盘上将目录切换到新创建的项目文件夹,在当前文件夹中右键点击空白处会显示一个目录，选择"更多"，点击"Google Colaboratory"创建你的项目运行ipynb文件四、在你创建的ipynb文件中选择"修改"->“笔记本设置”，将硬件加速器设置为G...
2019-08-20 20:04:31
1079
原创 Bert文本分类run_classifier的预测模块修改
修改位置1:run_classifier.py model_fn() 函数中：源码1:else: output_spec = tf.contrib.tpu.TPUEstimatorSpec( mode=mode, predictions=probabilities, scaffold_fn=scaffold_fn)替换源码1:elif mode == tf.estimator.Mo...
2019-08-20 00:18:24
1528
2
原创 将Bert抽取语言表征模型修改为GPU运行
tf.estimator.EstimatorSpec优化器类：1.predict:只需要传入参数mode和predictions2.eval(评估模式):需要传入参数mode,loss,eval_metric_ops3.train:需要传入参数mode,loss,train_op（一):Bert抽取特征语言模型修改(GPU运行配置)修改位置1:2run_pretraining.py ma...
2019-08-20 00:09:34
4810
11
原创 自然语言理解发展历程
(一)NNLM(Neural Network language model):简述：通过多个上文输入,预测输出,应用了word Embeding方法,但是此word Embeding是没有上下文的word Embeding,也就是word直接用one-hot表示,然后乘以一个向量权重矩阵（这个向量矩阵其实就是word Embedding向量矩阵,是我们训练得到的）得到该word的word Emb...
2019-08-18 01:24:08
1556
原创 梯度裁剪tf.clip_by_norm and tf.clip_by_global_norm
(一)、为什么要进行梯度裁剪?防止训练过程中,梯度回传的时候，梯度过大,导致模型振荡，不稳定,难以训练,即传说中的防止梯度爆炸。(二)、什么是范数?范数(norm)是数学中的一种基本概念，最常用的就是p-范数.假设一个向量为:1-范数:2-范数:在梯度裁剪的条件判断过程中,仅仅是向量变成关于梯度的向量,或者使用所有梯度的向量而已(三)、tensorflow实现的梯度裁剪两个...
2019-08-16 02:40:53
1427
原创 Warmup预热学习率
学习率是神经网络训练中最重要的超参数之一,针对学习率的优化方式很多,Warmup是其中的一种(一)什么是Warmup?Warmup是在ResNet论文中提到的一种学习率预热的方法,它在训练开始的时候先选择使用一个较小的学习率,训练了一些epoches或者steps(比如4个epoches,10000steps),再修改为预先设置的学习率来进行训练.(二)为什么使用Warmup?由于刚开始...
2019-08-16 00:55:34
44852
6
原创 tf.nn.embedding_lookup函数以及对嵌入表示的理解
假设有一组分类,总共有5个类别,我们对所有类别进行one-hot(哑编码),则编码后[1,0,0,0,0]为类别1,[0,1,0,0,0]为类别2,[0,0,1,0,0]为类别3,[0,0,0,1,0]为类别4,[0,0,0,0,1]为类别5.若类别过多,该如何处理?我们用one-hot表示,就有可能使得训练参数过于庞大,而且不能表示不同类别之间的相似度,于是我们想到了嵌入(Embeding)方式...
2019-08-15 12:48:53
1236
1
可逆信息隐藏项目.zip
2019-08-29
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人