自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

zzr

  • 博客(82)
  • 资源 (5)
  • 收藏
  • 关注

原创 CYCLEGAN (棋盘效应被解决)

借助上采样技术解决了GAN带来的棋盘效应。

2022-05-29 10:27:47 861

原创 一种被AOD-Net启发的超高清图像去雾模型

GitHub - zzr-idam/AOD-Net_UHDdehazing

2022-02-26 14:26:50 653

原创 简单的CNN识别数学公式(pytorch)

链接:https://pan.baidu.com/s/18hd373yQYS_QwfKSVpYyxA提取码:3yz4复制这段内容后打开百度网盘手机App,操作更方便哦--来自百度网盘超级会员V1的分享

2021-01-17 15:12:08 678

原创 Pytorch 实现学习率控制(WarmUp)

import torchfrom torch.optim.lr_scheduler import StepLR, ExponentialLRfrom torch.optim.sgd import SGDfrom torch.optim.lr_scheduler import _LRSchedulerfrom torch.optim.lr_scheduler import ReduceLROnPlateauclass GradualWarmupScheduler(_LRScheduler):.

2021-01-02 18:41:54 7045 6

原创 self-attention(pytorch 实现)

来源:MEF-GAN: Multi-Exposure Image Fusion via Generative Adversarial Networksclass Attention(nn.Module): def __init__(self, bn=True): super(Attention, self).__init__() self.conv1 = nn.Conv2d(6, 16, kernel_size=3, stride=2) ..

2020-12-13 17:41:03 6199 5

原创 深度网络与tucker分解结合实现数据分类(pytorch)

importtorchfromtensorly.decompositionimportnon_negative_tuckerimporttensorlyastlfromtensorlyimporttucker_to_tensorfromsklearn.clusterimportk_meansfromtensorly.tucker_tensorimporttucker_to_tensorfromtensorly.randomimportcheck...

2020-12-05 21:15:10 685

原创 python实现简单的图像显著性检测

https://www.cnblogs.com/wmr95/articles/9981605.html引用博文Code:import torch import cv2import numpy as npimport torchvision import torchvision.transforms as transformsfrom PIL import Image import torch.nn as nnimport matplotlib.pyplot as pltimpor.

2020-11-21 16:38:08 2205 3

原创 图像的分拆与合并

我们经常会遇到将图像分成一个个patch,然后输入至模型计算,将结果进行合并的操作。fromPILimportImageimporttorchvision.transformsastransformsimportmatplotlib.pyplotaspltimporttorchdefreadImage(path='13_4.jpg'):#这里可以替换成自己的图片mode=Image.open(path)transform1=tr...

2020-11-03 16:14:05 506 2

原创 MobileNet 实现对CIFAR-10数据集训练(pytorch)

importtorchimporttorchvisionfromtorchvisionimportdatasets,transformsfromtorch.utils.dataimportDataLoaderfromtorchimportnnimporttorch.nn.functionalasFimportnumpyasnpfromtorch.utils.dataimportDataset,DataLoader,TensorData...

2020-08-26 10:15:01 1352

原创 pytorch实现简单的网络全局剪枝

importtorchfromtorchimportnnimporttorch.nn.utils.pruneaspruneimporttorch.nn.functionalasFdevice=torch.device("cuda"iftorch.cuda.is_available()else"cpu")classLeNet(nn.Module):def__init__(self):super(LeNet,s...

2020-08-15 11:17:51 978 5

原创 只需动动手指就可以将黑白照片变成彩色照片

importrequestsimportosimporturllib.requestr=requests.post("https://api.deepai.org/api/colorizer",files={'image':open(r'C:\Users\xiaoran\Desktop\CVPR_E\11.jpg','rb'),},headers={'api-key':'quickstart-QUdJIGl...

2020-08-11 11:22:20 852

原创 在MNIST数据集上实现特征可视化技术(CAM&pytorch)

importtorchimporttorch.nnasnnimporttorch.nn.functionalasFimporttorch.optimasoptimimporttorch.utils.dataasDatafromtorchvisionimportdatasets,transformsfromtorch.autogradimportVariableBATCH_SIZE=64train_dataset=...

2020-08-05 16:04:57 742

原创 GAN网络生成鸢尾花样本(pytorch)

importtorchimporttorch.nnasnnimporttorch.optimasoptimfromsklearnimportdatasets#潜在的空间其实GAN训练出来的判别器对对抗样例的防御是有意义的。但是#为了防御对抗样例而训练代价太大了。#z潜在mapnz=10#生成器mapngf=20#判别器mapndf=20lr=0.001#X=to...

2020-08-04 12:31:57 1421 3

原创 Numpy利用随机梯度下降与梯度投影法解决超越方程

importnumpyasnpx=np.array([2])#求f=x-cosx当x=?,f=0---->求min0.5*(f)^{2}#SGDforiinrange(10000):x=x-(x-np.cos(x))*(1+np.sin(x))*0.01print(x-np.cos(x))print(x)#梯度投影法A=np.array([...

2020-08-02 20:43:50 340

原创 JPG压缩防御对抗样例攻击在MNIST数据集上(pytorch)

importtorchimporttorchvisionfromtorch.autogradimportVariablefromtorchvisionimportdatasets,transformsfromtorch.utils.dataimportDataLoaderfromtorchimportnnfromnumpyimport*importtorch.nn.functionalasFimportadvertorch.defe...

2020-08-02 11:00:23 873

原创 python实现舆情数据聚类

https://github.com/ranran4082391/restaurant-comments 数据集地址importpandasaspdfromdateutilimportparserfromsnownlpimportSnowNLPimportmatplotlib.pyplotaspltimportnumpyasnpdf=pd.read_excel('restaurant-comments.xlsx')#df[...

2020-08-01 20:35:29 666

原创 numpy简单实现梯度投影法

importnumpyasnp#约束投影算法意思就是#1.我们的问题是求最小值(可能是局部最小)#2.求最值我们都会想到用梯度下降算法,但是下降的方向是否应该也有一个约束比较好?#3.如果我们的约束很带劲,我们将梯度投影在约束函数的方向向量上可能能更快的收敛。#f(x)=x^2+y^2s.t.x+y>=1x_0=np.array([[3,-2]])B=np.array([[1,1]])...

2020-07-27 17:02:53 1815

原创 利用鸢尾花数据集直观感受神经网络表征能力(pytorch)

importtorchimporttorchimporttorchvisionfromtorch.autogradimportVariablefromtorchvisionimportdatasets,transformsfromtorch.utils.dataimportDataLoaderimportcv2fromtorchimportnnfromnumpyimport*importtorch.nn.functional...

2020-07-25 17:41:35 568

原创 numpy实现简单的神经网络

importnumpyasnp#Nisbatchsize;D_inisinputdimension;#Hishiddendimension;D_outisoutputdimension.N,D_in,H,D_out=64,1000,100,10#Createrandominputandoutputdatax=np.random.randn(N,D_in)y=np.random.randn(N,D...

2020-07-21 21:56:28 204

原创 利用高斯核卷积对MINIST数据集进行去噪

importtorchimporttorchvisionfromtorch.autogradimportVariablefromtorchvisionimportdatasets,transformsfromtorch.utils.dataimportDataLoaderimportcv2fromtorchimportnnimportnumpyasnpimporttorch.nn.functionalasFimportadve...

2020-07-18 16:24:30 1080

原创 特征矩阵稀疏化(pytorch)

importtorcha=torch.tensor([[1,1,1,1.0],[2,2,2,2],[1,1,1,1],[1,1,1,1]])b,indices=torch.nn.MaxPool2d(2,2,return_indices=True)(a.unsqueeze(0).unsqueeze(0))print(b...

2020-07-13 21:25:22 1401

原创 python+pytorch实现双线性模型对鸢尾花数据集训练

importtorch.nnasnnimporttorchfromsklearn.datasetsimportload_irisdata=load_iris()X1=torch.tensor(data.data).float()X2=0.01*torch.rand(150,2).float()y=torch.tensor(data.target).long()W=torch.randn(3,X1.shape[1],...

2020-07-08 10:01:16 798 1

原创 整数拆分(python)

#我们都知道有一门数学领域叫组合数学,其中整数的拆分问题是非常有名的,#例如我们有1g、2g、3g、4g、5g的砝码各一个,问能称出多少的重量,各有多少称法#这里我们利用欧拉提出的母函数的概念(当然拉马努金的公式也可以,拉马努金是我非常喜欢的数学家),直接带入求解,(1+x)(1+x^2)(1+x^3)(1+x^4)(1+x^5)defadd_poly(L1,L2):#多项式加法,同次项系数相加R=[]iflen(L1)>len(...

2020-06-23 19:03:04 3247

原创 简易版蒙特卡洛采样计算二项式分布的参数

importnumpyasnpimportmatplotlib.pyplotaspltX=np.array([1,1,1,1,1,0,0,1,1,0])#q=np.array([0.1,0.2,0.3,0.4,0.5,0.6,0.7,0.8,0.9,1.0])print(np.random.normal(loc=0.001,scale=0.0,size=None))p=[]sum=1...

2020-06-21 13:54:55 426

原创 针对神经网络的快速符号攻击

'''但是,设计和训练模型的一个经常被忽略的方面是安全性和鲁棒性,尤其是在面对想要欺骗模型的对手的情况下这篇文章的思路就是给图像加噪音,但是大家会发现一件事,加噪音我们希望给神经网络认为重要的像素点给予更多的攻击,作者的思路是认为,根据梯度来反馈的到大小来反推像素点的重要性,一般来说能使神经网络获得很大梯度的像素点肯定是重要的。'''importtorchimporttorch.nnasnnim...

2020-06-19 21:49:54 567 1

原创 利用自编码器对线性模型参数加密

fromsklearn.datasetsimportload_bostondataset=load_boston()x_data=dataset.datay_data=dataset.targetfromsklearnimportlinear_modelmodel=linear_model.LinearRegression()model.fit(x_data,y_data)args=model.coef_im...

2020-06-18 09:24:08 321

原创 积分度量学习

#积分度量当我们计算两个簇之间的距离的时候常常用的欧氏距离,但是用积分来度量两个簇之间占据空间的大小也是一种很有趣的思路importnumpyasnpa1=np.array([1,1])b1=np.array([1,2])c1=np.array([1,3])a2=np.array([2,3])b2=np.array([2,5])c2=np.array([2,7])#我们可以看成两个空间中两类簇...

2020-06-12 10:08:39 556

原创 压缩度量(矩阵映射)

#压缩度量是一个数学概念,例如我们采用欧氏距离作为度量方法,对于任意的||xi-xj||>||f(xi)-f(xj)||(xi和xj为样本空间中的样本)#场景如果我们的样本点之间距离很大,数据很稀疏的情况下,这种距离很大的计算是非常消耗资源的。我们不妨将空间的样本映射的更加紧凑点,这样计算资源的消耗也比较少。importnumpyasnpa=np.array([1,1])b=np.array([1,6])#我们需要用一个矩阵...

2020-06-12 09:42:59 392

原创 谱聚类及其创新思考(python)

#谱聚类'''对样本求相似性矩阵, 其实就是把每个sample当作一个node,构建一个图关系。1 求向量之间的关系有很多方法 比如 F1范数, F2范数, 无穷范数,余弦 f(x1, x2)---> scalar如果大家想改进的话这里我建议可以用度量学习的技巧去替换求向量之间关系的方法'''import numpy as npdef distance(x1, x2): ...

2020-03-18 15:04:26 323

原创 神经网络的线性单元不能拟合指数表达

'''目前神经网络一直都是采用relu(非线性单元)作为激活函数,目的是产生类似异或表达,比如线性函数的可加性就被很好的破坏掉了f(ax+by)=af(x)+bf(y) 在加入relu之后不成立了。但是对于e^x 这种轨迹,relu还能有很好的拟合能力吗?我们做个实验看看吧。'''import torchfrom torch import nnimport torch.optim...

2020-03-17 15:45:16 235

原创 牛顿迭代法的简单实现(python)

'''牛顿法很多人写了一大通感觉非常的高大上,其实想法很简单,我们目标就是找函数的零点比如你选了一个起始点x = a , y = f(a) 这个点相比于零点假如说是有距离的。那么你会发现在这个x = a 点处求一个切线方程,这个切线方程的截距距离零点更近。ok, 于是l(x) = f(a) + f'(a)(x - a) ---> x = a - f(a) / f'(a) 目的是求...

2020-03-17 10:34:18 2423

原创 对数换底公式的意义(线性理解)

import numpy as npb = [1.1, 2, 3, 4, 5, 6, 7, 8, 9, 10]y1 = [np.log2(i) for i in b] #log2函数y2 = [np.log10(i) for i in b]print(y1)print(y2)# 我们从高中学的 对数函数的换底公式 其实有一个很重要的意义 任意两个对数函数 存在...

2020-03-16 11:55:19 862

原创 度量学习(NCA)

frommetric_learnimportNCAfromsklearn.datasetsimportmake_classificationfromsklearn.neighborsimportKNeighborsClassifiernca=NCA()X,y=make_classification()nca.fit(X,y)print(nca....

2020-02-22 11:36:25 843

原创 python求解函数的积分微分

#求x^2在(1,2)上的积分值sum=0j=0epoch=10000foriinrange(epoch):sum+=(1/epoch)*(1+j)**2j+=(1/epoch)print(sum)#求x^2在(1)上的微分值delt=0.00001x=1f=...

2020-02-19 10:24:50 699

原创 行为匹配(采用变分自编码器对数据降维)

importnumpyasnpimporttorchimporttorch.nnasnnimporttorch.nn.functionalasF#Cosinesimilaritydefcos_sim(a,b):numerator=np.multiply(a,b).sum()denomitor=np.lina...

2020-02-15 10:14:55 1049

原创 深度神经网络炼丹与优化方法

链接:https://pan.baidu.com/s/1o-GwTf9mKctEbkv-jA8TqQ提取码:cvb8

2020-01-23 17:08:38 214

原创 采用微软的AutoML框架对鸢尾花进行特征筛选

from sklearn import datasetsfrom sklearn.model_selection import train_test_splitfrom nni.feature_engineering.gbdt_selector import GBDTSelectorimport torchiris = datasets.load_iris()x = iris.data...

2020-01-05 15:03:10 275

原创 借助于pytorch的GNN网络解决鸢尾花分类问题

from sklearn.datasets import load_irisimport torchfrom torch_geometric.data import Dataimport networkx as nximport torch.nn.functional as Ffrom torch_geometric.nn import GCNConvdata = load_iris...

2020-01-03 15:36:43 1611 1

原创 图像模糊聚类

1. 用池化操作对图像降维打击2. 利用混合高斯模型分块降维import torchvisionfrom PIL import Imageimport torch.nn.functional as Floader = torchvision.transforms.Compose( [torchvision.transforms.Resize(128), ...

2019-12-30 14:52:03 430

原创 多输出深度森林(gcForest)

from sklearn.datasets import make_classificationfrom GCForest import *from sklearn.utils import shuffleimport numpy as npX, y1 = make_classification(n_samples=10, n_features=100, n_informative=30...

2019-12-25 17:09:19 275

statbook_part1.pdf

statbook_part1.pdf

2023-02-12

Matrix.pdf

矩阵求导的技术,在多个领域都有十分广泛的应用,我们的文章主要研究标量对矩阵的求导术。 本文用小写字体$x$表示标量,加粗的字体$\textbf{x}$,大写字母$X$表示矩阵。\\ 首先我们先理解一下学术概念,什么是标量对矩阵的求导?$\frac{\partial f}{\partial X}=[\frac{\partial f}{\partial X_{ij}}]$,这个表达式的意思是$f$对$X$逐个元素求导。 并排成与$X$相同尺寸的矩阵。这个概念一扔在这里其实是非常抽象的,我们可以把$X$看作是一个线性方程组未知变量的系数,还原到矩阵的源头去理解

2020-07-27

拓扑与微分计算.pdf

这个文档截取了原文1000多页中的100多页内容,方便大家的阅读,有利于学习机器学习入门知识。我们一般了解的都是线性代数与概率比较多,其实微分积分,与拓扑学的扩展非常有利于大家对于算法的理解与创新。

2020-07-10

topology.pdf

这篇文章简单介绍了当前对于模型攻击都有哪些思路,整体的方法是给与最小的抖动让分类器获得最错误的分类效果,这篇文章整合了pytorch官网给出的代码,直接就可以运行完成。

2020-06-20

english.pdf

文档主要包含了基本的英语语法与作文,小作文有4篇尽量背诵下来,英语语法主要针对的是初中语法,不过能应付简单的长难句了,英语的关键还是在于背单词。

2020-04-08

Graph_卓然.pdf

自己总结的关于图论的知识,目前常用的GCN研究主要针对于借助于图的拉普拉斯矩阵的特征值和特征向量来研究图的性质。上述内容中我已经介绍了拉普拉斯矩阵的意义以及怎么得到的。

2020-04-04

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除