- 博客(22)
- 收藏
- 关注
RSS订阅原创 《GAN实战》GANs in Action 第二章 自编码生成模型VAE入门
标准导入from keras.layers import Input,Dense,Lambdafrom keras.models import Modelfrom keras import backend as K#from keras import objectives省略原书中这句from keras import metrics #增加这句，在做交叉熵时候用到的是metrics.binary_crossentropyfrom keras.datasets import mnistim
2022-04-29 12:44:11
235
原创 《GAN实战》GANs in Action 第一章
1. 训练过程每次迭代，也就是batch完成连词训练（a）训练鉴别器固定生成器参数，根据反向传播总误差，运用梯度下降的方法，更新鉴别器参数，寻求最小化分类误差（b）训练生成器固定鉴别器参数，根据反向传播总误差，运用梯度上升的方法，更新生成器参数，寻求最大的鉴别器误差。下一个batch重复这个过程。2.纳什均衡相互矛盾的双方，当任何一方无论怎么努力都不能改善他们的处境或者结果。同样我们认为GAN 达到纳什均衡时，训练完成（1）生成器生成的伪样本与训练集中的正式数据别无二致（2）鉴别器能做
2022-04-24 17:22:07
227
原创 《Python深度学习》6.1文本数据处理
深度学习用于文本和序列可以做很多工作，比如识别文章的主题或书的作者；两个文档或两支股票行情的相关程度（是不是可以做主任想做的简答题的判断）；翻译； 情感分析，推文或者影评的正面或者负面评论 ； 时间序列预测，如天气，股票预测，本章不都将主要讲红色部分两个主题。处理文本数据主要有两种方式one-hot和token embedding。深度学习不会接受原始文本作为输入，他只能处理数值张量，文本向量化是指将文本转换为数值张量的过程。具体的做法就不在说了，这边想说一下一些感悟。token embedding是将
2022-01-14 18:32:42
913
原创 《Python深度学习》5.3使用预训练的卷积神经网络
使用别人训练好模型中的卷积层，学到的特性在不同问题之间具有可移植性，这种方法也解决了我在学习机器学习最初的关于数据采集困难的疑虑，这样可以在自己思路上做一些有趣的小实验。使用预训练网络主要有两种方式， 特征提取和 微调模式两种特征提取1. 特征提取是使用之前网络学到的表示来从新样本中提取出有趣的特征。就是取出之前训练好的网络的卷积基（池化层和卷积层），在上面运行新的数据，然后再输出上面训练一个新的分类器。我理解的是，就是运用卷积基做了一次特征工程，然后去做一次全连接模型。2.Keras内置有很多模型，
2022-01-10 12:00:29
580
原创 《Python深度学习》5.2从头开始cnn2022-1-6
本节内容较多，在DL视频中足有100分钟3个视频，由于已经放假也尽量加快了节奏在Chenghsi Hsieh的视频中，首先讲解了将谷歌云端硬碟挂载到colab上的具体办法，博主让搜索google colab drives mount可以找到一个挂载并运行程序-台湾部落，在使用GPU时需要现在colab上选择GPU同时需要运行调用GPU的程式。由于上载图片耗费太多时间，加上我的电脑（Thinkpad T470,2017年买的）本身有GPU一个核，经测试一个epoch就比视频中长了1-2s，但是却省去了太多
2022-01-06 14:55:34
1230
原创 《Python深度学习》5.1卷积神经网络简介
本章可使用colab google类似jupyter notebook很方便，需要选择使用GPU，同时输入相关指令调用GPU（可搜索tensorflow with GPU colab）。经过测评，我的电脑有一个GPU，用自己电脑11s，colab是9秒，其实我的电脑还不错（17年联想ThinkpadT470）。滤镜和输入图像点乘，对应位相乘求和。图像有几层，滤镜就需要基层，相应的有参数，但是各个层都要进行点乘相加最后输出的层数和滤镜的个数是相一致的。对于输入图像是彩色的，其原始RGB有三层，经过滤镜的深.
2022-01-04 17:37:02
1715
原创 《Python深度学习》3.6预测房价：回归问题
回归问题，预测一个连续值而不是离散的标签资料也别少，只有506个，分别为404个训练样本和102个测试样本。因为样本数少，书上讲了K折验证及相关代码，将训练样本分为若干部分，依次选取一块作为验证数据。由于数据中不同指标有着差异性的数值选取，需要做标准化。首先让所有数据减去平均值，则整个数列的和为0。然后除以标准差（标准差是依次减去平均值平方，除以项数，再整体开方），这样能保证数列平方和为1，从而构造和为0，平方和也为1的数列。mean=train_data.mean(axis=0)axis=0表示沿
2022-01-01 10:26:22
853
原创 《Python深度学习》3.5新闻分类：多分类问题
基本上和上节二分类问题在程式上差不多。这次结果用到的是one-hot，keras内置的one-hot函数是to_categorical。如果label没有one-hot，也是可以的则损失函数采用sparse_categorical_crossentropy，实际上和one-hot后采用categorical_crossentropy效果一样。损失函数和优化器理论上还是不清楚，只知道这么做就能出结果，实际上这些和学习的网络框架共同构成了学习的核心。感觉可以听一听李宏毅的课，感觉还是很不错的。...
2021-12-25 23:46:25
710
原创 《Python深度学习》3.4电影评论分类：二分类问题
完整的敲了一遍，感觉还不错。但是还是有诸多问题。在powershell里面输入conda activate tensowflow激活tensowflowIMDB中文章长短不一致，0，1，2这三个数字不表示任何单词，1表示开始，2表示超出，0没说。有关np.array很有趣的一个地方，比如：[[1,2],[3,4],[5,6]]这个shape就是3*2，但是如果第一个改变成为[[1,2,3],[3,4],[5,6]]则shape是（3，）里面的[]不再算数，和普通数值成为一样。问题：np.arr
2021-12-14 21:01:41
1132
原创 《Python深度学习》3.1神经网络剖析3.2Keras介绍
不同的张量格式与不同的数据处理类型需要用到不同的层，如最常用的三种全连接、cnn、rnn。层构成网络可以用很多种拓扑结构，更像是艺术而不是科学。Keras是更高级的模块，适合新手，不用去做底端的微分和张量计算，Keras可以绑定三个后端引擎，tensorflow、theano、CNTK。前四章使用自己电脑cpu，后面使用colab...
2021-12-11 20:03:31
1216
原创 二元函数偏导数的思考2021-12-7
在学习深度学习的过程中，需要理解偏导数的概念，我只能努力地去理解这个概念。偏导，对x的偏导，可以想象为沿y轴随便切一刀，对y求偏导亦然，如果函数不存在混合项如xy，只是类似z=x^2+y ^2这种，切下来都是一个图形，这样存在共同的最小值。如果有混合项，则最小值就会随着y值而变动，不会出现那种两个坑分别取了一个x和另一个y，这样合起来就不是坑的。运用反向传播，沿着梯度相反地方向调整，合起来这样就可以对应找到最小值。偏导数是极小值是必要非充分条件，但是运用反向传播取调节参数却是能够找到极小值。.
2021-12-07 18:12:07
1026
原创 《Python深度学习》2.4神经网络的引擎：梯度的优化学习记录2021-11-28
往梯度的反方向移动，也就是去减梯度就能使值减下，从而降低loss。从一维损失函数可以推导出，同时联想二维损失函数，多维的几何表示也想不到。理论上推广应该没有问题，但是其实不一定总是准确的，历史上一直是研究深度学习的问题来源。优化器有很多种，主要是两种RMSProp，和有动量的随机梯度下降（SGD）。权重张量是该层的属性，里面包含了网络所学习到的知识。本书的重点不再数学推导，在于实际的应用，但是反向传导确实没有讲清楚，需要自己再看一看*反向传播、优化器优化器中考虑动量的，我看了看也没有看得特别明.
2021-11-28 18:16:20
657
原创 《Python深度学习》2.2神经网络的数据表示2.3张量运算学习记录2021-11-28
Numpy数组保存的是张量，张量表示形式不同于矩阵，通过括号书来区分几维。需注意向量[1,2,3]，比如这样一个向量我们会输1*3，但是张量表达是（3，），标量则直接是空（）。谢老师有讲19年自己用了mathematics，我硕士自己也用了matlab，我想：计算软件都是为自己项目服务的，单纯的去学习技术就会容易不知所措。张量倒着看，倒数两个通常表示基本类似矩阵的样子，第一个轴是样本个数。需要注意的是图像数据，其中channel放在最后，其实应该是倒数第三个合乎常理，比如RGB，三个颜色三个2*2张量，.
2021-11-28 18:02:08
93
原创 《Python深度学习》第2章学习记录2021-11-23
安装keras，由于害怕出错并且要跟着谢老师做，所以严格按照谢老师装软件的方法。: spam[-1]='and '+spam[-1] juzi='' for i in range(len(spam)-1): juzi+=spam[i] juzi+=',' juzi+=spam[-1] return juzichen=['a','b','c']print(wei(chen))...
2020-03-09 18:39:00
202
2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人