- 博客(68)
- 收藏
- 关注
RSS订阅原创 人工智能实践-Tensorflow2.0 笔记3
人工智能实践-Tensorflow2.0 笔记6. 循环神经网络6.1. 循环核6.2 循环神经网络6.3 循环计算层6.4 tf 描述循环计算层6. 循环神经网络6.1. 循环核参数时间共享，循环层提取时间信息6.2 循环神经网络循环核按时间步展开借助循环核提取时间特征后，送入全连接网络yt=softmax(htwhy+by)ht=tanh(xtwxh+ht−1whh+bh)y_t=\text{softmax}(h_t w_{hy} + by) \\h_t=\text{tanh}(x_t
2021-05-26 17:39:29
179
原创 李宏毅2020机器学习2
李宏毅2020机器学习210. Classification10.1 Generative model 生成模型11. Logistic Regression12. Deep Learning13. Backpropagation14. Tips for Deep Learning15. 为什么选择deep15.1. Modularization15.2. End-to-end Learning16. PyTorch 介绍16.1. tensor.view16.2. Broadcasting16.3. Co
2021-04-08 07:52:55
352
原创 李宏毅2020机器学习1
李宏毅2020机器学习1. 简介2. 规定2.1. 环境2.2. Kaggle3. Regression3.1. Model3.2. 准备训练数据 Training Data，定义损失函数Loss3.3. Gradient Descent3.4. Overfitting 过拟合3.5. Regularization 正则化4. 误差从哪来？5. 梯度下降法8. 深度学习优化1. 简介机器学习就是自动找函式机器学习：语音识别，f(一段声音)=“How are you”图片识别，f(一张图片)=“C
2021-03-17 17:42:59
240
原创 人工智能实践-Tensorflow2.0 笔记2
人工智能实践-Tensorflow2.0 笔记4. 网络八股优化4.1. 优化内容概括4.2. 自制数据集4.3. 数据增强4.4. 断点续训4.5. 参数提取4.6. acc/loss 可视化4.7. 给图识物5. 卷积5.1. 卷积计算过程5.2. 感受野5.3. 全零填充5.4. TF描述卷积层5.5. 批标准化5.6. 池化 Pooling5.7. 舍弃 Dropout5.8. 卷积神经网络4. 网络八股优化4.1. 优化内容概括自制数据集，解决本领域应用数据增强，扩充数据集断点续训，存
2021-02-19 08:20:27
284
原创 gin-vue-admin编译
web端npm install -g cnpm --registry=https://registry.npm.taobao.orgcnpm inpm run serve
2021-02-03 11:05:21
216
原创 人工智能实践-Tensorflow2.0 笔记1
人工智能实践-Tensorflow2.01. 神经网络1.1. 人工智能三学派1.2. 神经网络设计过程1.3. 张量创建1.4. TF2 常用函数1.5. TF2常用函数21.6. 鸢尾花数据集读入1.7. 神经网络实现鸢尾花分类1.8. Tensorflow2 安装2. 神经网络优化2.1. 预备知识2.2. 复杂度、学习率2.3. 激活函数2.4. 损失函数2.5. 过拟合2.6. 优化器3. 使用keras快速搭建神经网络3.1. 六步法3.2. 自定义model3.3. mnist数据集3.4.
2021-01-19 11:37:54
217
原创 4. 神经网络
4. 神经网络4.1. TensorFlow4.1.1. TensorFlow 简介4.1.1.1. 安装4.1.1.2. 神经网络在干嘛4.1.2. Tensorflow 基础架构4.1.2.1. 结构4.1.2.2. 例子4.1. TensorFlow4.1.1. TensorFlow 简介由Google开发，可以先绘制计算结构图，神经网络中最好用的库之一4.1.1.1. 安装pip install tensorflow4.1.1.2. 神经网络在干嘛机器学习，其实就是让电脑尝试模拟已知的
2021-01-08 10:44:47
126
原创 机器学习
机器学习1. 机器学习介绍1.1. 分类1.2. 神经网络1.2.1. 人工、生物神经网络对比2. 强化学习3. 进化算法4. 神经网络5. 通用机器学习6. 自然语言处理7. 机器学习实战参考莫烦Python1. 机器学习介绍1.1. 分类监督学习 supervised learning无监督学习 unsupervised learning半监督学习 semi-supervised learning强化虚线 reinforcement learning遗传算法 genetic algori
2020-12-25 18:09:32
134
原创 网页爬虫
网页爬虫3. 网页爬虫3.1. 爬虫简介3.1.1. 为什么要用爬虫3.1.2. 了解网页结构3.2. BeautifulSoup解析网页3.2.1. 安装3.2.2. 使用CSS的class来选择内容3.2.3. 配合正则进行匹配3.3. Requests方式3.4. 爬虫加速3.5. 高级爬虫3.5.1. Selenium3. 网页爬虫3.1. 爬虫简介3.1.1. 为什么要用爬虫爬虫可以爬取很多信息3.1.2. 了解网页结构网页主要由许多标签构成，使用urlopen打开网页，然后使用正则表
2020-12-25 11:41:44
277
1
原创 Matplotlib画图
Matplotlib画图2. Matplotlib画图2.1. Matplotlib简介2.1.1. 为什么要用Matplotlib2.1.2. 安装2.2. 基本使用2.2.1. 基本用法二级目录三级目录2. Matplotlib画图2.1. Matplotlib简介2.1.1. 为什么要用Matplotlib非常强大，可以画各种类型的图2.1.2. 安装pip3.9 install -i https://pypi.tuna.tsinghua.edu.cn/simple matplotlib
2020-12-21 09:45:09
196
1
原创 数据处理
数据处理1. 数据numpy和pandas1.1. numpy & Pandas简介1.1.1. 为什么使用numpy和pandas1.1.2. 安装1.2. Numpy学习1.2.1. numpy的几个属性1.2.2. 创建数组1.2.3. numpy基础运算1.2.4. numpy索引1.2.5. 数组合并1.2.6. 数组分割1.2.7. 复制2. 画图Matplotlib3. 网页爬虫参考 莫烦PYTHON1. 数据numpy和pandas1.1. numpy & Pandas
2020-12-11 18:14:36
248
原创 基础
基础1. Python基础1.1. 安装1.2. 基本使用1.2.1. print功能1.2.2. 基础数学运算1.2.3. 变量variable1.3. while和for循环1.3.1. while循环1.3.2. for循环1.4. if判断1.5. 函数1.6. 变量作用域1.7. 模块安装1.8. 文件读写1.9. class类1.9.1. 定义1.9.2. 初始化1.10. input输入1.11. 元组、列表、字典1.11.1. 元组1.11.2. 列表1.11.3. 多维列表1.11.4.
2020-12-08 15:06:09
209
1
原创 反向传播算法推导
f(z)=11+e−zCost=12n∑iσ((wxi+b)−yi)2f(z)=\frac{1}{1+e^{-z}} \\\text{Cost} = \frac{1}{2n} \sum_i \sigma((wx_i+b)-y_i)^2f(z)=1+e−z1Cost=2n1i∑σ((wxi+b)−yi)21. 当 σ=1\sigma=1σ=1 时：1.1. xi and yix_i \text{ and } y_ixi and yi 为一维数据时
2020-11-27 16:45:30
104
原创 二重积分
二重积分1. 定义附录附录1. 二重积分1. 定义z=f(x,y)vol=∬Rf(x,y)dAvol=∫xminxmaxS(x)dxFor given x, S(x)=∫ymin(x)ymax(x)f(x,y)dy⇒vol=∫xminxmax∫ymin(x)ymax(x)f(x,y)dydxz=f(x,y) \quad \text{vol}=\iint_{R}{f(x,y)}\mathrm{d}{A} \\\text{vol}=\int_{x_{min}}^{x_{ma
2020-11-04 11:57:31
1355
原创 深度学习笔记
深度学习1. 深度学习之神经网络的结构2. 深度学习之梯度下降法1. 深度学习之神经网络的结构机器学习时，实际上就是通过数据，找一大堆的数字参数，让代价函数的值最小Sigmoid:Sigmoid=11+e−x\text{Sigmoid} = \frac{1}{1+e^{-x}}Sigmoid=1+e−x1ReLU（线性整流函数）:ReLU(a)=max(0,a)\text{ReLU}(a) = max(0, a)ReLU(a)=max(0,a)2. 深度学习之梯度下降法代价函数取决于网络
2020-10-29 16:26:48
105
原创 多变量微积分10-13
多变量微积分10. 二阶导检验11. 微分，链式法则12. 梯度，方向导数，切平面附录附录1. 梯度向量垂直于等值面的切平面附录2. 梯度下降法10. 二阶导检验函数的全局最值位于：临界点、定义域边界或无穷远处临界点类型：局部最大值、局部最小值或鞍点，由二阶导数判定假设函数f的二阶导数为：A=fxxB=fxyC=fyyA=f_{xx} \\B=f_{xy} \\C=f_{yy}A=fxxB=fxyC=fyy 那么：AC−B2>0 and A>0⇒lo
2020-10-23 18:09:29
171
原创 微积分的本质
微积分的本质1. 微积分的三个中心思想：微分、积分、互逆2. 导数的悖论3. 用几何来求导4. 链式法则和乘积法则参考3Blue1Brown中的视频1. 微积分的三个中心思想：微分、积分、互逆保留对称性，数学会给你奖励从近似到精确：许多实际问题可以近似成大量很小的东西加起来，这类问题最后都等价于求图像下的面积，怎么求任意图像下的面积？实话实说，找到这个面积，即积分函数，真的很难用图像下的面积定义的任何函数：2. 导数的悖论导数：瞬时变化率矛盾：在不同的时间点之间，变化才能发生，“瞬时”代表
2020-09-15 09:51:36
50714
1
原创 matlab代码
1. 旋转变换 clear;clc;clf; [x,y] = meshgrid(-3:1:3); z = x .* 0; mesh(x,y,z,'edgecolor','b'); hold on; [r,c] = size(x); x_1 = randn(r,c); y_1 = randn(r,c); for i = 1:r for j = 1:c temp = [cos(pi/4) s
2020-08-28 07:48:28
259
原创 洛必达法则和反常积分
L' Hospital's Rule: 洛必达法则：它主要处理0除以0不定式或无穷除以无穷不定式：它提供了计算不定式极限的技巧，包括一些新型的极限，例如：证明：假设无法直接处理，即：那么，计算极限的技巧为：例子：新型极限的处理，需要先将它转换为不定式：...
2020-08-17 10:48:49
1980
原创 导数的应用
1. 线性近似（linear approximations）主要用途：它能简化函数，一个合理的近似常可以帮助解决问题在工程学中，线性近似应用非常广泛，人们只需要关心输入改变量与输出改变量之间的线性关系证明：因为极限的定义为：所以x0处的极限为：用割线斜率近似切线斜率：假设有一条曲线 y = f(x)，那么它在切点处近似于其切线2. 二阶近似（quadratic approximation）相比于线性近似，二阶近似更精确一点二阶.
2020-07-16 10:47:05
1539
原创 matlab使用
1. 数组1.1.1.1.1.定义相同数据类型的元素按照一定顺序排列的集合1.1.2. 分类1 - 按样式分类空数组、只有一个元素的标量、只有一行或一列元素的向量、二维数组、多维数组1.1.3. 分类2 - 按存储方式分类普通数组、稀疏数组（大部分元素为0）1.2.1.2.1.创建中括号法[123; 4 5 6] 、冒号法 1:2:10 、linspace(1,10,2) 、使用创建函数创建（ones、zeros等）1.2.2. 四则运算...
2020-07-13 15:32:06
288
原创 微分方程
1. 定义什么是微分方程：包含未知函数的等式方程：包含未知数的等式注意：永远不会有一种方法，可以解所有的微分方程，直到现在，还存在着不能解的微分方程；人类所知的解这些方程的唯一途径，就是用计算机求数值解，事实上，在大多数应用里，那就是最后的办法；经济学、物理学中的微分方程常常不可解，因为它们会涉及到二阶或者三阶导数，很难求出解析解，事实上，你只能求出数值解，数值解通常简单很多。2. 区别微分方程和普通方程区别：普通方程的解是一个数或一组数；微分方程的解是一个函数或一组函数3. 分类
2020-05-30 21:22:02
8470
原创 微积分基础2-泰勒级数
1. 马克劳林级数-用多项式逼近任意函数选取一个中心点，然后用多项式逼近原函数，目的是为了用多项式代替原函数，因为多项式有很多优点：计算简单，求导简单，积分也简单Maclaurin series(马克劳林级数)：是一个多项式，其中心在0点，是泰勒级数的特例，泰勒级数可以选取任意的中心点推导马克劳林级数：假设原函数为f(x)，且可以计算出函数在0点处的值，并且也可以得到函数的各阶导数在0处的值，即f(0),f'(0),f''(0) ... 已知，那么我们可以不断增加多项式的项，用多项式来近
2020-05-22 11:23:36
809
原创 微积分基础-极限，导数，反导数
1. 瞬时变化率平均变化率-平均速度瞬时变化率-瞬时速度从平均速度引入瞬时速度比较合适。举例，对于平均速度来说，当时间差接近0时，平均速度就变成了瞬时速度平均速度又等于两点的斜率，当时间差接近0时，斜率(瞬时斜率)又等于曲线切线的斜率，因此曲线切线的斜率就是瞬时速度利用无限小增量的方式，就能得到某点的瞬时斜率斜率就是两点之间的平均变化率不指明方向叫速率，指明...
2020-04-12 21:53:10
5531
原创 ios打包上传注意事项
1. 先创建证书，再创建APP id，最后创建描述文件（用于关联证书和APPID）2. 先在苹果开发者后台添加APP信息，然后才能打包上传参考网址：https://blog.csdn.net/u014599371/article/details/93179084...
2020-04-07 15:15:34
166
原创 npm相关命令
npm: node package manager, node安装时，会下载npm命令。npx是npm引入的一条命令，它使用项目本地的包，不使用全局安装的包1. npm install xxx -g：全局安装xxx，安装路径：/usr/local/lib/node_modules/xxx npm install xxx: 本地安装xxx，安装路径：./node_modules/xxx...
2020-03-18 07:53:19
296
原创 二八、特征向量和特征值
1. 定义任意满足等式：的向量，称为变换T的特征向量，向量前的比例因子称为特征向量的特征值：为什么要讨论特征向量和特征值？因为特征向量是一组很好的基向量，变换矩阵在计算上非常简单。零向量无法作为基向量2. 特征值公式证明：假设因此因为向量v不等于0向量，所以B的零空间包含有非平凡元素，所以B的列向量是线性相关的，所以B不可逆，...
2020-02-23 20:52:53
798
原创 二七、标准正交基下求坐标、投影的简便方法
1. 定义如果一个基中的每一个向量长度为1，且任意两个不同的向量的点积等于0，那么该基就称为标准正交基，例如：2. 标准正交基的好处标准正交基有什么好处？它们可以构造很好的坐标系，此时求该坐标系中的坐标时，可以简化计算量假设：为子空间V的标准正交基，因此：通用的做法是：但如果维数较多，那么计算量会非常大；如果C不可逆，求解会更...
2020-02-19 17:37:22
6084
原创 二六、标准坐标与非标准坐标、标准基底的变换矩阵与非标准基底的变换矩阵的互相转换
1. 坐标定义假设V是Rn的一个子空间，V的一组基为：且此时，我们称常数为向量a在基B下的坐标:我们原来一直说的坐标为向量在标准基下的坐标，例如，R2的标准基为：向量在基S下的坐标称为标准坐标2. 基变换矩阵假设基B构成的矩阵为C：此时，矩阵C称为基变换矩阵，向量a称为标准坐标。...
2020-02-16 20:05:06
1821
原创 二五、最小二乘逼近
假设且方程无解，这意味着向量b不在A的列空间中：虽然方程无解，但我们可以求得一个与向量b最接近的解，即：最小时，方程：的解。因为向量在子空间的投影距离向量最近，因此：向量x*称为最小二乘解(least squares solution,estimate, approximation)，它不是真正意义上的解，它是一个最优解。...
2020-02-14 11:29:56
548
原创 二四、向量在子空间上的投影
1. 向量在直线上的投影2. 向量在子空间上的投影直线L实际上是一个特殊的子空间定义：假设V是Rn的一个子空间，V正交补是Rn的另一个子空间，Rn中的任意向量x为那么，向量x在子空间V上的投影为向量v，向量x在子空间V正交补上的投影为w，即：在二维、三维空间可以可视化，超过三维就没有办法可视化了3. 求向量在子空间上的投影假设V是Rn的一个子空...
2020-02-11 16:08:01
5878
原创 二三、A转置乘以A可逆
如果矩阵A的列向量线性无关，那么A转置乘以A可逆证明：假设矩阵A为：1. 如果矩阵A的列向量线性无关，那么：时都等于0，即：时，向量x为零，即矩阵A的零空间仅包含0向量2. A转置乘以A的零空间假设向量v为（A转置乘以A）的零空间中的任一向量：因此，向量v又是矩阵A的零空间中的元素，故向量v等于0向量，因此（A转置乘以A）的列...
2020-02-04 11:52:22
16171
1
原创 二二、方程Ax=b的行空间中的解
1.假设,那么，行空间中存在唯一的元素 ，是的解证明，假设：那么：Rn中存在一个或多个向量x，满足上面的等式下面画出Rn，矩阵A的列空间、零空间，A的零空间的正交补：其中：根据前面的介绍，假设：那么唯一性证明：假设行空间中的r1也满足上面的方程，则：又因为行空间是子空间，因此：因此：既属于A...
2020-01-21 11:22:25
708
原创 二一、正交补、转置矩阵的秩、子空间的维度
1. 定义如果可以找到一个集合，集合中的每一个元素正交于子空间V中的每一个元素，那么该集合就称为V的正交补；Orthogonal complement of V, 可以简称为V perp，V perpendicular. V is some subspace of Rn.2. V的正交补是子空间证明：假设a,b是V的正交补中的元素，那么1. a+b是V的正交补中的元素么...
2019-12-11 09:15:08
6181
原创 二十、转置矩阵
1. 定义假设交换A的所有行和列后，形成的新矩阵，即为矩阵A的转置矩阵：对一个矩阵进行转置的转置，结果是原矩阵：2. 下面为转置矩阵的性质分析矩阵时，我们主要从加法、乘法、零空间、列空间、秩、行列式等角度进行分析矩阵又分为原始矩阵、逆矩阵、转置矩阵等，我们会分析这几种矩阵的加法、乘法、零空间、列空间、秩、行列式等之间的关系2.1矩阵加法的转置矩阵加法的...
2019-10-31 10:07:42
12044
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人