- 博客(3)
- 资源 (1)
- 收藏
- 关注
RSS订阅
原创 从梯度下降到反向传播
这里写自定义目录标题从梯度下降到反向传播1 梯度下降1.1 偏微分1.2 梯度下降2 反向传播2.1 矩阵乘法求导2.1.1 数学中的乘法（$.$）求导2.1.2 numpy中的默认乘法，对应位置相乘 （$\cdot *$） 求导2.2 反向传播算法2.2.1 求每一层的误差 $\delta$2.2.2 求每一层权重的偏导数 $\partial J\over\partial \theta^{(i)...
2019-01-14 11:32:45
430
原创 详细推导PCA算法（包括算法推导必备的知识）
详细推导PCA算法1 PCA优化目标2 理论依据2.1 矩阵换基底2.2 拉格朗日乘子法2.3 协方差矩阵2.4 特征向量和奇异值分解2.4.1 特征向量2.4.2 奇异值分解2.4.3 特征向量和奇异值分解的关系3 PCA3.1 PCA推导3.2 PCA过程总结本文主要思路如下：1 PCA优化目标PCA（主成分分析）是一种数据降维的方法，即用较少特征地数据表达较多特征地数据（数据压缩，P...
2019-01-26 12:59:52
3206
1
原创 梯度更新方法总结
梯度更新举例说明对于逻辑归回梯度求解：假设预测输出函数：h(x0,x1,...,xn)=∑i=0nθixi+θ0h(x0,x1,...,xn)=∑i=0nθixi+θ0h(x_0, x_1,...,x_n)=\sum_{i=0}^n \theta_i x_i+\theta_0 i：一次输入中，第i个数据实际输出：yyyCost Function函数：J(θ0,θ1,...
2018-02-23 10:32:37
6301
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人