- 博客(6)
- 收藏
- 关注
RSS订阅原创 决策树
因为自己平时写计算的代码比较多，很少写树结构的（决策树算法的实现零零整整花了近两周），所以数据结构和代码效率上待优化的地方应该还有很多，仅提供给大家借鉴。类的定义自己网上搜到的代码很多都没有定义类，我自己对于这样的代码很是不喜欢，一点点看算法流程是看不下去的。因为是树，所以一定存在节点类和树类。节点类entropy是未分支前的交叉熵label表示的是当前节点的标签，那类数据多...
2019-05-06 16:53:22
176
原创 无约束问题的最小化
最近在看"Machine Learning A Probability Perspective"的逻辑回归，因为涉及些优化的算法，一起看书的伙伴们就决定把"Convex Optimization"优化的内容看一下。在阅读以下内容之前，要记住问题的出发点，即给定无约束的凸问题该用什么方法求得最优解（这里假设问题是求最小值）？各种方法之间有什么性质。也许最先想到的方法就是对变量求梯度，让它等于00...
2019-05-06 09:28:43
608
原创 线性回归
本文包含的内容有： 参数的求解 截距项的处理 脊回归 参数的计算技巧 贝叶斯角度的线性回归引言线性回归作为一个统计学里最基础的模型，广泛应用在各个场景下：如对房价的预测，销售额的预测。基础的线性回归模型表达如下：y=wTx+εε∼N(0,σ2)\begin{aligned}y&=\rm{w}^Tx+\varepsilon\\\varepsilon &am...
2019-04-22 11:57:11
194
原创 高斯分布相乘、卷积整理
文章包括的内容有： 一元高斯分布相乘的分布 多元高斯分布相乘的分布 一元高斯的卷积分布 应用：高斯线性系统的推导前三部分的参考文献Products and Convolutions of Gaussian Probability DensityFunctions. P.A. Bromile。应用的内容来自"machine learning a probabilistic persp...
2019-04-20 10:26:10
4503
转载 SVD直观理解
原文链接最近在看的MLAPP第七章中出现了多次SVD的内容，大学的时候只学了实对称矩阵的对角化，这次趁机会好好弥补一下。师兄给我发了一个张志华老师的SVD总结，总共一百多页，很数学让我看了就头大。相比之下，上面这篇文章就很基础和直观。文章大概的脉络如下：对一个向量左乘一个矩阵MMM相当于在M的列向量上进行了伸缩但是M的列向量不一定是正交的，可能进行旋转伸缩后得到的形状很奇怪我们想要将...
2019-03-29 11:29:14
326
原创 DBSCAN算法python实现
DBSCAN原理是基于距离定义密度，使用时用户需要自定义距离范围eps和最小点数minpt。DNSCAN的算法流程如下： 初始化核心点集，输入距离范围和最小核心点数 遍历数据点，在给定距离和最小核心点数的情况下，得到核心点集合并存储下每个点的邻接点 从核心点集中随机选出点，开始分簇。将其邻域点加入至簇成员集合中，邻域中的核心点存储下来再进行循环，直至簇核心点为空则簇划分完...
2019-03-26 09:32:31
1073
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人