- 博客(8)
- 收藏
- 关注
RSS订阅原创 Kmeans，Kmeans++，Elkan Kmeans实现解析(Sklearn)
1 背景2 KmeansKmeans的主要步骤大致分为三步：随机找 k 个点作为质心（种子）；计算其他点到这 k 个种子的距离，选择最近的那个作为该点的类别；更新各类的质心，迭代到质心的不变为止。3 Kmeans++Kmeans++则对于Kmeans在初始化起始簇类中心的选取方法上进行了优化，其初始化的核心思想还是基于簇间距离大，簇内距离小的思想来完成的，其步骤如下：输入n个点随机一个点做c1计算其余点和c1的距离，以距离大小为正比计算概率，选取下一个质心c重复3，
2022-04-21 21:48:40
2118
原创 梯度提升树原理分析与源码实现
1 GBDT1.1 泰勒展开泰勒公式是一个用函数在某点的信息描述其附近取值的公式。一阶泰勒展开：f(x)≈f(x0)+f’(x0)(x−x0)f(x)\approx f(x_0)+f^{’}(x_0)(x-x_0)f(x)≈f(x0)+f’(x0)(x−x0)二阶泰勒展开：f(x)≈f(x0)+f’(x0)(x−x0)+f′′(x0)(x−x0)22f(x)\approx f(x_0)+f^{’}(x_0)(x-x_0)+f^{''}(x_0)\frac{(x-x_0)^2}{2}f(x)≈f
2022-01-07 16:05:28
803
原创 Informer源码分析
首先是数据准备阶段的入口函数，位于Exp_Informer类的train函数内self._get_data的实现如下，该函数主要就是根据所选择的数据集加载数据，之后构建DataSet和DataLoader：数据集的加载可以按照不同的时间粒度进行构建，这里以Dataset_ETT_hour类为例子，其__init__函数如下在初始化时最重要的函数就是_read_data_1.1 时间的处理在上面read_data中需要详细了解的是time_features函数，该函数的实现如下：time_feat
2021-12-28 17:32:11
10312
19
原创 CART树实现
# encoding=utf8import numpy as npimport matplotlib.pyplot as pltfrom random import randrangefrom collections import defaultdict, CounterDISCRETE_FLAG = 0CONTINUOUS_FLAG = 1class Node: def __init__(self, fea=None, val=None, res=None, flag=None,
2021-11-29 15:08:32
43
原创 HMM(2) Baum-Welch算法推导
HMM(2) Baum-Welch算法推导在上一篇博客中介绍了HMM前向后向算法的推导过程，本次介绍的Baum-Welch算法是用来解决HMM的第二个问题的，即在已知观测序列OOO，但不知道隐状态序列QQQ和模型参数λ\lambdaλ时，如何去估计参数λ\lambdaλ。1 EM算法介绍和推导由于Baum-Welch算法的推导过程其实是通过EM算法的思想来进行的，所以在这之前我们需要先对EM...
2020-01-31 20:50:45
718
1
原创 HMM(1)前向后向算法推导
HMM（1）前向后向算法推导看了很多博客的HMM模型，自己做一个总结加固知识点的记忆。1 HMM基础知识点对于HMM模型，其主要是处理序列问题，并且该问题包括一个表象的观测序列和一个可能无法直接观察到的隐藏序列（或者叫状态序列），且这两个序列都是包括TTT个时刻的序列。观测序列的数学表达如式（1-1），状态序列的数学表达如式（1-2）：O={o1,o2,...,oT}(1-1)O=\lbr...
2020-01-19 14:30:32
1728
2
原创 Resnet Tensorflow源码实现解析（1）
这次开始读一个基于tensorflow的resnet的完整实现的源码，整个项目一共包含了三个文件cifar_input.py、resnet_main.py、resnet_model.py。这次先针对cifar_input.py文件进行源码的解析，该文件主要是实现数据集的预处理和读入的功能，具体代码先贴在下面。import tensorflow as tfdef build_input(dat...
2018-09-30 16:32:09
590
2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人