weixin_43864473的博客

原创 python中的一些小trick

1. set用处个人之前一直没怎么用过set，直到今天我在写一段代码的时候发现in关键字和set对象简直天生一对。a = list(...)if b in a: ...上面这段代码相信大家都写过，但如果将list对象转换成为set，那么代码速度将大大提升。本质上set和dict都是用散列表方式存储，学过数据结构的我们知道给一个数/字符(串)对象，可以通过哈希函数快速计算这个对象对...

原创 研究记录—tensorflow2.0内核下的Keras学习

Keras源码记录Keras.Model功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入Keras.ModelMod...

原创 FM的DNN实现——隐向量可以认为就是embedding学习的权重

之前一直在思考怎么实现FM，后来在看DeepFM的时候，被一句话点醒，如下。DeepFM论文中有这么一句话：the latent feature vectors (V ) in FM now server as network weights which are learned and used to compress the input field vectors to the embedd...

原创 python中的list()和[]的坑

list(a)会对a中的全部元素进行遍历，之后组成一个list[]仅仅是将a这个整体当成list的第一个元素a = dict().fromkeys([1,2,3],0)print([a])print(list(a))结果：[{1: 0, 2: 0, 3: 0}][1, 2, 3]今天在写keras的时候就遇到了这个问题model = tf.keras.models.Model...

原创 embedding的个人笔记

参考博客：https://blog.csdn.net/weixin_42078618/article/details/82999906https://blog.csdn.net/u010412858/article/details/77848878https://blog.csdn.net/songyunli1111/article/details/85100616https://spa...

原创 dict.fromkeys的坑

import jsondisease_key = [u’脓毒’, u’心衰’, u’冠心’, u’胸痛’, u’脑出血’, u’胃肠出血’]main_disease_count = dict.fromkeys(disease_key, [])value = main_disease_count[u’脓毒’].append(1)print(json.dumps(main_disease_co...

原创 机器学习特征选择：传统互信息、k-nearest neighbor互信息

研究了下sklearn.feature_selection()中参考的Estimating Mutual Information论文与Mutual Information between Discrete and Continuous Data Sets论文，整理一篇基于k-最近邻的互信息算法。

原创 3.3 softmax回归推导及python实现

from sklearn import datasetsfrom sklearn.model_selection import train_test_splitimport numpy as npdata = datasets.load_iris()X = data['data']y = data['target']# n:特征数，k:标签数n = X.shape[1]labe...

原创 4.1 广义线性模型之Possion回归模型的SGA实现(与statsmodels中的Possion对比)

在2.3节中，我们从广义线性模型推导出了Possion分布模型，这个模型在sklearn.linear_model中并没有实现，由此，我认为有实现的必要。在Github上浏览的时候，发现在statsmodels.discrete.discrete_model中实现了此模型，因此，在这里，我给出自己实现的Possion回归模型实现代码并与其进行效果对比。import numpy as npimp...

原创 1.1 sklearn.datasets中make_moons与make_regression的深度解析

原创 2.3 广义线性模型与Possion回归模型

原创 2.2 指数族分布(以伯努利、高斯、泊松为例)

原创 3.2 牛顿方法下的Logistic回归及Python实现

import matplotlib.pyplot as pltfrom matplotlib.colors import ListedColormapimport numpy as npfrom sklearn.datasets import make_moonsfrom sklearn.linear_model import LogisticRegressionCVnp.rando...

原创 3.1 Logistic回归原理，参数推导及Python实现

import matplotlib.pyplot as pltimport numpy as np#假设def logistic(x): return 1/(1+np.exp(-x))#随机梯度下降def SGD(X,Y,a=0.001): theta = np.mat([0, 0], dtype='float64') for time in range(300...

原创 2.1 最小二乘与最大似然估计

原创 1.4 局部加权回归的正规方程推导及实现

import numpy as npimport matplotlib.pyplot as plt#定义维度m=40n=2#定义一个正态分布，参数分别为均值，方差以及X的行向量def guassianDistribution(mean,var,x): return 1/np.sqrt( 2 * np.pi * var )*np.exp( - (x-mean) ** 2 /...

原创 1.3 欠/过拟合，局部加权回归(Loess/LWR)及Python实现(基于随机梯度下降）

import numpy as npimport matplotlib.pyplot as plt#定义一个正态分布，参数分别为均值，方差以及X的行向量def guassianDistribution(mean,var,x): return 1/np.sqrt( 2 * np.pi * var )*np.exp( - (x[1]-mean) ** 2 / (2*var) )#定义...

原创 1.2 正规方程的推导及Python验证

原创 1.1 线性回归中的两种梯度下降算法(cs229)及其Python实现(纯列表)

原创 1.3 高斯分布、似然估计意义及其局限性

原创 2.5 Python中序列拼接的要点

原创 2.4 Python中的基本切片、多维切片及原理

原创 2.3 元组拆包及具名的应用

原创 1.2 概率密度、期望、方差与协方差

原创 1.1 概率论中的加和规则、乘积规则，先验及后验概率