catherined-CSDN博客

原创 python实现《机器学习》西瓜书习题5.7RBF网络解决异或问题

致敬：https://blog.csdn.net/Snoopy_Yuan/article/details/71024046RBF首先是确定神经元中心点ci，对于异或，训练集和验证集构造0 1取值的二维数据，四个0-1点即为中心点。然后根据103页公式计算w和β，代入径向基函数作为输出训练10次后错误率已经是10，毕竟RBF是能以任意精度逼近任意连续函数的，异或麻麻地啦主函数XOR_RBF....

2018-10-18 17:38:16 1418

原创 python实现《机器学习》西瓜书习题5.6自适应学习率的BP改进算法

致敬环节：https://blog.csdn.net/Snoopy_Yuan/article/details/70846554因为太难了，我选择直接抄，基本无改动。。。但有点意思的是，自适应学习率的最后，计算出的错误率是0.013，和固定学习速率一样，猜测源代码大神正好碰上了抖动，而我没碰上。不过从理解上，学习速率优化的目的是提升学习效率，画图能看到错误率减小的速率明显提升，但大量训练之后，...

2018-10-18 16:37:53 2912 2

原创 python实现西瓜书《机器学习》习题5.5BP算法

惯例，首先对源代码致以崇高的感谢和敬意：https://blog.csdn.net/Snoopy_Yuan/article/details/70230862学习神经网络，pybrain是个好东东，上链接http://pybrain.org/docs/index.html#installationmac系统安装python比较神奇的是，不用管环境变量，终端窗口里一顿pip3 install就能搞...

2018-10-18 11:10:38 2904

原创 python实现西瓜书《机器学习》习题4.4基尼指数决策树，预剪枝及后剪枝

大神代码：https://blog.csdn.net/Snoopy_Yuan/article/details/69223240昨天画不出树有点烦躁，随便找了百度了一点点，还是画不出来。今天这道题，其实就是把信息增益换成基尼指数，本质上的构造树逻辑是一致的。不过源代码有个小错误，在上面链接里已经评论了，好奇宝宝可以自己去看不过，奇葩的是前后剪枝算出来的准确率一毛一样，估计程序里还有问题，以后...

2018-10-14 19:19:14 4197 1

原创 python实现西瓜书《机器学习》习题4.3信息增益决策树

首先这篇的格式可能会乱，markdown装上以后，有时候是用csdn原来的编辑器，有时候就变成了markdown编辑器，蒙。更蒙的是，大牛的代码太飘逸了，有点看不懂，惯例先来原地址：https://blog.csdn.net/Snoopy_Yuan/article/details/68959025核心步骤有一个思路很赞，就是求信息增益时，用数组存储按某属性分类后，类别样本数，从而便于对熵求和。...

2018-10-12 20:59:32 3235

原创 python实现周志华西瓜书《机器学习》习题3.5LDA判别

本题感谢大神 https://blog.csdn.net/Snoopy_Yuan/article/details/64443841#抄https://blog.csdn.net/Snoopy_Yuan/article/details/64443841import numpy as npimport pandas as pdinputfile='/Users/huatong/Pycharm...

2018-09-10 17:07:22 1783

原创 python实现周志华西瓜书《机器学习》习题3.4 对比10折交叉验证和留一法的对率回归错误率

这道题仍然在抄大神代码的基础上写注释，首先感谢源代码： https://blog.csdn.net/Snoopy_Yuan/article/details/64131129感想是：sklearn是个好东西，如果没有现成的验证方法，光是10折验证就要造10个表格才行，而用现成的库，一行搞定，嗨森。 sklearn的API文档已收藏书签：http://scikit-learn.org/stab...

2018-08-24 12:11:12 4166

翻译 python实现周志华西瓜书《机器学习》习题3.3对数几率回归

python小白入手，第一个程序。首先感谢大牛的源代码：https://blog.csdn.net/onthewaygogoing/article/details/68485682大牛的思路很巧妙，把矩阵操作转化成列表操作，时刻保证列表代表的矩阵维度一致。我贡献的内容就是比较详细的注释，希望帮助更多的小白一起看懂#代码基本是抄https://blog.csdn.ne...

2018-08-20 16:42:55 5367 2

catherined的博客