- 博客(12)
- 收藏
- 关注
RSS订阅
原创 统计学习方法C++实现之六 支持向量机（SVM）
前言支持向量机（SVM）是一种很重要的机器学习分类算法，本身是一种线性分类算法，但是由于加入了核技巧，使得SVM也可以进行非线性数据的分类；SVM本来是一种二分类分类器，但是可以扩展到多分类，本篇不会进行对其推导一步一步罗列公式，因为当你真正照着书籍进行推导后你就会发现他其实没那么难，主要是动手。本篇主要集中与实现，即使用著名的序列最小最优化（SMO）算法进行求解，本篇实现的代码主要参考了Pla...
2019-02-18 20:03:45
1812
原创 统计学习方法c++实现之一 感知机
感知机前言最近学习了c++，俗话说‘光说不练假把式’，所以决定用c++将《统计学习方法》里面的经典模型全部实现一下，代码在这里，请大家多多指教。感知机虽然简单，但是他可以为学习其他模型提供基础，现在先简单回顾一下基础知识。感知机模型上图就是简单的感知机模型，其中fff 我们一般取符号函数sign(x)={−1,x<0+1,x≥0sign(x)=\begin{cases}...
2018-12-21 11:17:31
269
原创 星光大海，再起航
本以为以后再也不会干AI相关的事情了，从研究生时候开始慢慢接触了AI，开启了码农的生活，奈何学艺不精，离算法越来越远，工作后做了底层相关的一些开发，现在转换方向，重返AI战场，但是已经不是研究算法了，是为算法服务的，不过技术是没有贵贱的，踏踏实实的学好这部分，慢慢的拓展，写技术博客的事情也要重新拾起来了，星光大海，一路远航。...
2021-11-11 09:56:48
120
原创 TCP\IP协议实践：wireshark抓包分析之链路层与网络层
TCP\IP协议实践：wireshark抓包分析之链路层与网络层文章目录TCP\IP协议实践：wireshark抓包分析之链路层与网络层从ping开始链路层之以太网封装ip首部开启ping程序，开始抓包由一个ping的结果引出来的两个协议ARP ICMPARP：地址解析协议原理抓包结果ICMP：Internet控制报文协议抓包结果总结从ping开始我打算从一个ping命令的抓包结果来结合实际...
2019-06-22 14:43:23
4756
原创 使用unity3d和tensorflow实现基于姿态估计的体感游戏
使用unity3d和tensorflow实现基于姿态估计的体感游戏前言之前做姿态识别，梦想着以后可以自己做出一款体感游戏，然而后来才发现too young。但是梦想还是要有的，万一实现了呢。趁着paper发出去的这几天，做一个toy demo。研究了一下如何将姿态估计的结果应用于unity，参考了很多资料，最终决定使用UDP协议，让unity脚本接收python脚本的数据（关节点坐标），来达到...
2019-03-08 16:59:26
4684
7
原创 统计学习方法c++实现之八 EM算法与高斯混合模型
EM算法与高斯混合模型前言EM算法是一种用于含有隐变量的概率模型参数的极大似然估计的迭代算法。如果给定的概率模型的变量都是可观测变量，那么给定观测数据后，就可以根据极大似然估计来求出模型的参数，比如我们假设抛硬币的正面朝上的概率为p（相当于我们假设了概率模型），然后根据n次抛硬币的结果就可以估计出p的值，这种概率模型没有隐变量，而书中的三个硬币的问题（先抛A然后根据A的结果决定继续抛B还是C）...
2019-03-05 20:31:40
1010
原创 深入理解C/C++二维数组
深入理解C/C++二维数组前言本来以为自己对二维数组的理解还可以，没感觉有什么，但是今天小伙伴问了一个问题感觉迷惑了好久，于是决定细致的记录一下，一步一步的探究各种关于二维数组的问题，巩固基础。二维数组的探究之旅（初级）首先定义二维数组int a[3][3] = {1, 2, 3, 4, 5, 6, 7, 8, 9};然后开始研究二维数组名和地址的关系// 打印a a[0] 和 a...
2019-02-26 16:03:36
481
原创 统计学习方法ｃ++实现之七 提升方法--AdaBoost
提升方法–AdaBoost前言AdaBoost是最经典的提升方法，所谓的提升方法就是一系列弱分类器（分类效果只比随机预测好一点）经过组合提升最后的预测效果。而AdaBoost提升方法是在每次训练弱分类器的时候，提升上一个弱分类器误分类的数据的比重来让本次训练的分类器能够弥补上次分类器的不足。AdaBoost的概念和算法还是很好理解的，而且通过书上的例题可以很明显的感觉用一个很简单（计算量很小）...
2019-02-22 19:58:01
185
原创 统计学习方法c++实现之五 逻辑斯蒂回归
逻辑回归前言最早接触逻辑回归是在学习吴恩达老师的机器学习课程的时候，那个时候逻辑回归是跟在线性回归后面出现的，当时感觉这应该就是个“hello world”级别的机器学习模型（好像确实是），现在看到《统计学习方法》中的各种推导，才发现自己了解的太少，静下心来看逻辑回归模型和最大熵模型，发现确实蕴藏了很多统计学的基本原理，但是这系列博客重点是实现，所以这里就不进行推导了，书中讲的很详细了。代码地...
2019-01-19 15:59:45
250
原创 统计学习方法c++实现之四 决策树
决策树前言决策树是一种基本的分类和回归算法，书中主要是讨论了分类的决策树。决策树在每一个结点分支规则是一种if-then规则，即满足某种条件就继续搜索左子树，不符合就去右子树，看起来是用二叉树实现对吧，实际的CART决策树就是二叉树，等会再介绍。现在先来看看决策树的理论部分。代码地址https://github.com/bBobxx/statistical-learning/blob/mast...
2019-01-12 11:10:17
439
原创 统计学习方法c++实现之三 朴素贝叶斯法
朴素贝叶斯法前言朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设的分类方法，这与我们生活中判断一件事情的逻辑有点类似，朴素贝叶斯法的核心是参数的估计，在这之前，先来看一下如何用朴素贝叶斯法分类。代码地址[https://github.com/bBobxx/statistical-learning/upload,欢迎提问。基本方法朴素贝叶斯法必须满足特征条件独立假设，分类时，对给定的输入xx...
2018-12-21 11:22:12
485
原创 统计学习方法c++实现之二 k近邻算法
k近邻算法前言k近邻算法可以说概念上很简单，即：“给定一个训练数据集，对新的输入实例，在训练数据集中找到与这个实例最邻近的k个实例，这k个实例的多数属于某个类，就把该输入分为这个类。”其中我认为距离度量最关键，但是距离度量的方法也很简单，最长用的就是欧氏距离，其他的距离度量准则实际上就是不同的向量范数，这部分我就不赘述了，毕竟这系列博客的重点是实现。代码地址：https://github.co...
2018-12-21 11:20:39
352
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人