- 博客(162)
- 资源 (1)
- 收藏
- 关注
RSS订阅原创 基于深度学习的推荐(六)：CTR预估经典模型NFM
文章目录公众号前言NFM模型代码实战参考公众号关注公众号:推荐算法工程师,输入"进群",加入交流群,和小伙伴们一起讨论机器学习,深度学习,推荐算法.前言早期做特征工程的时候,采用人工或决策树等来选择特征,然而这些方法无法学习到训练集中没有出现的特征组合.而近几年出现的基于embedding的方法,可以学习到训练集中没有出现的组合,作者将embedding方法归为两类,一类是FM这种线性模...
2019-10-25 17:02:30
744
1
原创 基于深度学习的推荐(三)：基于attention的AFM模型
公众号关注公众号:推荐算法工程师,输入"进群",加入交流群,和小伙伴们一起讨论机器学习,深度学习,推荐算法.前言从这周开始,我们关注基于attention机制的推荐模型,首先看下较早提出的AFM(Attentional Factorization Machines)模型.论文链接:https://www.ijcai.org/proceedings/2017/0435.pdf论文作者认为,...
2019-09-15 20:33:00
646
原创 基于深度学习的推荐(二)：基于FM初始化的FNN
公众号关注公众号:推荐算法工程师,输入"进群",加入交流群,和小伙伴们一起讨论机器学习,深度学习,推荐算法.前言论文地址:https://arxiv.org/pdf/1601.02376.pdf论文开源代码(基于Theano实现):https://github.com/wnzhang/deep-ctr参考代码(无FM初始化):https://github.com/Sherryuu/C...
2019-08-27 12:14:55
1054
1
原创 传统推荐算法(六)Facebook的GBDT+LR模型(2)理论浅析+实战
文章目录公众号前言GBDT+LR模型反思与总结GBDT局限性GBDT+LR缺点几十行代码的小例子参考公众号更多精彩内容请移步公众号:推荐算法工程师公众号后台回复”进群“，加入学习交流群，和小伙伴们一起学习，一起进步～前言介绍GBDT+LR背景点击率预估模型涉及的训练样本一般是上亿级别，样本量大，模型常采用速度较快的LR(logistic regression)。LR虽然是线性模型线性...
2019-08-24 10:27:05
2028
原创 传统推荐算法(六)Facebook的GBDT+LR模型(1)剑指GBDT
文章目录写在前面1. GBM1.1 从参数空间到函数空间：1.2 从非参估计到参数估计1.3 泰勒展开近似2. GBM的基学习器2.1 基学习器选择2.2 CART回归树3. GBDT之回归4. GBDT之分类4.1 二类逻辑回归和分类4.2 多类逻辑回归和分类5. 反思总结5.1 样本权重调整5.2 GBDT优缺点6. GBDT资料推荐参考公众号写在前面学习GBDT的时候，被网上的几篇文章...
2019-08-22 17:39:33
1805
2
原创 基于深度学习的推荐(一)：神经协同过滤NCF
文章目录写在前面1. NCF 原理1.1 GMF模型1.2 MLP1.3 NeuMF2. 几个重点2.1 显性反馈和隐性反馈2.2 逐点损失和成对损失2.2 正例和负例的选择2.3 训练集和测试集的划分2.4 预训练机制3. LFM和NCF的区别3.1 概述3.2 相同点3.3 不同点3.3.1 建模思想3.3.2 求解结果3.3.3 泛化能力3.3.4 实现方法3.3.5 学习能力4. 大家一起...
2019-08-10 21:56:36
12797
21
原创 传统推荐算法(五) FFM模型(3) 反思tf.estimator的小"bug"
文章目录写在前面训练过程中的指标显示tf.summarylog_hook参数阶段训练和直接训练tf.estimator的另一种使用结论参考写在前面有关如何使用tf.estimator，请官网中文版:https://www.tensorflow.org/guide/custom_estimators?hl=zh-cn有关tf.estimator检查点checkpoints的详细分析，请参考...
2019-08-06 20:49:58
1922
6
原创 传统推荐算法(五) FFM模型(2) 原理及实现
文章目录FFM写在前面:1.FFM基本原理2.注意事项2.1 省略零值特征2.2 样本归一化2.3 特征归一化2.4 隐向量维度2.5 参数量2.6 时间复杂度2.7 SGD寻优小技巧3. tensorflow实现参考公众号FFM写在前面:FM算法被用来解决解决稀疏数据下的特征组合问题.它的改进有不少.[1]中提出了基于FM的PITF(pairwise interaction tensor ...
2019-07-30 17:08:29
2546
3
原创 传统推荐算法(五) FFM模型(1) 逻辑回归损失函数
文章目录1. 逻辑回归2. y(1,0) 逻辑回归损失3. y(-1,-1) 逻辑回归损失公众号1. 逻辑回归逻辑回归使用回归手段来做分类问题(主要是二分类).它使用sigmoid函数减小预测范围,将线性回归的结果限定在(0,1)之间,并将其作为条件概率进行建模.[1]中解释了为什么这么做是合理的.对于单个样本,逻辑回归的构造函数为:]也就是给出了线性参数和x的条件概率函数.也就是似然概率...
2019-07-29 22:46:42
738
原创 传统推荐算法(三) 不一般的SVD++
SVD++在LFM中，只考虑了用户特征向量和物品特征向量（显示反馈）和偏置向量，在SVD++中，进一步考虑了用户对其有过浏览/评分行为的商品的隐式反馈.其中Nu是用户有过浏览等行为的物品组合，没有隐性反馈数据（比如浏览等）时，Nu和用户评过分的物品集合Ru就是重复的，此时一个数据用两次，给人两种不同模型的组合的感觉．隐性反馈的理解说说我自己的理解吧，感觉不像之前的LFM理解那么透彻，欢...
2019-07-04 22:00:41
1709
原创 传统推荐算法(一)利用SVD进行推荐（4）tensorflo实战SVD推荐
1.SVD用于推荐本文的SVD推荐不是FunkSVD，是利用我们在上篇文章中分析过的SVD分解进行推荐。怎么说呢？这才是真正的SVD推荐！应用的思路是在基于物品的协同过滤的基础上，利用SVD将物品稀疏表示转化为低维的特征表示。2.实战这部分的代码改自机器学习实战的第14章，保证可读性不保证运行效率。2.1 基于物品的协同过滤计算过程：对每个用户u未评分的物品item: 对每个u已评...
2019-06-14 22:54:48
2185
原创 传统推荐算法(一)利用SVD进行推荐（3）6个层面透彻了解奇异值分解
文章目录写在前面1. 从几何变换到奇异值分解2. 代数角度理解奇异值与奇异向量2.1 从正交基映射推导SVD2.2 特征值分解求解奇异值和奇异向量2.2.1 求解过程2.2.2 推论2.3 SVD的另一种形式3. 几何角度理解奇异值与奇异向量3.1 从坐标变换理解3.1.1 从例子到一般3.1.2 两个问题3.2 形变的角度理解奇异值4. 奇异值的最好解读5. 特征值分解和奇异值分解区别6. 奇异...
2019-06-14 22:08:03
2354
1
原创 传统推荐算法(一)利用SVD进行推荐（2）特征值与特征向量的直观理解
勘误1.上篇文章标题应该为：矩阵相乘的本质而不是“矩阵分解的本质”。2.上篇文章中"为什么非对称实矩阵不能像实对称矩阵一样分解呢？因为非对称实矩阵不能找到一组正交基(无解)，使得矩阵相乘达到只在这组正交基的基向量上进行缩放。"这种说法不准确，不过结合这句话下面的内容大家应该可以理解我在说什么。就是非对称实矩阵无法进行形如A=USU-1的特征值分解。写在前面英国的数学家凯莱 (A.Cayle...
2019-06-07 00:14:21
1474
原创 传统推荐算法(一)利用SVD进行推荐（1）五个角度看矩阵乘法的本质
写在前面在机器学习算法中，矩阵相乘非常常见。对矩阵乘法这种底层操作进行分析，有时候可以帮助我们更好地理解算法。那矩阵乘法的本质到底该怎样理解呢？针对这个问题，我查阅了很多资料，大体上可以分为5个角度来解读，现整理如下，分享给大家。需要说明的是，1,2,3,4章对矩阵乘法的分析都是向量左乘矩阵，当然这很容易扩展到矩阵相乘，但是不免有一些局限性，只能说提供一些思考的思路。部分内容对其他文章的直接...
2019-06-01 23:26:22
1590
原创 深度学习笔记（一）DNN-在mnist数据集上用keras搭建dnn
本文代码运行的环境为:ubuntu 16.04 64cuda=9.0cudnn=7.0.5tensorflow=1.12.0python=3.6.4(anaconda 3.5.1)1. Keras 简介Keras 是一个用于构建和训练深度学习模型的高阶 API。它可用于快速设计原型、高级研究和生产。当我们有一些新的想法时，可以借助keras快速实现。tensorflow1.x是支...
2019-05-28 23:10:17
1505
原创 深度学习笔记（一）DNN-在mnist数据集上用tensorflow搭建dnn
深度学习笔记-DNN-tensorflow手写数字识别本文代码运行的环境为:ubuntu 16.04 64cuda=9.0cudnn=7.0.5tensorflow=1.9.0python=3.6.4(anaconda 3.5.1)本文包含的知识点有:DNN基本概念DNN和多层感知机区别神经网络层数到底怎么回事Mnist数据集介绍tensorflow定义网络结构...
2019-05-23 00:22:26
2062
原创 csdn修改博客皮肤
哇，之前大白挺好看的，现在被改得丑死了！想换个皮肤来着，没想到啊，不让换！还好在网上找到了教程,尤其感谢博友 前行中632按F12进行调试，找到博客皮肤对应的div标签修改checked属性位置，选择皮肤这里选择想使用的博客皮肤对应的div块标签，在input标签中增加checked属性，当然原先的那个checked要删掉。保存也可以直接在当前博客皮肤的代码上进行修改，改成你...
2019-03-07 17:13:14
592
原创 二叉树--中序遍历和后序遍历建树
传送门：Rebuild binary tree from sequences of infix order and post order 总Time Limit: 500ms Memory Limit: 65535kB Description We know how totravel along a binary tree in three kinds of depth-f...
2018-04-11 21:51:33
1992
1
原创 二叉树--文本二叉树
传送门：Binary Tree in Text Description As the diagramshown above, every node is represented by a letter in the binary tree and theletters are different from each other. It can be represented below...
2018-04-10 21:53:59
1002
1
原创 二叉树--字典树应用--Hardwood Species
传送门：Hardwood Species 总时间限制: 10000ms 内存限制: 65536kB 描述 Hardwoods are the botanical group of trees that have broad leaves, produce a fruit or nut, and generally go dormant in the winter. ...
2018-03-06 23:14:30
989
1
原创 二叉树--利用二叉树特性求解--Binary Tree
传送门：Binary Tree========================================================总时间限制: 1000ms 内存限制: 65536kB描述BackgroundBinary trees are a common data structure in computer science. In this problem we will look...
2018-01-15 21:17:08
309
原创 二叉树--由前序遍历和中序遍历建树
传送门：Tree Recovery题目 8:Tree Recovery 总Time Limit: 1000ms Memory Limit: 65536kB Description Little Valentine liked playing with binary trees very much. Her favorite game was con...
2018-01-15 20:10:02
1532
原创 二叉树--二叉搜索树
超链接：二叉搜索树总Time Limit: 1000ms Memory Limit: 1024kBDescription 二叉搜索树在动态查表中有特别的用处，一个无序序列可以通过构造一棵二叉搜索树变成一个有序序列，构造树的过程即为对无序序列进行排序的过程。每次插入的新的结点都是二叉搜索树上新的叶子结点，在进行插入操作时，不必移动其它结点，只需改动某个结点的指针，
2017-12-27 22:00:22
899
原创 二叉树--Huffman编码树--优先队列解法
超链接：Huffman编码树总时间限制: 1000ms 内存限制: 65535kB描述构造一个具有n个外部节点的扩充二叉树，每个外部节点Ki有一个Wi对应，作为该外部节点的权。使得这个扩充二叉树的叶节点带权外部路径长度总和最小： Min( W1 * L1 + W2 * L2 + W3
2017-12-27 20:17:29
639
原创 二叉树--Sequence--利用优先队列贪心求解最优匹配
超链接：SequenceDescription给定m个数字序列，每个序列包含n个非负整数。我们从每一个序列中选取一个数字组成一个新的序列，显然一共可以构造出n^m个新序列。接下来我们对每一个新的序列中的数字进行求和，一共会得到n^m个和，请找出最小的n个和Input输入的第一行是一个整数T，表示测试用例的数量，接下来是T个测试用例的输入每个测试用例输入的第一
2017-12-26 23:10:32
1869
原创 二叉树--求二叉树的深度
传送门：二叉树的深度题目：总Time Limit: 1000ms Memory Limit: 65535kBDescription给定一棵二叉树，求该二叉树的深度二叉树深度定义：从根结点到叶结点依次经过的结点（含根、叶结点）形成树的一条路径，最长路径的节点个数为树的深度Input第一行是一个整数n，表示二叉树的结点个数。二叉树结点编号从1
2017-12-26 19:14:11
1283
原创 二叉树--二叉树节点交换和前驱查询
链接：二叉树的操作题目：总Time Limit: 1000ms Memory Limit: 65535kBDescription给定一棵二叉树，在二叉树上执行两个操作：1. 节点交换把二叉树的两个节点交换。2. 前驱询问询问二叉树的一个节点对应的子树最左边的节点。Input第一行输出一个整数t(t 对于每组测试数据，第一行
2017-12-25 21:25:51
1405
原创 二叉树--堆的实现
题目： Heapsort implementation（堆实现）总Time Limit: 3000ms Memory Limit: 65535kBDescriptionGiven a Array, initially empty, with twokinds of operations:1. Add an element, insert a new elementinto the array.2....
2017-12-24 23:06:02
824
原创 四分树--uva297
题目：uva297分析：模拟画图过程，将s[p:]划到行为r，列为c，宽度为w的正方形中。一开始用x,y，把自己搞晕了。还是用r,c好一点。ps:buff,ans,T分开定义竟然会超时！！！！还是放在一起int....;比较好#include <cstdio>#include <cstring>const int maxn = 1025;//不会多于32*32cha...
2017-12-19 22:32:23
383
3
原创 二叉树--uva699 二叉树递归遍历
题目：The falling leaves分析：看起来还是需要递归建树，做完了uva839后，这题的建树就没问题了，关键是怎么存储每一列的值呢？链表？也太麻烦了。。。看了刘大爷这部分的处理，从数组中间开始赋值，然后左右递归处理。豁然开朗。由题意col ps:题目说用空格把output分开，结果我在最后一个值后面也加了空格，wa了多次，醉了。#include #incl
2017-12-16 22:38:50
225
原创 二叉树--uva839 二叉树递归遍历
题目：Not so mobile分析：需要动态判断输入值，怎么破啊！没有一点思路。。。看了刘大爷的代码，思路豁然开朗。1.需要根据输入递归建树，直接递归2.递归时要考虑到w的更新，所以每次引用w（比指针快）更新w，这样就达到了递归建树而且不停更新w的效果#include #include using namespace std;bool solve(int &w)
2017-12-16 22:21:43
194
原创 二叉树--uva548Tree 二叉树递归遍历
题目：uva548分析：还能说什么，直接看懂了刘大爷的代码然后自己敲一遍啊。ps:自己写的build_tree函数果然没有刘大爷的简洁，醉了。而且啊，自己用cin.get()写的输入函数也没有刘大爷的stringstream好用啊。#include #include #include #include using namespace std;const int maxn
2017-12-15 22:16:59
294
原创 二叉树--由中序遍历和后续遍历重建二叉树
题目：传送门 描述 我们知道如何按照三种深度优先次序来周游一棵二叉树，来得到中根序> 列、前根序列和后根序列。反过来，如果给定二叉树的中根序列和后根> 序列，或者给定中根序列和前根序列，可以重建一二叉树。本题输入一> 棵二叉树的中根序列和后根序列，要求在内存中重建二叉树，最后输出> 这棵二叉树的前根序列。 用不同的整数来唯一标识二叉树的每一个结点，下面的二叉树 中
2017-12-07 23:40:06
1256
原创 二叉树遍历的非递归写法（伪代码）
stacks;Binary pointer = root;//前序遍历的非递归写法s.push(null);while(!s.empty()) {//或者pointer visit(pointer->value); if(pointer->right) s.push(pointer->right); else if (pointer->left) visit(pointer->lef
2017-12-07 22:47:13
3371
原创 二叉树--uva122 二叉树层次遍历（结构体+指针解法）
题意：输入一个二叉树，让你按照从上到下，从左到右的顺序输出这颗二叉树。分析：参考刘大爷的代码，先自己实现一下。带我熟悉二叉树后再自己写一个解法。#include #include #include #include #include #include #include #include #include #include #include #include #inc
2017-12-06 22:52:11
474
原创 二叉树--uva 679 Dropping Balls 二叉树数组模拟
题意：n组数据，每组给定树的深度d和球的个数i，求每组第i个球组后落在哪。分析：模拟球下落的过程即可。思路一：对于每组球，模拟开关的状态，一个一个下落，最后获得结果。超时了妥妥的。/*@Filename: code.cpp@Author: wyl6 @Mail: [email protected]@Thought:*/#include #includ
2017-11-30 16:05:11
291
原创 双链表--uva12657 Boxes in a Line 从入门到放弃
分析：/*思路：用双向队列记录点的左右节点，每次移动进行更新。op == 4的时候需要链表反转，这个操作很麻烦，不如直接用inv记录。每次取反。inv为1的时候相当于不动，inv为0的时候我们的链表相当于反转的逆序。拿1234来说，inv为1是4321.此时1 2 4 是2341,我们直接操作就是3-op2就是，2 2 4生成1342，生成2431的逆序。而当n为奇数时，正逆求和一样；
2017-11-29 22:31:47
283
原创 单链表--uva 11988 Broken Keyboard 从入门到放弃
分析：/*思路：用s数组存储字符串；用光标指定元素位置，下一个元素插入时在光标位置后面；用next数组记录指向的下一个元素，在数组上构建链表关系；将光标在字符串中移动，模拟输出结果构建链表关系，最后根据链表将数据输出。注意：链表一般有个头节点，可以将s[0]空出来对应头节点。*/代码：#include #include #include #include #inclu
2017-11-29 22:27:03
186
原创 单调队列--poj2823 从入门到放弃
Sliding WindowTime Limit: 12000MS Memory Limit: 65536KTotal Submissions: 64041 Accepted: 18262Case Time Limit: 5000MSDescriptionAn array of size n ≤ 106 is
2017-11-27 23:21:08
465
原创 poj2970The lazy programmer 优先队列+贪心
The lazy programmerTime Limit: 5000MS Memory Limit: 65536KTotal Submissions: 2421 Accepted: 605DescriptionA new web-design studio, called SMART (Simply Masters
2017-11-26 22:42:29
440
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人