- 博客(18)
- 收藏
- 关注
RSS订阅原创 多任务学习优化Gradient Normalization
多任务学习优化1、多任务学习模型对于多任务的loss，最简单的方式是直接将这两个任务的loss直接相加，得到整体的loss，那么loss函数为：L=∑Li(1.1)L=\sum L_i \tag{1.1}L=∑Li(1.1)在这里，模型的整体 loss 是所有子任务的 loss 之和。这种 loss 计算方式的不合理之处是显而易见的，不同任务 loss 的量级很有可能不一样， loss 直接相加的方式有可能会导致多任务的学习被某个任务所主导或学偏。当模型倾向于去拟合某个任务时，其他任务的效果
2021-08-17 16:22:08
1398
1
原创 TensorFlow的优化类公式
优化器TensorFlow的优化类主要有以下几个：GradientDescentOptimizer：最普通的批量梯度下降，令学习速率为η\etaη，ttt代表本次迭代，t+1t+1t+1代表下次迭代，则梯度迭代公式如下：θ????+1=θ????−η∂l(θ)∂θ\theta_{????+1}=\theta_????−\eta\frac{\partial l(\theta)}{\partial \theta}θt+1=θt−η∂θ∂l(θ)AdagradOptimizer：进行参数迭代
2021-06-09 15:15:21
209
原创 AUC原理详细讲解
一、AUC含义首先，在试图弄懂AUC和ROC曲线之前，首先要彻底理解混淆矩阵的定义！混淆矩阵中有着Positive、Negative、True、False的概念，其意义如下：称预测类别为1的为Positive（阳性），预测类别为0的为Negative（阴性）。预测正确的为True（真），预测错误的为False（伪）。对上述概念进行组合，就产生了如下的混淆矩阵：然后，由此引出True Positive Rate（真阳率）、False Positive（伪阳率）两个概念：TPRate=TPT
2021-06-09 10:51:37
18149
3
原创 C++模板
C++ 模板模板是泛型编程的基础，泛型编程即以一种独立于任何特定类型的方式编写代码。模板是创建泛型类或函数的蓝图或公式。库容器，比如迭代器和算法，都是泛型编程的例子，它们都使用了模板的概念。每个容器都有一个单一的定义，比如 向量，我们可以定义许多不同类型的向量，比如 vector <int>或 vector <string>。您可以使用模板来定义函数和类，接下来让我们一起来看看如何使用。一.函数模板1.模板函数定义template <typen
2021-02-05 14:14:13
147
原创 C++匿名函数
匿名函数lambda表达式一.匿名函数的简单使用匿名函数（英文名：lambda）就是没有名字的函数。最简单的匿名函数是[](){}，它没有参数也没有返回值。在匿名函数中，[]里面用来捕获函数外部的变量，而()里面就是匿名函数的参数，{}里面就是函数的执行代码。1.1一个简单的示例：#include<iostream>using namespace std;int main(){ // 注： /** [=]表示值传递方式捕捉所有父作用域的变量包, 括this [&
2021-02-05 14:12:52
8595
6
原创 C++中Map的基本操作总结
C++中Map的基本操作总结Map多会和pair一同使用,因此我们先介绍一下pair。一. pair的介绍1.pair的应用pair是将2个数据组合成一个数据，2个数据的类型可以不同,当需要这样的需求的时候就可以使用pair。STL中的map就是将key和value放在一起保存。当一个函数需要返回2个数据的时候，可以选择pair。2.定义(构造):pair<int, double> p1; //使用默认构造函数pair<int, double> p2(1,
2021-02-05 14:10:48
411
4
原创 MAC最详细配置rz/sz命令
Mac服务器文件交互在Mac中使用rz,sz命令去和服务器进行文件交互，下面介绍一下如何配置MAC上的rz,sz。1、安装iterm2Mac自带的终端是不支持lrzsz，需要下载Mac上强大的终端工具–Iterm2。官网链接附上。2、安装brewbrew是Mac上的一个包管理工具，可以很方便的安装各种软件，Mac上默认安装了ruby，在item2终端下执行如下命令即可：/usr/bin/ruby -e "$(curl -fsSL https://raw.githubusercontent.com
2020-08-02 23:45:59
5220
2
原创 python中的引用的理解，进而理解浅copy和深copy
python中的引用首先，Python中一切事物皆对象，变量是对对象在内存中的存储和地址的抽象。所有的变量都可以理解是内存中一个对象的“引用”，或者，也可以看似c中void*的感觉。python中统一都是引用传递，同时要注意类型是属于对象的，而不是变量。而对象有两种,“可更改”（mutable）与“不可更改”（immutable）对象。在python中，strings, tuples, 和n...
2020-04-23 01:31:37
169
原创 更改C盘中Pycharm缓存文件目录
更改C盘中Pycharm缓存文件目录问题描述：Pycharm在使用过程中，Pycharm会生成大量缓存文件，而这些缓存文件默认存储在C盘的用户目录里面，导致C盘空间被占用。通常这种缓存文件都是放在C盘的用户目录，比如我的windows10的用户名为Ezra，那么缓存的地址就在该目录C:\Users\Ezra。实际上你可以看到该目录下有很多软件的缓存。很占空间。因此我们选择在安装好Pych...
2020-04-23 01:29:51
8954
2
原创 linux之ls命令的使用（详细到爆炸的博客）
ls命令ls命令是linux下最常用的命令。ls命令就是list的缩写，缺省下ls用来打印出当前目录的清单。如果ls指定其他目录，那么就会显示指定目录里的文件及文件夹清单。 通过ls 命令不仅可以查看linux文件夹包含的文件，而且可以查看文件权限(包括目录、文件夹、文件权限)，查看目录信息等等。ls 命令在日常的linux操作中用的很多!1. 命令格式ls [选项] [目录名]2...
2020-04-23 01:26:47
1176
原创 达观数据笔试题目最长子串和去除链表重复元素
达观数据笔试题目题目1 ：给定一个字符串，找到最长子字符串的长度，要求子字符串中所有字符不重复。Example:Input: "abcabcbb"Output: 3Explanation: 满足条件的最长子字符串为 "abc", 长度为3.思路：解法一：这一题如果使用暴力解法时间复杂度较高。暴力解法就是两层循环遍历判断是否遇到重复解法二：用滑动窗口的方式时间复杂度较...
2020-04-23 01:24:35
570
原创 凝固度和自由度提取关键词
凝固度和自由度提取关键词参考文献1.凝固度概念含义：一个字组合片段里面字与字之间的紧密程度。比如“琉璃”、“榴莲”这样的词的凝固度就非常高，而“华为”、“组合”这样的词的凝固度就不是很高。比如：我们抽取一段文字中的某一个词，怎么才能断定它是一个词呢，通常我们使用频次来断定一段文字是否是词。但是2400万的语料中“的电影”出现389次“电影院”出现175次“电影院”的凝固度要大...
2020-04-23 01:21:46
1380
原创 keras构建词向量代码需要注意的坑
keras构建词向量代码需要注意的坑keras中model构建步骤中的embeddingkeras.layers.embeddings.Embedding( input_dim, output_dim, embeddings_initializer='uniform', embeddings_regularizer=None, activit...
2020-04-23 01:19:50
278
原创 如何理解word2vec，以及相应库的使用
word2vec博客简书word2vec博客具体参数求解推导1.什么是word2vec如果用一句比较简单的话来总结，word2vec是用一个一层的神经网络(即CBOW)把one-hot形式的稀疏词向量映射称为一个n维(n一般为几百)的稠密向量的过程。在 NLP 中，把 x 看做一个句子里的一个词语，y 是这个词语的上下文词语，那么这里的 f，便是 NLP 中经常出现的『语言模型』...
2020-04-23 01:16:47
538
原创 激活函数softmax 与 sigmoid 的区别
在神经网络学习的过程中不可避免的要学习到激活函数的使用。激活函数的介绍这里就不展开额讲解。在这里主要是将激活函数中softmax和sigmoid的区分做一下记录。维度softmax()sidmoid()公式σ(z)j=ezj∑k=1Kezk\sigma(z)_j=\frac {e^{z_j}}{\sum^K_{k=1}e^{z_k}}σ(z)j=∑k=1Kezkez...
2020-04-23 01:04:52
1267
原创 sublime+latex+sumatrapdf 安装步骤
sublime+latex+sumatrapdf 安装步骤写论文的时候能清爽的只去在意文章的内容而不是去在意繁琐的文章格式对一个编写人员来说是多么幸福的一件事，现在latex把这种想法变成了现实。当然一些轻量级的文档推荐使用markdown。文章目录sublime+latex+sumatrapdf 安装步骤1.环境准备2.安装过程（1）textlive套装的安装（编辑器）（2）sumatr...
2019-12-29 19:12:27
1932
原创 python如何使用配置文件
python配置文件的使用前言：写代码的过程中经常会遇到使用一些超级参数的情况，并且是多个文件或者类公用的一些超级参数， 如果用变量变量的话就需要每一个脚本都加一个变量，所以配置文件就尤其重要1.安装包我是使用的python自带的包pip3 install configparser2.创建配置文件创建配置文件名字为test.conf内容如下：[hello_1]ho...
2019-11-01 14:23:07
570
1
原创 linux下python的notebook远程配置
远程连接服务器配置的notebook以及服务器非root用户配置python环境python环境配置jupyter notebook配置python环境配置我的服务器的用户名是 wuqiankun 所以你能看到很多wuqiankun。你对应你自己的用户名即可通过账号和密码登入服务器在指定目录下，比如我在/data/下面新建自己的目录：cd /data/mkdir {DIR_...
2019-10-29 15:56:52
440
13
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人