- 博客(90)
- 收藏
- 关注
RSS订阅原创 python路径相关
最近参加比赛，在提交docker镜像到云端的过程中，遇到了不少问题，其中关于python路径的问题着实浪费了很多时间。这里把它总结一下，以后遇到时方便查询。绝对路径...
2020-03-03 00:06:13
277
原创 IPython常用magic函数(持续更新)
1.%load_ext magic运行每个notebook内每个code都默认运行magic2. %time打印测模块运行时间3. %autoreload + num自动重新加载修改过的包
2020-02-29 00:04:20
567
转载 matplotlib中ion()和ioff()的使用
介绍在使用matplotlib的过程中，发现不能像matlab一样同时开几个窗口进行比较，于是查询得知了交互模式，但是放在脚本里运行的适合却总是一闪而过，图像并不停留，遂仔细阅读和理解了一下文档，记下解决办法，问题比较简单，仅供菜鸟参考。python可视化库matplotlib有两种显示模式： 阻塞（block）模式 交互（interactive）模式在Python ...
2020-01-31 20:42:03
231
转载 jupyter notebook matplotlib绘制动态图并显示在notebook中
有些时候matplotlib 的绘图没法显示在notebook中，或者显示不了。这与backend有关。首先启动你的notebook，输入%pylab查看你的matplotlib后端，我的输出为：Qt5Agg这是后端的渲染方式，使用的是qt5渲染。激活方式为在绘图之前插入代码段：%matplotlib qt5这样就能显示出图，但是是显示在notebook之外的,如果我使...
2020-01-31 20:37:23
3380
原创 pycharm常用快捷键
1. 高亮鼠标指针所在位置的变量： 默认即为高亮模式，鼠标停留在代码上片刻即可2.代码自动排版： alt + ctrl + l3. 自动补全代码 alt + /4. 自动导入包 这个要自己设置，此处不提5.查看源码 ctrl + B6. tab缩进 选中代码tab或者shift + tab7. 跳至某行...
2019-11-29 13:24:32
235
1原创 tf的饥饿模式（eager execution）与tensorflow 2.0要点 （持续更新）
1. 不再需要构建计算图（computing graph），取而代之的是动态控制流（dynamic control flow）。2. 饥饿模式下tf.tensor数据不再是一个符号，而是像真正的数值那样，可以做四则运算等操作。且tf.tensor借鉴了很多numpy计算方式，比如广播（broadcasting）。甚至可以转化为numpy类型变量。3. 饥饿模式直接导致了我们不再需要cont...
2019-11-21 14:16:25
555
转载 简明 Vim 练级攻略
vim的学习曲线相当的大（参看各种文本编辑器的学习曲线），所以，如果你一开始看到的是一大堆VIM的命令分类，你一定会对这个编辑器失去兴趣的。下面的文章翻译自《Learn Vim Progressively》，我觉得这是给新手最好的VIM的升级教程了，没有列举所有的命令，只是列举了那些最有用的命令。非常不错。——————————正文开始——————————你想以最快的速度学习人类史上最好的文...
2019-10-12 12:25:13
81
转载 Pytorch的backward()相关理解
最近一直在用pytorch做GAN相关的实验，pytorch 框架灵活易用，很适合学术界开展研究工作。这两天遇到了一些模型参数寻优的问题，才发现自己对pytorch的自动求导和寻优功能没有深刻理解，导致无法灵活的进行实验。于是查阅资料，同时自己做了一点小实验，做了一些总结，虽然好像都是一些显而易见的结论，但是如果不能清晰的理解，对于实验复杂的网络模型程序会造成困扰。以下仅针对pytorch 0....
2019-10-11 17:21:06
389
原创 python序列化 -- pickle和json
提下序列化的知识点，目的有两个：1. 存储或者传输抽象的代码对象（这个对象可以是一个类，一个字典等等，这些事物无法脱离py文件单独存在，所以我们统一制定一个统一编码标准将其转为二进制字节，到用的时候再解码）2. 持久化存储，我们知道有些文件存储是以某种编码形式存在的；换句话说，换台机器用不同的编码格式，该文件的二进制字节格式完全不同。所以我们需要有一个统一的编码和解码方法将文件或者对象存储...
2019-10-09 11:24:49
90
原创 仿射空间
直观理解仿射空间向量空间（也叫线性空间）我们是很熟悉的，那么可以借助向量空间给仿射空间一个直观的定义：仿射空间就是没有原点的向量空间。向量空间没有了原点，会有什么样的影响？向量是基于原点的，向量有两个元素-大小、方向，大小任意给出两个点就可以衡量，但没有了原点，我们是无法用一个统一的标准来衡量方向的，也正因如此，仿射空间包含点集而不单纯是向量集。更进一步，没有了统一标准的向量，那么向量...
2019-09-27 15:35:50
8151
原创 transformer结构笔记
整体结构：encoder - decoder创新点：self-attention、multihead-attention等细节：1. encoder的每层结构 encoder包含了若干个层，每层都有类似的结构，即一个self-attention层加上一个postion-wise的前馈网络： ...
2019-09-26 08:42:11
520
原创 eclipse 开发常用快捷键总结
1. 高亮鼠标指针所在位置的变量： 我比较推荐使用快捷键alt + shift + o(o要敲两下哦)，而非在preference中再去设置，因为有时候等待eclipse自动高亮变量是需要一段时间的~2. 代码自动排版 如果想使整个文件内的代码都自动排版：source -> format 对选定部分代码排版：ctrl + shift + F3. 根据输入代码自动...
2019-09-09 22:58:15
197
原创 电子签名、私钥、公钥
在现实世界当中，如果要做到有效的信息交流，有几点是必须做到的。就拿A给B写信来说，首先信的内容不可以被除了B之外的知晓，其次信的内容不可以被邮递员或者任何人员篡改或者毁坏，最后B必须可以确认信是来自于A而非其他人。这就对应着信息安全的三要素：保密性(Confidentiality)：信息在传输时不被泄露 完整性（Integrity）：信息在传输时不被篡改 有效性（Availabilit...
2019-08-30 19:51:19
1190
原创 深度学习的几种常见loss function
先说说深度学习最后一层激励函数，主要分两大类，softmax和sigmoid；sigmoid针对二分类问题，只需要一个标量的输入即可计算激励函数（当然输出也是一个标量）： ...
2019-08-13 14:46:53
1604
原创 格式化输出printf
printf的格式：printf format-string [arguments...]printf的重点是格式替代符(python bash通用)：特别说明：%c如果参数是字符串，则取字符串第一个字符;固定 m 位小数 如此： printf("%.mf",a);例如 printf("%.2f",a); 保留小数点后两位"-"意为左对齐，若不加默认右对齐；%...
2019-08-10 11:45:13
621
原创 python的正则表达式使用（持续更新）
本文仅就python内置re模块的一些功能做简要记录，其中和bash语句中重合的部分不做介绍。1. re.escape(pattern)：如果正则语句中需要使用诸如 $、[]、“”、这样有特殊含义字符的字面形式，往往要在对应文本中假如很多的“\”，这样是很麻烦的，而escape函数可以很方便的做到这一点：import rere.escape('!"#$%&\'()*+,-./:...
2019-08-03 21:34:47
102
原创 tensorflow常见debug总结（持续更新）
1.init = tf.global_variables_initializer() 一定要放在构建所有Variable之后，因为该语句就初始化已经构建过的Variable2. tf.matmul(a,b)，matmul在运行时不提供吗强制类型转换，所以a和b必须类型一致，可以使用tf.cast，比如 tf.cast(a, tf.float32)3. tf中最常见的就是维度方...
2019-07-19 19:36:48
731
原创 zip以及其逆运算
zip的功能：在若干可迭代的对象中，依次从每个对象抽出一个合并成元组，最终这些元组将一个可迭代对象：a = ['I', 'love', 'you']b = (1,2,3)c = ('see', 'you', 'tommorow')print (list(zip(a,b,c)))# 输出：[('I', 1, 'see'), ('love', 2, 'you'), ('you', 3,...
2019-07-19 15:43:18
726
转载 All you need to know about text preprocessing for NLP and Machine Learning
转载地址：https://www.kdnuggets.com/2019/04/text-preprocessing-nlp-machine-learning.html关于nlp语料预处理非常棒的一篇入门级文章，其中提到了词干提取(stemming)、词形还原(lemmatization)、规范化（normalization）等等话题，另外还提供了相关代码：https://github.com/...
2019-07-18 16:05:37
89
转载 Written Memories: Understanding, Deriving and Extending the LSTM
转载地址：Written Memories: Understanding, Deriving and Extending the LSTM这篇文章前半段讲得挺好的，尤其是梯度消失那一块，并没有从BPTT的角度解释；而是从状态变化近端远端相互影响的角度。文章后段充斥着各种引用，文字个人感觉不够精炼~~，非有精力和有时间的人不能细读。这篇文章的简化易懂版：https://medium.com/...
2019-07-18 08:04:45
161
原创 python常用装饰器（持续更新）
1 @staticmethod和@classmethod类似于java的静态类方法，区别在@classmethod需要在参数加 'cls' 以表明自己是类方法，且@classmethod可以调用类属性（即勒种不带self.前缀的属性）...
2019-07-13 11:02:36
741
原创 py文件常见头语句（持续更新）
1. #!/usr/bin/python3和 #!/usr/bin/env python3 二者都是表明要使用python3解释器，区别在于前者写死了路径，而后者没有所以比较灵活2.# -*- coding: utf-8 -*- 使用 utf-8编码...
2019-07-13 11:02:26
619
原创 python模仿java接口功能
python可以模仿java实现接口功能，将父类方法下放到具体子类中实现。具体做法也很简单，只要在父类的方法代码中仅仅写上raise NotImplementedError("Each Model must re-implement this method.")，也就是如果子类不实现方法就报错。当然，利用同样的方法也可以模仿抽象类。当然，这只是我的理解，或许有更好的方法我也说不定。时间...
2019-07-12 22:07:20
412
原创 get_variable和variable_scope
variable共享tf的Variable是什么就不说了，我们只说下Variable的复用，如下例所示，我们要为图像建立两层卷积网络：def conv_relu(input, kernel_shape, bias_shape): # Create variable named "weights". weights = tf.Variable(tf.random_norma...
2019-07-12 13:16:47
662
原创 列表解析与生成器与yield
列表解析列表解析可以看做是python对于列表生成的一个语法糖，可以使得生成列表的多行代码压缩成一行，如下列表解析所示：[i for i in range(0,3)]# 输出：[0,1,2]换成普通代码为：l = []for i in range(0,3): l.append(i)l# 输出：[0,1,2]这样为阅读代码以及编写带来了方便性生成器从形...
2019-07-10 18:25:37
120
原创 python方法参数中的"*"和"**" ——动态参数
有时候我们会在python代码中看到诸如一下形式参数：def func(*args, **kwargs): print (args) print (kwargs)这是python中动态参数的表示，有时候我们要传入参数的数目不确定，这时候就需要用到动态参数。其中*代表要把传入的参数转为一个元组，而**代表要把传入额参数转为一个字典。我们来看一下例子：def func_...
2019-07-10 11:29:11
813
原创 tf.nn.embedding_lookup简介
基本形式：tf.nn.embedding_lookup(params, ids)参数：1. params：待lookup的tensor 2. ids：params使用ids来lookup（ids也应该是tensor）通俗地讲，embedding_lookup(params, ids)其实就是按照ids顺序返回params中的第ids个元素。举个例子：matri...
2019-07-08 23:26:32
157
原创 python命令行参数解析工具——argparse
在命令行中运行py文件的时候（这在linux系统中尤为常见），是否可以像运行内部的函数那样设置可变参数呢？这样做可以避免进入py文件再次编写文件的尴尬，同时也意味着减少bug的发生。argparse就是这样可以在帮助在命令行中添加参数的工具，基本的使用方法如下代码所示：# -*- coding: utf-8 -*- import mathimport argparse# argp...
2019-07-08 16:22:24
367
原创 运用TensorFlow建立分类模型3个步骤
1. Build a graph a. Feedforward / Prediction b. optimization2. initialize a session3. train with session.run(train_step, feed_dict)参考文献：[1] stanford cs224n 2017 lecture 7...
2019-07-06 13:18:16
1117
原创 python基本数据结构
Python 基本数据结构：list、tuple、dict、set基本数据结构常用函数List1. append和 extendlist.append(a) 意为将 a 作为整体加入listlst = [1,2,3,4,5]lst.append([,2,3])print (lst)# 输出：[1, 2, 3, 4, 5, [1, 2, 3]]list.extend(...
2019-07-05 15:37:38
485
原创 卡特兰数（catalan numbers）
首先我们给出卡特兰序列： 卡特兰数定理考虑由n个+1和n个-1构成的2n项序列 其部分和总满足 ...
2019-07-04 11:52:29
310
转载 机器学习中的矩阵方法(附录A）： 病态矩阵与条件数
转载地址：https://www.cnblogs.com/daniel-D/p/3219802.html思路：利用范数考察Ax = b中b的扰动对于x的影响
2019-07-03 23:51:01
510
转载 自动微分(Automatic Differentiation)简介
转载地址：https://blog.csdn.net/aws3217150/article/details/70214422上面的文章写的非常好，不多做介绍，只说下自己对于两种自动微分的理解。1. 首先不认同后向自动微分就是backprop这种说法，只能说两者都依赖于chain rule，形式上类似。且NN的backprop的情况是，输入x确定，结构不确定；反观后向微分，是x不确定，而结构...
2019-07-03 08:47:17
1282
原创 Linear Algebra Review (3) -- inner product、norm、cachyschwaz inequality
内积向量空间（此处的向量是抽象的向量，可以是vector、matrix、甚至是function）中有两个向量 x 和 y，通常我们会很自然的想到这两个向量之间是有关系的，那么怎样去衡量这样一种关系？这就引出了内积的概念。内积就是向量空间 V 中的向量对 x和y 的一个运算，它使得x,y与一个实数 <x,y>产生了关联。当然为了方便运用，我们为这种运算提供了一些限制条件：(...
2019-07-02 13:59:03
312
原创 矩阵微积分（二）
矩阵微分的一般方法首先说明，我们的方法主要在是在denominator layout 框架下。按照微分分子分母的类型，我们可以给矩阵微分分为几个类别。如果 scalar / vector、vector / matrix 等等。我们不需要记住每一种情况下的规则。除却涉及矩阵的微分计算（形式比较特殊），我们首先需要记住的是微分计算的两个个法则：乘法法则、和链式法则（加法法则比较简单直观，无需...
2019-07-02 01:44:39
4750
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人