lyb3b3b的专栏

原创 TurkuNLP的TEES解析器的使用

一、系统Ubuntu 16.04（虚拟机即可）安装Anaconda-2.1.0-Linux-x86_64 （python2.7.8）清华园下载地址：https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/二、下载TEESTEES解析器下载地址（下最新版本2.3，因为里面有preprocess.py文件）https://github.com/jbjorne/TEES三、安装TEES的依赖包1.Rubysudo ap...

原创 2020年医学信息学领域SCI期刊影响因子及分区

转载 实体-关系联合抽取：Entity-Relation Extraction as Multi-turn Question Answering

论文地址：https://www.aclweb.org/anthology/P19-1129.pdf原文地址：https://blog.csdn.net/MaybeForever/article/details/102790091文章标题：Entity-Relation Extraction as Multi-turn Question Answering（实体关系提取作为多轮问题的回答）ACL2019这里面有多个关于，实体-关系联合抽取的论文：https://blog.csdn.net/may

原创 一种超级简单的Self-Attention ——keras 实战

Attention技术在 NLP 模型中几乎已经成了不可或缺的重要组成部分，最早Attention主要应用在机器翻译中起到了文本对齐的作用，比如下图，Attention 矩阵会将 法语的 La Syrie 和英语的 Syrie 对齐，Attention 机制极大的提升了机器翻译模型的性能。attention 文本对齐而最近各种花式的Attention机制相继被提出，同时这些Attention机制也不断的刷新着各种NLP任务的SOTA（state of the art）。Attention 机制

转载 Chinese NER Using Lattice LSTM

一个更加详细的版本：https://blog.csdn.net/Amy_mm/article/details/81975827文章目录目录Chinese NER Using Lattice LSTM论文和代码链接文章主旨简介论文模型一、基于字符的模型二、基于词的模型三、Lattice模型CRF吹逼时刻（实验效果）Chinese NER Using...

转载 【tensorflow 大马哈鱼】tf. clip_by_global_norm

下面这两篇博客就这个问题讲的很详细：https://blog.csdn.net/u010814042/article/details/76154391https://blog.csdn.net/u013713117/article/details/56281715下面的代码是双向lstm+crf计算损失的部分，但是思路是通用的。with tf.variable_scope('crf...

转载 【tensorflow 大马哈鱼】高级保存与恢复的Supervisor模块

参考的教程https://blog.csdn.net/YiRanZhiLiPoSui/article/details/81143166参考入门文章：https://blog.csdn.net/u012436149/article/details/53341372给出了简单的完整流程，便于入门理解https://www.jianshu.com/p/7490ebfa3de8...

原创 【Tensorflow 大马哈鱼】tf.layers 之 dense层、dropout层、batch_normalization层、pad层

之前写的代码都是基于比较底层的API了，底层的API其实是有好处的，虽然还是调API，但是至少对于原理有小小的理解才能够写出代码。而且在实现一些新的论文或者要实现一个新的点子的时候，这时候是没有API的，因此底层的API非常有存在的必要，且必须经过这一个过程。但是对于一个非常熟悉底层原理和经过了写底层代码这个过程的人，在有些很常见的任务上，就是用高级封装好的API就行。tf.layers就是提供...

原创 hadoop分布式部署过程

一、centos常用命令及说明su rootrm -rf 文件夹 （删除）vim/vi 文件 （打开文件）【一】修改文件如果是使用普通用户登录的，需要先切换到管理员用户，打开终端，输入：su，接着按提示输入密码即可；然后使用命令进入需要修改文件的所在目录，常用的几个命令如下：① cd + 目录名② cd + 空格（退回上级目录）③ cd + 空格 + /（...

原创 【Tensorflow 大马哈鱼】start_queue_runners，与使用range_input_producer多线程读取数据

一、range_input_producer的用法先放关键代码：#i = tf.train.range_input_producer(epoch_size, shuffle=False).dequeue()i = tf.train.range_input_producer(NUM_EXPOCHES, num_epochs=1, shuffle=False).dequeue()处理列...

原创 【Tensorflow 大马哈鱼】tf.add_to_collection，tf.get_collection 和tf.add_n的用法

tf.add_to_collection：把变量放入一个集合，把很多变量变成一个列表tf.get_collection：从一个结合中取出全部变量，是一个列表tf.add_n：把一个列表的东西都依次加起来如果是run变量，则更新cross_entropy_mean值如果继续add_to_collection则是在列表中增加变量如果tf.global_variables_init...

转载 【Tensorflow 大马哈鱼】使用 queue 构建队列，并使用读取数据，以及string_input_producer

Tensorflow 提供队列读取数据构造 batch 的方法。队列可以加快数据度的速度，先进先出等等的基本特性就不赘述了，直接介绍tensorflow 是如何做的。首先，用给的文件名列表生成一个文件名队列（file name queue）。然后，从文件名队列中，按照指定的方式按个读取单个数据。最后，再把读出的数据放入另外一个队列中，该队列 dequeue 用以构造 batch 。...

转载 【Tensorflow 大马哈鱼】构造LSTM超长简明教程

参考:Module: tf.nn.rnn_celltf.contrib.rnn.LSTMCell    tf.nn.rnn_cell.LSTMCell     目前1.8版本这两个都可以，tf.contrib.rnn为主，贡献阶段，tf.nn.rnn_cell中还仅仅是目录和链接。到了1.12版本，LSTMCell,RNNCell等常用单元已搬迁至tf.nn.rnn_cell。...

转载 【Tensorflow 大马哈鱼】 参数初始化（initializer)

CNN中最重要的就是参数了，包括W,b。 我们训练CNN的最终目的就是得到最好的参数，使得目标函数取得最小值。参数的初始化也同样重要，因此微调受到很多人的重视，那么tf提供了哪些初始化参数的方法呢，我们能不能自己进行初始化呢？所有的初始化方法都定义在 tensorflow/python/ops/init_ops.py本文转载自：https://blog.csdn.net/m0_371677...

原创 【Tensorflow 大马哈鱼】二维CNN函数、pooling函数、dense函数

在tf1.0中，对卷积层重新进行了封装，比原来版本的卷积层有了很大的简化。一、旧版本（1.0以下）的卷积函数：tf.nn.conv2dconv2d( input, filter, strides, padding, use_cudnn_on_gpu=None, data_format=None, name=None)示例：c...

原创 【Tensorflow 大马哈鱼】Graph和Session

因为篇幅和格式的缘故，这里的测试代码并没写全，全部的代码可以在我的GitHub上面找到：LearningTensorFlow/3.Graph_and_Session/一.Graph首先官方文档地址：tf.Graph 这里仅列出了最基本和频繁使用的函数，更多特定的需要请参考文档。Ⅰ.介绍一个TensorFlow的运算，被表示为一个数据流的图。 一幅图中包含一些操作（Operat...

原创 【Tensorflow 大马哈鱼】张量与操作、Session() 和 InteractiveSession()

1. Graph图的用法TensorFlow中的图描述了计算过程，图通过Session的运行而执行计算。构建tf.Graph大多数 TensorFlow 程序都以数据流图构建阶段开始。在此阶段，您会调用 TensorFlow API 函数，这些函数可构建新的tf.Operation（节点）和tf.Tensor（边）对象并将它们添加到tf.Graph实例中。TensorFlow...

转载 【Tensorflow 大马哈鱼】tf.layers.Dense是类， tf.layers.dense是函数

tf.layers.Dense是一个类，tf.layers.dense是一个函数。Dense类是1.4版本才加入的。Dense层就是密集连接（Densely-connected）层。该层实现了操作：outputs = activation(inputs * kernel + bias)，其中activation是作为activation参数传递的激活函数（如果不是None），是由层创建的权重矩...

原创 sklearn中 F1-micro 与 F1-macro区别和计算原理

二分类使用Accuracy和F1-score，多分类使用宏F1和微F1。最近在使用sklearn做分类时候，用到metrics中的评价函数，其中有一个非常重要的评价函数是F1值，在sklearn中的计算F1的函数为 f1_score ，其中有一个参数average用来控制F1的计算方式，今天我们就说说当参数取micro和macro时候的区别1、查准率，查全率，F1值:对...

转载 T-SQL简介及基本语法

一、T-SQL概述SQL Server用于操作数据库的编程语言为Transaction-SQL，简称T-SQL。T-SQL与PL/SQL不同，并没有固定的程序结构。  T-SQL包括以下4个部分：DDL：定义和管理数据库及其对象，例如create、alter和drop等。 DML：实现对数据库表各对象的操作，例如insert、update等。 DCL：数据控制语言，实现对数据库进行安...

转载 Transact-SQL（T-SQL）编程

转载地址：https://blog.csdn.net/qq3178124798/article/details/80180131变量变量是一种可以存储数据值的对象，变量可以分为局部变量和全局变量。1、局部变量局部变量是用户自定义的变量，它的作用范围仅在程序内部，使用：以@开头，且必须先使用DECLARE命令说明后才可以使用声明变量：DECLARE  @变量名 数...

原创 【Python】获取对象信息dir() ***【__XX__()类型方法】*** 获取对象方法

如果要获得一个对象的所有属性和方法，可以使用dir()函数，它返回一个包含字符串的list，比如，获得一个str对象的所有属性和方法：>>> dir('ABC')['__add__', '__class__',..., '__subclasshook__', 'capitalize', 'casefold',..., 'zfill']类似__xxx__的属性和方法在...

转载 python 自定义属性访问 __setattr__, __getattr__,__getattribute__, __call__

object._getattr_(self, name)__gettattr__:如果某个类定义了这个方法，并且在该类的对象的字典中又找不到相应的属性时候，那么该方法会被调用。实例instance通过instance.name访问属性name，只有当属性name没有在实例的__dict__或它构造类的__dict__或基类的__dict__中没有找到，才会调用__getattr__。...

转载 Python 的类（菜鸟教程）

原文地址：http://www.runoob.com/python/python-object.html面向对象技术简介类(Class): 用来描述具有相同的属性和方法的对象的集合。它定义了该集合中每个对象所共有的属性和方法。对象是类的实例。 类变量：类变量在整个实例化的对象中是公用的。类变量定义在类中且在函数体之外。类变量通常不作为实例变量使用。 数据成员：类变量或者实例变量, 用于...

原创 【pytorch学习】《TensorDataset》中的__getitem__ 和《DataLoader》

一、 代码中的例子：# -*- coding: utf-8 -*-import torchimport torch.utils.data as Datatorch.manual_seed(1) # reproducibleBATCH_SIZE = 5x = torch.linspace(1, 10, 10) # this is x data (torch te...

转载 2017知乎看山杯 从入门到第二

转载：原网址https://zhuanlan.zhihu.com/p/290206162017知乎看山杯 从入门到第二利用一个暑假的时间，做了研究生生涯中的第一个正式比赛，最终排名第二，有些小遗憾，但收获更多的是成长和经验。我们之前没有参加过机器学习和文本相关的比赛，只是学过一些理论基础知识，没有付诸过实践，看过的几篇论文也多亏前辈的分享（一个是用深度学习（CNN RNN Attent...

原创 自然语言处理领域国内外著名会议和期刊

本文介绍自然语言处理(Natural Language Processing, NLP)领域的一些国内外著名会议和期刊。 自然语言处理(NLP)和计算语言学（Computational Linguistics, CL）有很多重合之处。国际会议ACL、EMNLP、NAACL和COLING可以说是 NLP 领域的四大顶会。其中 ACL、EMNLP、NAACL都是一家的（均由 ACL 举办...

原创 迭代器_iter_和生成器yield

一、迭代器定义：对于list、string、tuple、dict等这些容器对象,使用for循环遍历是很方便的。在后台for语句对容器对象调用iter()函数。iter()是python内置函数。iter()函数会返回一个定义了next()方法的迭代器对象，它在容器中逐个访问容器内的元素。next()也是python内置函数。在没有后续元素时，next()会抛出一个StopIterati...

原创 【Tensorflow 大马哈鱼】 tf.metrics.accuracy

 tf.metrics.accuracy返回两个值，accuracy为到上一个batch为止的准确度，update_op为更新本批次后的准确度。accuracy, update_op = tf.metrics.accuracy(labels=x, predictions=y)定义于：tensorflow/python/ops/metrics_impl.py。计算predictions...

转载 想了解推荐系统最新研究进展？请收好这16篇论文

转载自：https://blog.csdn.net/c9Yv2cf9I06K2A9E/article/details/82881839 在碎片化阅读充斥眼球的时代，越来越少的人会去关注每篇论文背后的探索和思考。 在这个栏目里，你会快速 get 每篇精选论文的亮点和痛点，时刻紧跟 AI 前沿成果。 点击本文底部的「阅读原文」即刻加入社区，查看更多最新论文推荐。这是 P...

原创 【Tensorflow学习】 RNN 《莫凡》

cell = tf.contrib.rnn.BasicLSTMCell(n_hidden_units)init_state = cell.zero_state(batch_size, dtype=tf.float32)outputs, final_state = tf.nn.dynamic_rnn(cell, X_in, initial_state=init_state, time_m...

原创 【Tensorflow学习】tf.data.Dataset使用

转载自：http://www.cnblogs.com/hellcat/p/8569651.html#_label6官方代码：https://www.tensorflow.org/api_docs/python/tf/data/DatasetTensorflow中之前主要用的数据读取方式主要有：建立placeholder，然后使用feed_dict将数据feed进placeholder进...

原创 【tensorflow 大马哈鱼】 tensorboard可视化《莫凡》

 在当前目录下调用， 一个参数logdir， log是文件夹$ tensorboard --logdir log标准过程 #存储变量tf.summary.histogram('h_out', l1)#存储losstf.summary.scalar('loss', loss) #operation to merge all summary 建立merge操作#主要wr...

转载 【tensorflow 大马哈鱼】 name_scope和variable_scope的区别

在tensorflow中,有两个scope, 一个是name_scope一个是variable_scope,这两个scope到底有什么区别呢? * name_scope: * 为了更好地管理变量的命名空间而提出的。比如在 tensorboard 中，因为引入了 name_scope， 我们的 Graph 看起来才井然有序。 * variable_scope: * 大大大部分情况下，跟 tf....

转载 【tensorflow 大马哈鱼】tf.get_variable()和tf.Variable()的区别

1. tf.Variable()W = tf.Variable(<initial-value>, name=<optional-name>)''' '''W = tf.Variable( tf.zeros ([2,1]) )W = tf.Variable(tf.random_uniform([1, 2], -1.0, 1.0))W = tf.Variable(...

原创 python命令行解析之parse_known_args(）函数和parse_args()

命令行解析首先导入命令行解析模块 import argparseimport sys然后创建对象parse=argparse.ArgumentParser() 然后增加命令行对于函数add_argumen()第一个是选项，第二个是数据类型，第三个默认值，第四个是help命令时的说明parse.add_argument("--learning_rate",type...

转载 对于Python中@property的理解和使用，将方法变为属性

重看狗书,看到对User表定义的时候有下面两行 @property def password(self): raise AttributeError('password is not a readable attribute') @password.setter def password(self, password): sel...

转载 正则表达式符号表

1. 正则表达式基础1.1. 简单介绍正则表达式并不是Python的一部分。正则表达式是用于处理字符串的强大工具，拥有自己独特的语法以及一个独立的处理引擎，效率上可能不如str自带的方法，但功能十分强大。得益于这一点，在提供了正则表达式的语言里，正则表达式的语法都是一样的，区别只在于不同的编程语言实现支持的语法数量不同；但不用担心，不被支持的语法通常是不常用的部分。如果已经在其他语言里使用...

转载 2018.06.06论文：12个NLP分类模型

https://blog.csdn.net/u012052268/article/details/806989301 概述 1.1模型概览 1.2各模型效果对比： 1.4 代码用法： 2 模型细节： 2.1 快速文本（fastText） 介绍 解释 总结 2.2文本卷积神经网络（Text CNN） 2.3文本循环神经网络（Text RNN） ...

原创 【Tensorflow 大马哈鱼】保存模型、再次加载模型等操作

由于经常要使用tensorflow进行网络训练，但是在用的时候每次都要把模型重新跑一遍，这样就比较麻烦；另外由于某些原因程序意外中断，也会导致训练结果拿不到，而保存中间训练过程的模型可以以便下次训练时继续使用。所以练习了tensorflow的save model和load model。参考于http://cv-tricks.com/tensorflow-tutorial/save-rest...