SAJIAHAN-CSDN博客

翻译 tensorflow/core/protobuf/cluster.proto

//tensorflow/tensorflow/r1.11/tensorflow/core/protobuf/cluster.protosyntax = "proto3";package tensorflow;option cc_enable_arenas = true;option java_outer_classname = "ClusterProtos";option java_...

2018-09-29 14:56:26 499

转载信息论——联合熵

联合熵Q：什么是联合熵？Q：联合熵的物理意义是什么？Q：什么是联合熵？联合熵就是度量一个联合分布的随机系统的不确定度，下面给出两个随机变量的联合熵的定义：分布为 p(x,y)p(x,y)p(x,y) 的一对随机变量 (X,Y)(X,Y)(X,Y) ,其联合熵定义为：H(X,Y)=−∑x∈X∑y∈Yp(x,y)log⁡p(x,y)=E[log⁡1p(x,y)]H(X,Y)=-\sum_{x...

2018-09-19 22:35:20 13446 1

转载信息论——信息熵

信息熵Q：信息是不是可以量化？Q：不确定性与哪些因素有关？1. 事件可能的结果数2. 概率分布Q：如何度量不确定性？Q：那有什么函数能满足上面四个条件呢？Q：什么是信息熵？Q：信息是不是可以量化？“2022年中国队不可能会拿世界杯冠军” 信息量小，相当于废话。“谁能拿2022年世界杯冠军”信息量大，因为不确定性大。信息量与信息的不确定性有关。Q：不确定性与哪些因素有关？1. 事件可能的结果...

2018-09-18 23:02:58 1631

翻译博文阅读：WILDML-----在深度学习与自然语言处理领域的Attention和Memory（2016年1月3日）

在深度学习与自然语言处理领域的Attention和Memory（笔记草稿）一、Attention是什么？私以为所谓注意力是：在目标的预测或判定时，有选择性的利用目标的上下文信息。二、Attention有什么用？原文中的表述为： The basic problem that the attention mechanism solves is that it allows the network t

2017-11-07 19:09:06 814

原创 Pip 国内源的使用

Pip 国内源的使用pip默认的源为pypi下的源，该源在境外，因此导致使用pip安装包库时会出现下载慢或者网络中断问题。在国内，存在一些由高校和公司构建的pip源。知名的pypi源有：阿里云 http://mirrors.aliyun.com/pypi/simple/ 中国科技大学 https://pypi.mirrors.ustc.edu.cn/simple/ 豆瓣(douban

2017-10-22 13:33:01 3965

原创 nvidia-docker安装

一. 安装docker1. sudo apt-get remove docker docker-engine docker.io2. sudo apt-get update3. sudo apt-get install linux-image-extra-$(uname -r) linux-image-extra-virtual4. sudo apt-get update5

2017-08-23 11:31:13 1137