奔跑的小鱼_-CSDN博客

转载 MXNet: Dependency Engine

Table of Contents1. 基本背景知识2. Op3. Var3.1. 类图3.2. 理解Var的队列3.3. 添加读依赖3.4. 添加写依赖3.5. 读依赖完成3.6. 写依赖完成4. Engine4.1. 总结基本背景知识MXNET中有一个依赖引擎，这个引擎是用来分析计算过程的依赖关系，把不依赖的计算并行

2016-10-24 20:03:31 644

转载 MXNet:Execution Engine

Execution EngineMXNet 的执行引擎不仅仅是为了深度学习和其他任何特定的领域问题. 相反地, 它设计用来解决通用问题: 根据依赖关系来执行一系列的功能操作. 有依赖关系的任意两个功能需要被序列化. 没有依赖的功能可以并发执行来提升系统性能. 也可以参考 Note on Dependency Engine.Interface执行引擎的核心接口如下

2016-10-24 20:00:22 766

原创 Ubuntu节点的万兆网搭建

之前用千兆网跑MXNet的分布式，由于训练数据量比较大并且通信比较频繁，网络通信开销太大，训练速度非常慢，正好实验室有闲置的万兆网设备（万兆网卡、万兆交换机），因此打算给各个工作节点配上万兆网卡（Chelsio T310），并共同接入万兆交换机（RackSwitch G8100）中，下面说一下具体过程。1、插网卡将万兆网卡插入节点的PCI插槽中（节点要有空闲的PCI插槽才行）2、安

2016-10-08 12:42:29 4466

原创 [CUDA实战] 第一个样例程序

这两天开始看《GPU高性能编程CUDA实战》这本书，学到的东西稍稍在博客做个记录。使用cuda c编程的话，当然首先需要有个支持cuda的gpu，市面上很多gpu都已经支持cuda，之后需要为gpu安装cuda驱动程序，我使用的是ubuntu系统，安装方法在这篇博客cuda7.5 安装中有提到，可作参考，当然也要安装个gcc、g++（自己习惯用c++）编译器，这个就不说了。

2016-10-08 09:48:30 7461 1

原创 [LeetCode] 7. Reverse Integer

1、题目：Reverse digits of an integer.Example1: x = 123, return 321Example2: x = -123, return -3212、解决方法：（1）利用to_string方法将int类型的x转为string类型的str_x。（2）利用泛型算法中的reverse方法将str_x进行反转。（3）利用stoi

2016-10-07 19:52:16 312

转载 DistBelief 框架下的并行随机梯度下降法 - Downpour SGD

本文是读完 Jeffrey Dean, Greg S. Corrado 等人的文章 Large Scale Distributed Deep Networks (2012) 后的一则读书笔记，重点介绍在 Google 的软件框架 DistBelief 下设计的一种用来训练大规模深度神经网络的随机梯度下降法 — Downpour SGD，该方法通过分布式地部署多个模型副本和一个“参数服务器”，同时实

2016-08-23 16:54:53 811

原创 [LeetCode] 6. ZigZag Conversion

#include #include #include using namespace std;class Solution{public: string convert(string s, int numRows);};string Solution::convert(string s, int numRows){ if (numRows == 1) { return

2016-07-10 21:08:15 348

原创 Eclipse配置Hadoop环境并运行WordCount样例

1、下载Hadoop插件并安装（1）下载hadoop-eclipse-plugin-2.7.2.jar，链接：http://download.csdn.net/detail/tondayong1981/9432425（2）安装：将hadoop-eclipse-plugin-2.7.2.jar拷贝到/usr/lib/eclipse/plugins目录下2、配置Ha

2016-07-08 20:37:39 2300 1

转载 Python 动态类型

动态类型(dynamic typing)是Python另一个重要的核心概念。我们之前说过，Python的变量(variable)不需要声明，而在赋值时，变量可以重新赋值为任意值。这些都与动态类型的概念相关。动态类型在我们接触的对象中，有一类特殊的对象，是用于存储数据的。常见的该类对象包括各种数字，字符串，表，词典。在C语言中，我们称这样一些数据结构为变量。而在Python

2016-06-15 09:38:48 495

转载深度学习平台的分布式实现综述

前一篇文章中，我们提到了Eric Xing教授针对如何构建大规模机器学习平台的综述[1]，包含数据并行，模型并行等，那么具体到深度学习来说，应当如何有效构建呢？本文在这方面做个简要概述。如果模型能够在单个节点装下，那么采用数据并行是最适合的，利用DownpourSGD（既DistBelief）结构的参数服务器可以很容易实现分布式深度学习，这种方式很适合于大量数据和较小模型的训练

2016-06-07 16:57:25 9162

原创 MXNet系统上ilsvrc12数据集的制作与inception-bn网络的训练

MXNet系统推荐使用Image RecordIO数据格式（简称rec）的数据集进行训练，系统提供了MNIST和Cifar10两种数据集的Image RecordIO格式数据，但是其他数据集没有提供rec格式的数据集，所以我们想要使用其他数据集的话，需要学会制作其对应的rec格式数据，下面就来介绍imagenet的ilsvrc12数据集的rec格式的训练数据制作过程与其用inception-bn网

2016-06-01 11:05:33 6553 1

原创 Ubuntu14.04上VNC安装与使用

VNC是一款远程控制软件，支持windows系统远程访问linux系统的可视化操作，也可以支持linux系统之间的相互访问，下面就来介绍在Ubuntu14.04上如何安装和使用VNC软件。1、安装VNC（1）安装vncserver（vnc的服务端）sudo apt-get install vnc4server（2）安装gnome（linux的一种图形桌面环境）sudo apt-

2016-05-31 21:47:01 7787 2

转载中国计算机学会推荐投稿期刊和学术会议截稿汇总 - 五月版

领域1 - 计算机体系结构/并行与分布计算/存储系统会议简称全文截稿CCFATS 20162016-05-27C类HiPEAC 2017 2016-06-01B类HiPC 20162016-06-05C类NPC 2016

2016-05-29 15:10:39 4132

原创分享一个强大的vim配置文件

闲着无聊，就突然想捣腾vim，想配置着更强大一些，朋友就给推荐了一个网上大神配置好的vim配置文件（.vimrc），我安装后玩了一下，真的感觉好强大，很好用，所以也推荐给大家用。安装方式：打开终端，执行命令：wget -qO- https://raw.github.com/ma6174/vim/master/setup.sh | sh -x 即可，就是这么方便。这个脚本安装了vim并为

2016-05-17 14:44:57 2741

原创 Ubuntu下ZeroMQ安装与使用

一、zmq简介ZMQ(以下ZeroMQ简称ZMQ)是一个简单好用的传输层，像框架一样的一个socket library，他使得Socket编程更加简单、简洁和性能更高。是一个消息处理队列库，可在多个线程、内核和主机盒之间弹性伸缩。ZMQ的明确目标是“成为标准网络协议栈的一部分，之后进入Linux内核”。现在还未看到它们的成功。但是，它无疑是极具前景的、并且是人们更加需要的“传统”BSD套接

2016-05-02 21:20:00 12646 1

转载如何高效读论文？10位学者分享25条宝贵经验

有关于如何阅读科研论文的建议，《科学》（Science）请教了来自不同的领域，处于不同职业阶段的十几位科学家，让他们介绍一下自己阅读文献的方法。虽说阅读文献可以熟能生巧，但在总有些绊脚石，下面就由这些科研人员指出这些障碍和克服它们的方法。你如何着手阅读一篇论文？Jesse Shanahan（卫斯理大学天文系硕士）我先读摘要。然后浏览引言，略读全文，

2016-05-01 18:55:13 990

转载 c++内存分配方式

内存的堆分配和栈分配堆和栈的区别一个由C/C++编译的程序占用的内存分为以下几个部分1、栈区（stack）— 由编译器自动分配释放，存放函数的参数值，局部变量的值等。其操作方式类似于数据结构中的栈。2、堆区（heap） — 一般由程序员分配释放，若程序员不释放，程序结束时可能由OS回收。注意它与数据结构中的堆是两回事，分配方式倒是类似于链表，呵呵。3、

2016-04-27 11:10:27 745

转载 c++之常量（一）

1概述一个C++程序就是一系列数据与操作的集合。当一个C++程序开始运行的时候，与该程序相关的数据就会被加载到内存中。当数据与内存发生关联的时候，这些数据就会具有如下的特性：数据在内存中的地址。这个地址决定了数据在内存中的存储位置。在32位的系统中，每一个C++程序都具有4GB大小的内存地址空间，这个4GB大小的内存空间又被划分为若干个区域，如：栈区，堆区，全局（静态）区，文字

2016-04-26 21:55:50 846

转载 c++常量

数值常量数值常量就是通常所说的常数。在C++中，数值常量是区分类型的，从字面形式即可识别其类型。整型常量（整数）的类型在上一节中已知道：整型数据可分为int, short int,long int以及unsigned int, unsigned short, unsigned long等类别。整型常量也分为以上类别。为什么将数值常量区分为不同的类别呢？因为在进行赋值或函数的参数虚实

2016-04-26 21:27:08 889

原创 MXnet: RuntimeError: module compiled against API version a but this version of numpy is 9

在MXnet中，使用python命令"import mxnet as mx"，出现如下错误：RuntimeError: module compiled against API version a but this version of numpy is 9这是因为numpy的版本太低，于是要更新numpy，使用命令"sudo pip -U numpy"更新，更新失败，于是打算卸

2016-03-28 10:34:01 4477

原创 MXnet：Traceback (most recent call last): File "run.py", line 9, in <module> from skimage.restoration

使用neural art时，运行python run.py --content-image input/IMG_4343.jpg --style-image input/starry_night.jpg出现如下错误：Traceback (most recent call last): File "run.py", line 9, in from skimage.restora

2016-03-25 16:56:29 8237

原创 Caffe的卷积原理

Caffe的卷积原理

2016-03-03 10:11:34 15473 10

原创 Caffe下python环境的编译和使用draw_net.py绘制lenet网络结构图

1、安装python所需的依赖包（1）sudo apt-get install python-numpy python-scipy python-matplotlib ipython ipython-notebook python-pandas python-sympy python-nose （2）再使用pip安装requirements.txt文件中所指定的包（若之前

2016-02-23 19:40:37 5480

原创 Linux下Caffe如何调试

Caffe也算是一个代码量比较大的工程，阅读代码过程调试有助于我们理解代码，首先要先将Caffe编译成debug模式方法是，将Makefile.config中"DEBUG := 1"前面的注释去掉再进行重新编译，这样就能得到Caffe版本就能够调试要调试的话也需要一个IDE，经过这两天的摸索找到了一个比较满意的IDE：Anjuta。Anjuta在Ubuntu下的安装方法为：sudo a

2016-02-23 17:43:04 13589 44

原创 Caffe中Mnist的训练日志解读

Lenet的网络结构图如下：Mnist的训练日志如下（其中max_iter设为3，使用CPU模式）I0223 14:55:42.870805 6406 caffe.cpp:178] Use CPU.//使用CPU模式I0223 14:55:42.871371 6406 solver.cpp:48] Initializing solver from param

2016-02-23 16:55:47 3595 2

原创 ubuntu14.04 安装搜狗输入法

ubuntu14.04 安装搜狗输入法

2016-02-21 15:26:00 894

原创 Ubuntu14.04 安装 Caffe

Ubuntu14.04-64位安装Caffe

2016-02-06 21:36:36 4304 6

xiaoyezi_1834的博客