自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

Jack Zhu

人旦有恒,事无不成

原创 centos7设置系统运行级别

centos6.4已经用了2年了,现在直接升级到了centos 7,升级之后,一些以前老的命令或者设置方式都不可用了,下面就做个记录吧。设置多用户不带图形界面:ln -sf /lib/systemd/system/multi-user.target /etc/systemd/system/default.target设置带图形界面:ln -sf /lib/systemd/syste

2015-05-15 14:52:30 1958 1

转载 solr查询语法

solr的一些查询语法1. 首先假设我的数据里fields有:name, subbranch, tel, address 预设的搜寻是name这个字段, 如果要搜寻的数据刚好就是 name 这个字段,就不需要指定搜寻字段名称. 2. 查询规则: 如欲查询特定字段(非预设字段),请在查询词前加上该字段名称加 “:” (不包含”号) 符号, 例如: address:台北台北

2015-05-15 14:41:00 1227

原创 Linux中如何剔除指定的登陆用户

最近,有于业务场景需要,得把服务器上的某些碍事的用户踢掉,呵呵,废话不说了,方法有两种1.先用w(或者who)查看有谁登陆在服务器上:2.下面,我们需要把从192.168.56.2机器上登陆的caesar用户踢掉(1).通过pkill -kill -t pts/6踢掉(2).先通过ps -ef | grep pts/6命令查找对应的进程号然后在把进程42

2015-05-15 14:26:11 4937

转载 后Hadoop时代的大数据架构

后Hadoop时代的大数据架构提到大数据分析平台,不得不说Hadoop系统,Hadoop到现在也超过10年的历史了,很多东西发生了变化,版本也从0.x进化到目前的2.6版本。我把2012年后定义成后Hadoop平台时代,这不是说不用Hadoop,而是像NoSQL (Not Only SQL)那样,有其他的选型补充。我在知乎上也写过Hadoop的一些入门文章 如何学习Hadoop - 董

2015-05-02 13:41:04 1724 1

原创 solr的简单使用说明

1.安装solrsolr的安装比较简单,直接将下载好的安装包solr-4.10.3.zip解压至指定目录就好了。2.启动solr进入$SOLR_HOME/example目录下,执行 java -jar start.jar就可以了,默认开启的端口为89833.上传测试数据至solr:进入到$SOLR_HOME/example/exampledocs目录,可以通

2015-05-02 13:24:40 4681

原创 Hadoop 2.6.0分布式部署参考手册

Hadoop 2.6.0分布式部署参考手册关于本参考手册的word文档,可以到如下地址下载:http://download.csdn.net/detail/u012875880/82853231.环境说明1.1安装环境说明本列中,操作系统为Centos 7.0,JDK版本为Oracle HotSpot 1.7,Hadoop版本为Apache Hadoop 2.6.0

2014-12-22 11:23:15 7282 3

原创 Hadoop 2.6.0单节点安装参考

1.环境说明   本例介绍了hadoop 2.6.0在单节点上的分布式安装方法。   在安装Hadoop前,请确保你的机器上已安装了JDK 1.7或更高版本,并配置了SSH无密码登陆本机。如果还没有设置SSH无密码登陆本机,可以通过如下一句长命令搞定:   rm -rf ~/.ssh;ssh-keygen -t rsa;chmod 700 ~/.ssh;more ~/.ssh/id

2014-12-22 10:28:25 3088

转载 《数据挖掘概念与技术》读书笔记(一)

转自:http://blog.csdn.net/zhucanxiang/article/details/9843901之前看过经典的《数据挖掘导论》,然后又看了韩家炜的《数据挖掘概念与技术》这本数据挖掘入门书籍,对数据挖掘也有了一个初步的了解,特此写篇文章总结一下自己读这两本书后对数据挖掘的认识。 一. 什么是数据挖掘,数据挖掘的知识体系及应用范围1. 定义:

2014-12-01 13:06:05 4412 2

原创 使用hadoop ecipse插件需要注意的问题

1.关于run on hadoop的问题:在未用hadoop eclipse插件前,我以为通过hadoop eclipse 插件不但可以管理hdfs,还可以自动打包程序,并帮我自动设置Configuration对象的mapred.jar属性值。但用了之后,才发现,这个插件只能管理hdfs,至于打包程序等操作,还得自己手动进行。我用的hadoop 版本为1.2.1,hadoop eclipse插

2014-11-20 10:51:41 1638

原创 Hadoop源码阅读环境搭建

Hadoop源码阅读环境搭建一、说明作为一个学习hadoop的同学,必须在本机上搭建hadoop源码阅读环境,这样,在方便阅读源码的同时也方便进行调试和源码修改。好了,下面开始搭建环境。1.环境说明:hadoop 版本:1.2.1、 IDE:eclipse、操作系统:centos 2.网上有人是通过eclipse的新建项目指定目录的方式将hadoop目录转换成Eclip

2014-11-19 16:53:57 5161 1

原创 linux中某个端口拒绝远程主机连接原因及解决方法

linux中某个端口拒绝远程主机连接原因及解决方法 问题描述:比如在本机telent到192.168.8.170 主机的9000 端口,被拒绝。[zhu@hadoop log]$ telnet 192.168.8.170 9000 Trying 192.168.8.170... telnet: connect to address 192.168.8.170: Conn

2014-11-14 11:10:03 65729 1

原创 hadoop eclipse插件生成

hadoop eclipse插件生成做了一年的hadoop开发,还没有自己主动生成过eclipse插件,一直都是在网上下载别人的用,今天有时间,就把这段遗憾补回来,自己生成一下,废话不说,开始了。一、环境说明本列中的hadoop eclipse插件通过eclipse生成(未使用命令生成是因为用命令生成插件过程中发生的一些问题,不容易查看和修改,用eclipse很直观,方便出错校正)

2014-11-13 16:36:15 2059

转载 终端中的乐趣:6个有趣的Linux命令行工具

之前, 我们展示了一些有关有趣的 Linux 命令行命令的文章, 这些文章告诉我们, Linux 并不像看起来那样复杂, 如果我们知道如何使用的话, 反而会非常有趣. Linux 命令行可以简洁而完美地执行一些复杂的任务, 并且十分有趣.Linux命令及Linux终端的20个趣事Linux终端的乐趣之把玩字词计数前者包含了20个有趣的 Linux 命令/脚本

2014-11-04 13:18:37 2330

转载 wget 命令实例

wget是Linux/Unix命令行文件下载器,它是下载网站上文件的免费的非交互下载工具,它支持HTTP、HTTPS和FTP协议,也支持通过HTTP代理检索。Wget是非交互的,这就是说它可以在用户没有登录到系统时在后台工作。在本帖中,我们将讨论wget命令的一些不同使用实例。实例1 :下载单个文件# wget http://mirror.nbrc.ac.in/cent

2014-11-04 13:17:42 1182

原创 Android为什么选择Java作为开发语言之我见

我们先来看一组数据:根据调研机构Strategy Analytics的最新统计数据,2014第三季度,iOS和Android已经占据全球首能手机96%的市场份额。其中,Android依然是绝对的霸主,豪取83.6%,而且相比去年同期又增长了3个百分点,iOS占比为12.3%,同比下降1.1个百分点,差距还是很明显的。接着就是Windows Phone,目前占比4.1%,小幅增长,而

2014-11-01 18:25:08 12650

转载 Flume(NG)架构设计要点及配置实践

Flume NG是一个分布式、可靠、可用的系统,它能够将不同数据源的海量日志数据进行高效收集、聚合、移动,最后存储到一个中心化数据存储系统中。由原来的Flume OG到现在的Flume NG,进行了架构重构,并且现在NG版本完全不兼容原来的OG版本。经过架构重构后,Flume NG更像是一个轻量的小工具,非常简单,容易适应各种方式日志收集,并支持failover和负载均衡。架构设计要点

2014-11-01 15:55:39 1305

转载 图文讲解.NET CLR是什么

大家首先要清楚的是,.NET平台与C#不是一回事.这点大家一定要明白,对开发人员来讲他有两个概念。第一,它是C#,VB.net等程序运行的平台。第二,它因为为这些语言提供了丰富的类库(称之为基类库),.NET CLR是什么我们现在来一起看看吧。NET CLR是什么对于一个将要面向.NET平台进行开发的人来说,了解一下.NET平台的整个构成是非常有必要的,如图1所示即说明了.NET平

2014-11-01 15:46:29 2334

原创 帮程序员减压放松的10个良心网站

同学们工作之余,不妨放下微博跟朋友圈,来这10个网站感受一下看着就醉了的情境:「念完往上一推音乐键,我往后一靠,潮乎乎的软皮耳机里头,音乐排山倒海。」今天推荐的网站,利用代入感强的图片与音频,迅速帮你抹平焦虑,获得平和心态,特别献需求改千遍的程序员们。1. Calm这是同类型中最火的网站了,站如其名,「平和」,通过自然的图像(阳光下的暖流、淙淙的小溪等)与缓缓的音乐,帮你在短时间内

2014-09-05 13:36:23 1468

原创 深入解析Java设计模式之动态代理

深入解析Java设计模式之动态代理代理是基本的设计模式之一,它是你为了提供额外的或不同的操作,而插入的用来代替”实际“对象的对象。这些操作通常涉及与”实际“对象的通信,因此代理通常充当着中间人的角色,下面是一个用来展示动态代理结构的简单示例:/** 普通(非动态)代理示例:*/interface Interface { void doSomething(); void so

2014-08-07 17:58:52 1471

原创 Java字符串的格式化与输出

Java字符串的格式化与输出在C语言中格式化输出可以通过printf()函数实现,在Java中无需借助第三方工具同样可以实现此功能,自Java SE5后,java也提供了C语言中printf()风格的格式化输出方法。目前,有三种方法实现格式化输出,参考如下:一、格式化输出的三种方法1.System.out.format()Java SE5引入的format方法可以用于PrintSt

2014-08-07 16:55:36 12912 2

原创 discuz站点迁移或者更换域名后引起的云平台异常解放方法

discuz站点迁移或者更换域名后引起的云平台异常解放方法如果因站点迁移或者更换域名而引起的云平台的各种异常可以通过重新开通云平台解决。具体步骤如下:1.进入站点后台->工具->云平台诊断工具下,点击手动修改站点ID/KEY,在弹层里将站点ID、KEY删掉,同时将云平台状态改为尚未开通云平台。2.重新开通云平台页面 :http://www.XXX.com/admin.php?act

2014-08-06 13:00:48 5101

原创 mysql常见使用问题解决方法参考

1.Can't connect to local MySQL server through socket '/var/lib/mysql/mysql.sock'

2014-08-01 13:07:18 677

原创 使用oozie的注意事项

1.oozie中不允许多个节点指向同一个,ji

2014-07-27 17:49:44 1868

原创 oozie使用中常见问题及解决方法

1.

2014-07-27 17:38:22 2793

原创 sqoop常见错误及解放方法

1.java.util.NoSuchElementException异常:这样异常y

2014-07-27 17:33:14 2665

原创 oozie-3.3.2版本安装

oozie

2014-07-27 17:08:54 1608 2

转载 Hadoop集群管理之内存管理

1、内存    Hadoop为各个守护进程(namenode,secondarynamenode,jobtracker,datanode,tasktracker)统一分配的内存在hadoop-env.sh中设置,参数为HADOOP_HEAPSIZE,默认为1000M。    大部分情况下,这个统一设置的值可能并不适合。例如对于namenode节点,1000M的内存只能存储几百万个文

2014-07-27 15:28:36 1062

原创 如何保存Yum安装的软件包

用yum安装软件默认是不保存软件包的,如果要保存的话只需修改配置文件/etc/

2014-07-27 15:01:25 6340

原创 Linux ssh(以及其他访问主机方式)登录变慢解决方法

Linux ssh(以及其他访问主机方式)登录变慢解决方法

2014-07-27 14:48:23 2905

转载 storm简介

场景伴随着信息科技日新月异的发展,信息呈现出爆发式的膨胀,人们获取信息的途径也更加多样、更加便捷,同时对于信息的时效性要求也越来越高。举个搜索场景中的例子,当一个卖家发布了一条宝贝信息时,他希望的当然是这个宝贝马上就可以被卖家搜索出来、点击、购买啦,相反,如果这个宝贝要等到第二天或者更久才可以被搜出来,估计这个大哥就要骂娘了。再举一个推荐的例子,如果用户昨天在淘宝上买了一双袜子,今天想

2014-06-17 11:24:28 759

原创 postgresql数据库配置csv格式日志输出

postgresql数据库配置csv格式日志输出下面介绍postgresql数据库中关于csv格式日志(pg中一种比较详细的日志输出方式)的设置方法。1.进入$PGDATA目录(pg的安装目录,根据具体情况名称有所区别)下找到配置文件postgresql.conf 2.开启csvlog输出功能:#开启csvlog输出功能(默认为off)logging_collector =

2014-06-13 11:22:01 3916

转载 详解Java解析XML的四种方法

前言:在设计的时候,要常用XML文件的特性,提交程序可扩展(固定参数写在XML文件)、封装(通用类、方法调用的封装)、缓存(极少变动,但逻辑有极其复杂数据分析)等特性。XML现在已经成为一种通用的数据交换格式,平台的无关性使得很多场合都需要用到XML。本文将详细介绍用Java解析XML的四种方法。XML现在已经成为一种通用的数据交换格式,它的平台无关性,语言无关性,系统无关性,

2014-05-19 09:06:04 912

转载 "error while loading shared libraries: xxx.so.x" 错误的原因和解决办法

一般我们在Linux下执行某些外部程序的时候可能会提示找不到共享库的错误, 比如:tmux: error while loading shared libraries: libevent-1.4.so.2: cannot open shared object file: No such file or directory原因一般有两个, 一个是操作系统里确实没有包含该共

2014-05-13 13:03:30 872

原创 Hadoop伪分布式安装

Hadoop伪分布式安装

2014-05-11 14:30:18 854

原创 Hadoop集群安装参考

Hadoop集群安装参考一、说明1.安装环境说明: 操作系统为Centos 6.4,安装的hadoop 版本为0.20.2-cdh3u62.安装后的集群环境说明:集群内共6台机器,分别为namenode、secondnamenode、jobtrack、datanode(三个节点),参考如下:namenode节点:                192.168.8.67(

2014-05-04 17:33:04 1077

原创 linux 下 网卡配置参考

linux 下 网卡配置参考网络接口配置文件[root@localhost ~]# cat /etc/sysconfig/network-scripts/ifcfg-eth0# Intel Corporation 82545EM Gigabit Ethernet Controller (Copper)TYPE=Ethernet #网卡类型DEVI

2014-05-04 14:56:57 798

原创 Java中xxx.class.getResource和xxx.class.getClassLoader().getResource()的区别

Java中getResource和getClassLoader().getResource()的区别

2014-05-04 09:27:25 3593

原创 shell中变量自增的实现方法

shell中变量自增的实现方法Linux shell中写循环时,常常要用到变量的自增,现在总结一下整型变量自增的方法。我所知道的,bash中,目前有五种方法:1. i=`expr $i + 1`;2. let i+=1;3. ((i++));4. i=$[$i+1];5. i=$(( $i + 1 ))可以实践一下,简单的实例如下:#!/bi

2014-04-30 18:00:03 4224

原创 Linux shell脚本中shift的用法说明

Linux shell脚本中shift的用法说明shift命令用于对参数的移动(左移)。示例1:依次读取输入的参数并打印参数个数:run.sh:#!/bin/bashwhile [ $# != 0 ];doecho "第一个参数为:$1,参数个数为:$#"shiftdone输入如下命令运行:run.sh a b c d e

2014-04-30 17:46:15 76376 7

原创 shell使用参考示例

shell使用参考示例

2014-04-30 15:10:15 1387

提示
确定要删除当前文章?
取消 删除