自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

xsh179x的博客

开放,开源

  • 博客(4)
  • 资源 (2)
  • 收藏
  • 关注

原创 scala中spark错误 Error initializing SparkContext

在做日志分析的时候,spark出现一个很匪夷所思的问题,更新完代码,运行本地环境报错(错误见下),在集群yarn环境正常2017-08-29 09:46:30 [org.apache.hadoop.util.NativeCodeLoader]-[WARN] Unable to load native-hadoop library for your platform... using builtin-

2017-08-29 10:03:05 8608

原创 hadoop无法正常关闭,不用格式化正常恢复

由于需要更改hadoop平台配置,需要关闭平台,在关闭的时候发现关闭不了:no jobtracker to stop192.168.1.107: no tasktracker to stop192.168.1.106: no tasktracker to stop192.168.1.105: no tasktracker to stop192.168.1.107: no namenode t

2016-08-05 14:57:51 388

原创 nutch在hadoop1.2.1平台中错误总结

爬虫在运行时服务器报警,日志生成到/tmp目录下,服务器RedHad,hadoop错误码:Task process exit with nonzero status of 137.Task process exit with nonzero status of 1.

2016-07-05 14:23:15 443

转载 redhad安装nethogs

工作需要监控linux下的进程宽带占有量,从网上找了资料,很多不能成功,现在整理一下安装Debian/Ubuntu下安装很简单,执行:apt-get install nethogs 就可以安装。CentOS/RHEL下建议先安装EPEL,再执行:yum install libpcap nethogs 进行安装。具体使用参数说明:[root@vpser ~]# n

2016-03-30 10:44:48 557

apache-nutch-1.7-src.tar.gz

实现了网络页面的爬去,仅需要使用ant命令编译就可以使用

2015-12-28

apache-nutch-2.3-src.tar.gz

使用ant编译后使用,不同于nutch1.7,nutch2.*以后的版本集成了数据库,更加方便

2015-12-28

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除