自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(13)
  • 资源 (1)
  • 收藏
  • 关注

原创 Linux服务器预警通知发送至钉钉机器人

linux下tomcat服务器触发预警通知,并推送至钉钉群一、执行频率:每30分钟执行一次二、预警范围:磁盘使用超过80%发送预警通知 cpu使用率小于20%发送预警通知 浏览网址出现连接超时或者tomcat挂掉,自动重启tomcat三、路径配置脚本:/opt/monitor.sh 执行文件位置:/opt/monitor/tomcat_monitor.log /opt/monitor/monitor_日期.info(每天创建一个文件)四、配置预警脚本流程:配置执行任务

2020-10-29 17:53:21 66

原创 kafka集群搭建

一、前提准备笔者在这里的使用版本,仅供参考名称 版本 地址 zookeeper 3.4.12 zookeeper官网下载地址 kafka 1.1.0 kafka官网下载地址 主要配置信息如下(这里的zookeeper集群是之前搭建的myid都是以前设置的,而broker.id怕混淆就和主机ip结尾设置一样的)主机IP ...

2018-07-16 21:28:53 1621 1

原创 Kafka+Spark streaming读取数据存hdfs

待更新

2018-07-05 08:30:24 11783 8

原创 spark streaming + kafka 找不到kafkaUtils类

maven构建streaming+kafka的项目问题:运行项目报找不到KafkaUtils类:(如下图)于是我打开idea但确实可以找到这个包下的KafkaUtils类,刚开始以为打包的问题,找半天都没错,上网说可能是scala和kafka版本的冲突,但是我检查了一遍都没问题,版本不冲突spark2.3、scala2.11、kafka0.10解决方式:1、去maven仓库找到KafkaUtils...

2018-07-03 07:51:38 9350

原创 kafka版本1.1.0 javaAPI实现生产者、消费者

一、环境准备:1、maven工程中引入依赖: <dependency> <groupId>org.apache.kafka</groupId> <artifactId>kafka_2.12</artifactId> <version>1.1.0</version&gt

2018-06-19 22:14:45 6774

原创 spark 自定义排序

spark 自定义排序一、为什么要自定义排序?在spark中,利用rdd的sortBy函数进行排序,我们只能单一对某个元素,然而这并不能解决工作中的实际业务,所以今天整理一个简单自定义的排序,类解决这个问题。二、定义要素1、定义一个类,继承Ordered2、实现Serializable序列化3、重写compare方法三、上代码import org.apache.spark.{SparkConf, ...

2018-06-04 22:03:39 1059

原创 sparkRDD高级算子 combineByKey函数详解

combineByKey

2018-05-30 07:54:58 663

原创 hadoop集群分布式搭建以及环境配置

一、前期环境准备操作系统CentOS 7四台虚拟机:(克隆最小安装版本的虚拟机)      master 192.168.174.110 主机datanode1 192.168.174.111 子机datanode2 192.168.174.112 子机datanode3 192.168.174.113 子机软件包如下:oracle官网下载 jdk-8u161-linu...

2018-02-03 00:10:29 332

原创 主机navicat连接虚拟机linux出现错误代码:10038

问题:错误信息:Can't connect to MySQL server on 'xxxxx'(10038) 解决方法:查看网络的端口信息:netstat -ntpl查看防火墙的状态,发现3306的端口是丢弃状态:iptables -vnL这里要清除防火墙中链中的规则iptables -F注:通过以上如果还不能连接,说明mysql未授权给用户远程登录的...

2018-01-22 14:04:26 3814 4

原创 linux环境下安装配置tomcat

一、前期环境准备:利用Xshell工具安装jdk,Xshell如何安装?可以参照我的:Xshell配置连接虚拟机tomcat下载地址:tomcat下载二、安装:在 /usr/local 下创建一个tomcat的文件夹,如下图所示: 使用Xshell把tomcat安装包上传到/usr/local/installPack目录下(这是放安装包的文件夹,自行创建)rz...

2018-01-19 15:52:34 233

原创 linux环境下安装配置maven

一、前期环境准备:利用Xshell工具安装jdk,Xshell如何安装?可以参照我的:Xshell配置连接虚拟机maven下载地址:maven下载二、安装在 /usr/local 下创建一个maven的文件夹,如下图所示:使用Xshell把maven安装包上传到/usr/local/installPack目录下(这是放安装包的文件夹,自行创建)rz把安装包解压到...

2018-01-19 12:42:39 2346

原创 linux环境下安装配置jdk1.8

一、前期环境准备利用Xshell工具安装jdk,Xshell如何安装?可以参照我的:Xshell配置连接虚拟机jdk下载地址(oracle官网):jdk下载二、安装1、xshell打开下载文件rz  命令找到并打开下载的jdk文件先为文件赋予执行的权限chmod 755 jdk-8u161-linux-x64.rpm(jdk安装包) 查看是否赋予成功...

2018-01-18 17:50:21 4069

原创 本地主机Xshell连接虚拟机Linux CentOS

一、前期环境准备:在虚拟机安装Linux系统,并安装CentOS。笔者在这里的镜像为CentOS7Xshell下载地址:http://rj.baidu.com/soft/detail/15201.html?ald二、配置信息如下:安装完CentOS 7,虚拟机的IP都是默认动态的。当我们想要Xshell远程来操作虚拟机时,每次都需要查看虚拟机的IP才能连接使用。针对这种情况,我们需...

2018-01-17 15:38:53 22796 5

kafka-manager

免编译直接使用,但你的运行环境务必为jdk1.8 直接解压缩,修改conf下application.conf文件 kafka-manager.zkhosts="host:port,host:port,host:port" 启动运行端口默认为9000

2018-07-20

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除