自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(20)
  • 资源 (1)
  • 收藏
  • 关注

原创 docker安装redis,设置密码

redis

2022-07-04 11:34:13 1393 1

原创 docker安装mysql

docker mysql

2022-07-04 11:21:02 232

原创 docker环境安装nginx,通过不同url代理不同服务映射

docker环境安装nginx,通过不同url代理不同服务映射。类似于采用统一的网关对外

2022-07-01 17:32:19 1135

原创 docker安装minio

docker安装minio

2022-06-30 09:53:14 4261

原创 centos7上docker安装postgresql12

1、查看docker版本界面查看postgresql的版本https://hub.docker.com/search?q=postgresql&type=image使用docker命令查看postgresql的版本docker search postgresql2、拉取镜像docker pull postgres:123、运行容器docker run --name my_pg12 -p 15432:5432 -e POSTGRES_PASSWORD=123456 -e TZ=PRC

2021-06-29 11:19:36 289 1

原创 单台服务器docker部署zookeeper集群

一、docker环境安装1、yum更新yum update2、安装需要的软件包, yum-util 提供yum-config-manager功能,另外两个是devicemapper驱动依赖的yum install -y yum-utils device-mapper-persistent-data lvm23、设置yum源yum-config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo4、

2021-03-11 16:43:21 564

原创 ClickHouse安装与初步使用

一、ClickHouse简介1、基础简介Yandex开源的数据分析的数据库,名字叫做ClickHouse,适合流式或批次入库的时序数据。ClickHouse不应该被用作通用数据库,而是作为超高性能的海量数据快速查询的分布式实时处理平台,在数据汇总查询方面(如GROUP BY),ClickHouse的查询速度非常快。下载仓库:https://repo.yandex.ru/clickhouse中文文档:https://clickhouse.yandex/docs/zh/2、数据库特点列式数据库列

2021-03-03 20:03:39 254

原创 Flink 常用API

Flink API概述:Flink根据抽象程度分层,提供了3种不同的API和库,每一种API在简洁性和表达力上有着不同的侧重,并且针对不同的应用场景。ProcessFunctinon概述:ProcessFunctinon是Flink所提供最底层接口。ProcessFunction可以处理一或两条输入数据流中的单个事件或者归入一个特定窗口内的多个事件,它提供了对于时间和状态的细粒度控制,开发者可以在其中任意地修改状态,也能够注册定时器用以在未来的某一时刻触发回调函数.因此你可以利用Proces.

2020-11-02 16:04:34 766

原创 flinkx测试环境搭建

flinkx是袋鼠云基于flink开发的数据同步服务,其核心实现采用插件加载模式(和datax基本一致)实现多常见的适配。一,安装flink1,下载flink的压缩包(根据flinkx的版本下载flinx)2,解压文件3,配置文件配置在flink的安装目录下的conf下修改master、slaves、flink-conf.yaml三个文件注:windows环境安装flink的相关问题##需要在flink-conf.yaml配置文件中配置如下几个值,不然启动时回报错(值大小根据自己的电脑配置调

2020-10-15 14:29:11 1905

原创 Actor生命周期

 要使用Akka Actor类型,您必须在项目中添加以下依赖项:<properties> <akka.version>2.6.10</akka.version> <scala.binary.version>2.13</scala.binary.version></properties><dependency> <groupId>com.typesafe.akka</groupId>

2020-10-12 16:28:50 443

原创 Actors介绍-聊天室实现

akka版本2.6.9版权声明:本文为博主原创文章,未经博主允许不得转载。 在使用Akka Actors时需要导入相关依赖(默认介绍maven的,如果您是使用sbt或gradle自行官网查看)<properties> <akka.version>2.6.10</akka.version> <scala.binary.version>2.13</scala.binary.version></properties>&l.

2020-10-12 15:10:14 822

原创 Actors介绍-简单轮训实例

akka版本2.6.9版权声明:本文为博主原创文章,未经博主允许不得转载。在使用Akka Actors时需要导入相关依赖(默认介绍maven的,如果您是使用sbt或gradle自行官网查看)<properties> <akka.version>2.6.10</akka.version> <scala.binary.version>2.13</scala.binary.version></properties>&lt.

2020-10-12 13:50:50 289

翻译 actor模型如何满足现代分布式系统的需求

akka版本2.6.9版权声明:本文为博主原创文章,未经博主允许不得转载。 正如在前面的主题中所描述的,常见的编程实践不能正确地满足现代系统的需求。值得庆幸的是,我们不需要放弃我们所知道的一切。相反,actor模型以一种有原则的方式解决了这些缺点,允许系统以一种更好地匹配我们的心智模型的方式运行。角色模型抽象允许您从通信的角度来考虑代码,就像在大型组织中人与人之间进行的交换一样。 使用actor可以让我们解决如下问题:在不使用锁的情况下实施封装。使用协作实体对信号做出反应、改变态并相互发送信.

2020-10-09 17:27:47 152

翻译 为什么现代系统需要一个新的编程模型

 actor模型是Carl Hewitt在几十年前提出的,作为在高性能网络中并行处理的一种方法(当时还没有这种环境)。今天,硬件和基础设施的能力已经赶上并超过了Hewitt的愿景。因此,构建具有复杂需求的分布式系统会遇到一些挑战,这些挑战无法用传统的面向对象编程(OOP)模型完全解决,但可以从actor模型获的较大的启发。 今天,actor模型不仅被认为是一种高效的解决方案,而且已经在世界上一些最复杂的应用程序的生产环境中得到了证明。为了突出actor模型所解决的问题,本主要讨论了以下传统编程假设与现代多

2020-10-09 16:29:33 107

翻译 AKKA概述

AKKA概述akka版本2.6.9版权声明:本文为博主原创文章,未经博主允许不得转载。Akka是一种用于设计跨处理器核心和网络的可伸缩、有弹性的系统的开源库。Akka支撑后让你专注于满足业务需求,而不是编写底层代码来提供可靠的行为、容错和高性能。许多常见的实践和被接受的编程模型没有为现代计算机体系结构设计系统解决所固有的重要挑战。要想成功,分布式系统必须解决如下场景:组件崩溃而没有响应,消息丢失而链路上没有跟踪,网络延迟波动。这些问题在精心管理的数据中心内环境中经常发生——在虚拟化架构中更是如此

2020-09-29 11:46:49 194

原创 idea集成vue开发环境

因开发使用需要一个后端狗子需要看一下前端,但是又不想额外去下载其它的前端开发工具,所以就想着使用idea集成vue的开发环境进行前端的前开。一,nodejs环境安装1,下载nodejs安装包,官网地址下载长期维护版本的安装包(你也可以下载最新版本的)2,安装nodejs,按照提示点击下一步,如果需要修安默认安装路径自行处理(个人十分讨厌默认安装路径)3,修改相关下载相关的数据保存目录进入nodejs的安装目录下的 \node_modules\npm 下找到npmrc文件,并去掉默

2020-08-18 11:51:17 2198

原创 mysql离线安装及资源

为满足安装现场无法连接互联网的状况特意整理一份mysql离线安装材料和资源,如有问题相互讨论学习。资源下载见如下百度云盘:访问地址云盘地址:https://pan.baidu.com/s/1h4Ayu4f5Bc5i5B80syUXSQ资源码:tsv61.删除原有的mariadb,不然mysql装不进去mariadb-libs-5.5.52-1.el7.x86_64rpm -qa|grep mariadbrpm -e --nodeps mariadb-libs2,上传资源文件.

2020-08-16 15:00:38 314

原创 flume实时写数据到HA模式下的hdfs

上一篇文章写到flume实时抽取mysql数据到kafka和hdfs,但是之前没有考虑到在hdfs是在HA模式下的情况,如果在HA模式下,我们指定了写入地址为:hdfs://cdh2:8020/flume/oracle/topic/test_%Y%m%d,当cdh2是Active状态下是没有问题的,但是当cdh2变成Standby状态后,则数据无法正常写入;为了解决这种问题,我们在flume写入...

2018-12-25 10:31:32 1337 1

原创 flmue实时增量抽取mysql数据到kafka和hdfs

近期做实时的处理一部分数据,数据在mysql中,但实现方案为kafka+jstorm的方式处理,因此需要把mysql的数据先加载到kafka,同时需要把这份数据备份到hdfs中,因此就想到采用flume的方式,一个数据来源实现数据的多分分发;因此自己也花点时间把这个配置分享出来flume简要描述:http://www.cnblogs.com/zhangyinhua/p/7803486.html...

2018-12-11 10:14:59 1790 6

原创 海量服务器简单、快捷免密方案

服务器间的免密网上一大堆,都是在服务器A和B上面去生成公钥和私钥,最后把A的公钥给B,把B的公钥给A,实现服务器A和B之间的相互免密;如果需要实现上百台甚至更多台服务器的时候,这样的方案将会消耗掉大量时间,可行性极低; 现在为大家实现一个简单的实现方案,能够快速实现海量服务器间的免密; 实现原理,在A服务器上生成公钥和私钥,在把A上的公钥和私钥传送到其...

2018-11-30 16:49:25 891 1

基于Hadoop的日志文件实时采集与可视化

随着互联网、云计算和大数据技术的发展,政府、金融、气象、工业等行业会产生各种的日志文件,伴随着业务系统规模迅速增加,日志文件的规模随之急剧增加。一直以来日志分析都是反映应用系统的运行状况和用户行为的重要途径,尤其是目前互联网技术的发展,针对日志的分析处理增加了很多创新方向,比如个性化推荐,用户行为分析等等。不同的运行系统间数据独立存储,不能实现关联分析,急需对日志文件进行统一的组织管理,以备后期进行数据挖掘和关联分析,实现这些日志、数据的价值。此外在现有很多平台中,基本数据都是放在HDFS上,对一些非专业的人员来说很难实现对数据等内容的直观查看并进行分析,对于开发人员来说要不断通过命令来查看HDFS上的内容也不是很方便,因此急需开发一个平台来实现HDFS上文件的直观查看。 本文的主要工作内容是,研究平台间的通信传输,实现在集群多机环境下对多服务器海量日志似流处理的增量实时采集,为实现对总体日志研究提供可能;研究Hadoop.2.x的集群环境构建和数据处理模式,实现在集群中把海量的小、碎的日志文件进行实时处理成集群所需的文件,并把这些处理得到的大数据量的文件实时的上传到hadoop的HDFS分布式文件系统上,为后期对数据进行结构化处理、数据挖掘、关联分析做准备;研究Hadoop.2.x的HDFS分布式文件系统,简化用户查看HDFS分布式文件系统上的文件或者文件内容和操作HDFS分布式文件系统的方式,构建一套HDFS文件系统的可视化操作系统,实现即使不会命令操作的人也能查看并简易操作HDFS分布式文件系统上的文件结构或文件内容。

2018-11-30

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除