自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(23)
  • 资源 (1)
  • 收藏
  • 关注

原创 极简步骤试玩Ant Design Pro myapp demo

今天试了一把最新版本(v5.2.0)Ant Design Pro myapp demo:确保安装cnpm,比npm快。有大把时间的可以忽略:npm install -g cnpm --registry=https://registry.npm.taobao.orgnpm config set registry https://registry.npm.taobao.org1. cd一个空目录,git clone https://github.com/ant-design/ant-design-p

2022-05-06 14:12:22 1144 1

原创 mysql数据库突然不见的原因之一

在网上看到很多种导致mysql数据库不见的情况,大概率是权限的原因。我今天也遇到了,打开Workbench并登录,左边Schemas中的数据库列表大白一片,乍看吓一跳。赶紧登录后台,通过mysql命令登录,执行show databases只看到information_schema,连mysql和sys两个数据库都不见。环顾四周没发现谁删库跑路,奇怪~心慌之余,冷静想想,能登录至少有救,于是...

2019-09-06 13:52:11 18952 3

原创 如何解决无法复制粘贴到远程Windows机器的问题?

两步即可:1,在任务管理器中找到并杀掉rdpclip.exe进程;2,打开DOS界面运行rdpclip.exe。

2019-09-03 17:10:04 762

原创 Oozie需要的ext-2.2.zip下载链接

Oozie-4.1.0-cdh5.16.2指定需要ext-2.2.zip,但是找到下面最常被提到的网址都一无所获:http://www.sencha.com/products/js/download.phphttp://www.sencha.com/learn/Ext_Version_Archiveshttp://olex.openlogic.com/packages/extjs/2....

2019-09-01 21:49:44 1954 1

原创 Netty SocketIO如何支持客户端发起的SSL访问?

Netty SocketIO如何支持客户端的SSL访问还是比较简单的,大体上分两个步骤:1)准备JKS密钥库;keytool -genkey -alias websocket -keyalg RSA -keysize 4096 -keypass 123456 -keystore C:\keystore.jks -storepass 123456 -dname "cn=websocket,...

2019-08-30 10:59:22 1960 2

原创 Netty SocketIO如何在客户端发起链接时验证token是否合法?

直接上代码:socketIOServer.addConnectListener(new ConnectListener() { public void onConnect(SocketIOClient socketIOClient) { String sessionId = socketIOClient.getSessionId().toString(); ...

2019-08-30 10:20:07 4251 2

原创 如何使用Windows IIS颁发的证书生成Netty SocketIO支持SSL所需要的JKS密钥库?

大体背景是,同一机器上Windows IIS的Web服务和基于Netty SocketIO的WebSocket服务都需要支持SSL功能。一开始两个服务是不同团队开发,于是分别各自生成支持SSL所需要的证书和密钥库。IIS这边只需要颁发证书,而Netty SocketIO这边因为是Java开发,需要通过keytool生成密钥库文件和证书。后来在一起集成部署后,测试发现需要导入两次证书,对用户...

2019-08-30 09:17:40 513

原创 Windows下RabbitMQ的配置文件

2019-08-23:因为Windows下RabbitMQ会疯狂繁殖自己的日志,所以想狠心一把,只打印warning级别以上的日志。我是在Windows2016下面安装的RabbitMQ3.7.16(Erlang OTP 22.0),按照C:\Program Files\RabbitMQ Server\rabbitmq_server-3.7.16\etc\README.txt所说:In ...

2019-08-23 16:33:05 3541

原创 如何下载Cloudera归档网页上看不到的zookeeper?

最近需要安装大数据平台测试环境,于是想用Cloudera的一套组件试试手。因为嫌弃Cloudera Manager安装不过瘾,于是想手动从零开始安装。郁闷的是,到安装zookeeper的时候,在http://archive.cloudera.com/cdh5/cdh/5/页面死活找不到zookeeper的tar.gz。...大约过了十几秒的超长折磨时间,情急之下,灵机一动,照着其他cdh组...

2019-08-22 10:16:03 582 2

原创 Spring+SpringMVC+Mybatis实现简单的注册登录功能

由于最开始过于自信,想着一天的时间就能在一个干净的环境内(一个能上网的Windows10即可),从零开始利用Spring+SpringMVC+Mybatis(SSM)实现下简单的注册登录功能,由此基础实现更为复杂的功能。结果由于老眼昏花,中间还是踩了一些坑。其中某个笔误(少敲了一个字母)竟让我在网络上游荡了2天寻医问药还是徒劳而返,最后老老实实重新检查了所有配置文件才发现这个笔误。提示:为了增加成...

2018-05-08 15:24:55 6030 2

原创 sigmoid函数求导的步骤补充

网上有不少关于sigmoid函数求导的文章(比如来自CSDN的博文sigmoid函数求导与自然指数),但是求导过程中对于怎么由(1/(1+exp(-x)))'一下推导至exp(-x)/(1+exp(-x))^2没有提及。虽然对于熟练函数求导的朋友们不难,但对于刚接触函数求导或者隔了若干年忘记函数求导的朋友们还是有不少疑惑。这里借助函数的和的求导法则(f(x)+g(x))'=f(x)'+g(x)

2017-06-07 11:51:48 14606 3

原创 Spark定制班第7课:Spark Streaming源码解读之JobScheduler内幕实现和深度思考

Inlast course, we learned "How the Spark Streaming Job is generated dynamically".Fromthat course, we have known there are 3 key classes for Spark Streaming Job:JobScheduler: schedules Spark Stre...

2016-06-07 22:07:02 796

原创 Spark定制班第6课:Spark Streaming源码解读之Job动态生成和深度思考

Spark Streaming Job动态生成三大核心JobGenerator:负责Job生成 JobSheduler:负责Job调度 ReceiverTracker:获取元数据JobGenerator在构造的时候有一个核心的参数是jobScheduler,jobScheduler是整个Job(作业)的生成和提交给集群的核心,JobGenerator会基于DStream生成Job...

2016-05-31 00:32:31 593

原创 Spark定制班第5课:基于案例一节课贯通Spark Streaming流计算框架的运行源码

本期内容1 在线动态计算分类最热门商品案例回顾与演示2 基于案例贯通Spark Streaming的运行源码1在线动态计算分类最热门商品案例回顾与演示我们用SparkStreaming+SparkSQL来实现分类最热门商品的在线动态计算。代码如下:package com.dt.spark.streamingimport org.apache.spa...

2016-05-08 17:48:45 804

原创 Spark定制班第4课:Spark Streaming的Exactly-Once的事务处理和不重复输出彻底掌握

本期内容1 Exactly-Once事务处理2 输出不重复的解决办法1 Exactly-Once事务处理1)什么是Exactly-Once事务?数据仅处理一次并且仅输出一次,这样才是完整的事务处理。以银行转帐为例,A用户转账给B用户,B用户可能收到多笔钱,保证事务的一致性,也就是说事务输出,能够输出且只会输出一次,即A只转一次,B只收一次。2)从事务...

2016-05-08 16:31:49 1885

原创 Spark定制班第3课:通过案例对SparkStreaming透彻理解三板斧之三:解密Spark Streaming运行机制和架构进阶之Job和容错

本期内容:1解密SparkStreamingJob架构和运行机制2解密SparkStreamingJob容错架构和运行机制1解密SparkStreamingJob架构和运行机制理解SparkStreaming的Job的整个架构和运行机制对于精通SparkStreaming是至关重要的。我们运行以下的程序,通过这个程序的运行过程进一步加深...

2016-05-08 00:04:22 867

原创 Spark定制班第2课:通过案例对Spark Streaming透彻理解三板斧之二:解密Spark Streaming运行机制和架构

本期内容:1 解密Spark Streaming运行机制2 解密Spark Streaming架构1 解密Spark Streaming运行机制上节课我们谈到了技术界的寻龙点穴。这就像过去的风水一样,每个领域都有自己的龙脉,Spark就是龙脉之所在,它的龙穴或者关键点就是SparkStreaming。这是上一节课我们非常清晰知道的结论之一。而且上一节课,我们采用了降维的方式...

2016-05-07 20:20:44 857

原创 Spark定制班第1课:通过案例对Spark Streaming透彻理解三板斧之一:解密Spark Streaming另类实验及Spark Streaming本质解析

今天是Spark定制班的第1课,这一课将成为我们未来发布Spark源码定制版本的引路石。注:我们当前课程内容基于Spark 1.6.1版本(在2016年5月来说是Spark最新版本)讲解。我们从第一课就选择Spark子框架中的Spark Streaming。那么,我们为什么要选择从Spark Streaming入手开始我们的Spark源码版本定制之路?有下面几个方面的理由:

2016-05-03 23:07:51 4682

原创 IMF传奇行动第86课:Spark Streaming第五课:Spark Streaming数据源Flume实际案例分享

本课分三部分内容:•第一部分讲什么是Flume;•第二部分讲Flume+Kafka+Spark Streaming应用场景;•第三部分讲Kafka数据写入Spark Streaming有两种方式。

2016-05-02 21:11:15 760

原创 IMF传奇行动第85课:Spark Streaming第四课:基于HDFS的Spark Streaming案例实战和内幕源码解密

如何用代码快速编写一个基于HDFS的Spark Streaming案例,并且立即在Spark集群环境中测试代码的运行结果?本文就是来解答上述问题,并且还解密其中关键的Spark Streaming内幕源码。本文一共分三部分讲解:一、准备HDFS和Spark集群环境二、用Java代码编写基于HDFS的Spark Streaming案例三、Spark Streaming on HDFS源码解密

2016-05-01 17:39:31 1570

原创 IMF传奇行动第84课:Spark Streaming第三课:StreamingContext、DStream、Receiver深度剖析

本课分成四部分讲解:第一部分对StreamingContext功能及源码剖析;第二部分对DStream功能及源码剖析;第三部分对Receiver功能及源码剖析;最后一部分将StreamingContext、DStream、Receiver结合起来分析其流程。

2016-04-30 10:45:52 6414

原创 IMF传奇行动第83课:Spark Streaming第二课:用Scala和Java二种方式实战Spark Streaming开发

现在大数据最流行的几种开发语言(Java,Scala,Python和R)中,你会多少种?没关系,通过阅读《用Scala和Java二种方式实战Spark Streaming开发》这篇图文并茂的博文,你能快速了解Scala和Java是怎么来开发Spark Streaming的实战代码。

2016-04-26 23:16:07 890

原创 IMF传奇行动第82课:Spark Streaming第一课:案例动手实战并在电光石火间理解其工作原理

在大数据时代Spark Streaming能做什么?平时用户都有网上购物的经历,用户在网站上进行的各种操作通过Spark Streaming流处理技术可以被监控,用户的购买爱好、关注度、交易等可以进行行为分析。在金融领域,通过Spark Streaming流处理技术可以对交易量很大的账号进行监控,防止罪犯洗钱、财产转移、防欺诈等。在网络安全性方面,黑客攻击时有发生,通过Spark Streaming流处理技术可以将某类可疑IP进行监控并结合机器学习训练模型匹配出当前请求是否属于黑客攻击。其他方面,如:垃

2016-04-17 12:13:56 5965

Rules of Machine Learning: Best Practices for ML Engineering

This document is intended to help those with a basic knowledge of machine learning get the  benefit of best practices in machine learning from around Google. It presents a style for machine  learning, similar to the Google C++ Style Guide and other popular guides to practical  programming. If you have taken a class in machine learning, or built or worked on a  machine­learned model, then you have the necessary background to read this document. 

2017-11-07

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除