大数据 flink 思维导图 知识点
Apache Flink是一个分布式流处理引擎,提供了直观而富有表现力的api,以此来实现有状态的流处理应用程序。它以一种容错的方式有效地在大规模集群上运行这样的应用程序。2014年4月,Flink加入了Apache软件基金会作为孵化项目,2015年1月,成为顶级项目。从一开始,Flink就拥有一个非常活跃且不断增长的用户和贡献者社区。到今天为止,已经有超过350人对Flink做出了贡献,并且它已经发展成为最成熟的开源流处理引擎之一,为跨不同行业和全球的许多公司和企业提供大规模的关键业务应用程序。
流处理技术正在被任何规模的公司和企业迅速采用,因为它为许多已建立的用例提供了优越的解决方案,同时也促进了新的应用程序、软件架构和商业机会。在本文件中详细介绍flink知识点。
微信小程序开发全案精讲
微信小程序开发全案精讲 PPT 源码 案例
鲲鹏应用者开发HCIA题库及答案.pdf
1
(单选题)目前鲲鹏内存优化型云服务器km1可购买的最大内存为()GB。
.A、192
.B、256
.C、384
.D、480
鲲鹏练习题六套.pdf
鲲鹏练习题共计六套300道
1
(单选题)目前鲲鹏内存优化型云服务器km1可购买的最大内存为()GB。
.A、192
.B、256
.C、384
.D、480
大数据运维手册-你值得拥有
一组可与您的Hadoop集群交互的网络应用程序。Hue应用能让您浏览HDFS和工作,管理Hive metastore,运行Hive,浏览HBase Sqoop出口数据,提交MapReduce程序,构建自定义的搜索引擎与Solr,与Oozie一起调度重复性的工作流。
基于私有云的大数据运维实践.pdf
基于私有云的大数据运维实践
解决大数据开发者本地搭建大数据环境的不稳定问题
解决公有云搭建hadoop后开发运维管理的不方便
解决学员个性化学习实战项目多hadoop版本环境共享数据源问题
大数据系统运维PPT.zip
运维的发展在不断经历着数据场景转移、工具场景转移、运维场景复杂化等场景。从最初的没有数据,到有数据,再到数据太多的一个过程。然而这也带来了诸多的问题,比如数据孤立、工具的复杂化、无法贴合业务,无法有效融合数据,提炼数据的价值。数据永远是多纬度并存管理的关系,无法快速提炼核心关注点,很难有效的进行管理分析。
有数据、有工具、有团队,但是缺少集中告警、缺少统一展现、缺少关联分析,这是当前众多企业IT运维共同面临的问题。
面对工具多样性、告警源多样性、数据多样性、团队多样性的场景,TOC 智慧服务方案提供了边融合、边迭代的解决方案。通过 “松耦合” 的方式持续整合专业运维工具、数据、流程,持续优化运维数据共享、团队协同、资源优化的一体化智能运维效果。
云计算运维及DevOps实.pptx
云计算运维及DevOps实.pptx
协同合作
打通壁垒
端到端的团队合作
基础设施即代码
支持业务和技术灵活性
自劢化一切
测试一切
测试和监控一切
云计算运维.pptx
云平台将众多的物理资源及虚拟资源进行整合并通过虚拟化技术实现服务量的动态伸缩将服务按需提供给用户。
监控作为云平台中云服务稳定性支持方面一个重要的角色,它能为云平台中的资源调度、故障检测及分析预测等提供强有力的支持,对云平台中云服务质量的提高有着非常重要的作用。
典型的云计算场景由基础设施提供商(InP)、服务提供商(SP)和客户组成,InP负责提供可由SP租用的虚拟资源(例如,计算、存储、网络等资源),SP则将客户的需求考虑在内,并为客户提供相应的服务应用来满足这些需求
Java面向对象编程.zip
本书内容由浅入深,紧密结合实际,利用大量典型实例,详细讲解java面向对象的编程思想、编程语法和设计模式,介绍常见java类库的用法,总结优化java编程的各种宝贵经验,深入阐述java虚拟机执行java程序的原理。书中实例均基于最新的jdk 1.5版本。全书内容包括面向对象的编程思想、java语言的基础知识、异常处理、类与对象的生命周期、多线程、java集合、输入/输出和gui编程等。其最大特色是以六条主线贯穿全书:面向对象编程思想、java语言的语法、java虚拟机执行java程序的原理、在实际项目中的运用、设计模式和性能优化技巧。同时,本书还贯穿了sun公司的scjp(sun certified java programmer)认证的考试要点。
书中实例源文件请到http://www.fecit.com.cn的“下载专区”下载。 本书适用于所有java编程人员,包括java初学者及资深java开发人员;亦可作为高校的java教材,企业java的培训教材,以及sun公司的scjp认证的辅导材料。
SecureCRT-7.3.4(含注册机).zip
SecureCRT-7.3.4(含注册机),你连接linux的首选工具,免费不要钱!!!
数据清洗数据源.zip
数据清洗/大数据应用人才培养系列教材,数据来源文件。
html转word
这是一个html页面转word的小demo,需要的小火办过来喵一下,不是什么大的模块,但是有可能会激发你的小思路哦!
jdmkrt-jar包
jmx练习用的jar包,要不然需要去oracle官网去注册一个
java文件保存对话框
InputStream inputStream = conn.getInputStream(); // 通过输入流获得图片数据
byte[] getData = readInputStream(inputStream, type); // 获得图片的二进制数据
zipOut.putNextEntry(new ZipEntry(stc));
zipOut.write(getData);
zipOut.closeEntry();
Kettle学习资料大全
Kettle是一款国外开源的ETL工具,纯java编写,可以在Window、Linux、Unix上运行,绿色无需安装,数据抽取高效稳定。
Kettle 中文名称叫水壶,该项目的主程序员MATT 希望把各种数据放到一个壶里,然后以一种指定的格式流出。
Kettle这个ETL工具集,它允许你管理来自不同数据库的数据,通过提供一个图形化的用户环境来描述你想做什么,而不是你想怎么做。
Kettle中有两种脚本文件,transformation和job,transformation完成针对数据的基础转换,job则完成整个工作流的控制。
分布式数据仓库Hive大全
1. HIVE结构 6
1.1 HIVE架构 6
1.2 Hive 和 Hadoop 关系 7
1.3 Hive 和普通关系数据库的异同 8
1.4 HIVE元数据库 9
1.4.1 DERBY 9
1.4.2 Mysql 10
1.5 HIVE的数据存储 11
1.6 其它HIVE操作 11
2. HIVE 基本操作 12
2.1 create table 12
2.1.1 总述 12
2.1.2 语法 12
2.1.3 基本例子 14
2.1.4 创建分区 15
2.1.5 其它例子 16
2.2 Alter Table 17
2.2.1 Add Partitions 17
2.2.2 Drop Partitions 17
2.2.3 Rename Table 17
2.2.4 Change Column 18
2.2.5 Add/Replace Columns 18
2.3 Create View 18
2.4 Show 19
2.5 Load 19
2.6 Insert 21
2.6.1 Inserting data into Hive Tables from queries 21
2.6.2 Writing data into filesystem from queries 21
2.7 Cli 22
2.7.1 Hive Command line Options 22
2.7.2 Hive interactive Shell Command 24
2.7.3 Hive Resources 24
2.7.4 调用python、shell等语言 25
2.8 DROP 26
2.9 其它 27
2.9.1 Limit 27
2.9.2 Top k 27
2.9.3 REGEX Column Specification 27
3. Hive Select 27
3.1 Group By 28
3.2 Order /Sort By 28
4. Hive Join 29
5. HIVE参数设置 31
6. HIVE UDF 33
6.1 基本函数 33
6.1.1 关系操作符 33
6.1.2 代数操作符 34
6.1.3 逻辑操作符 35
6.1.4 复杂类型操作符 35
6.1.5 内建函数 36
6.1.6 数学函数 36
6.1.7 集合函数 36
6.1.8 类型转换 36
6.1.9 日期函数 36
6.1.10 条件函数 37
6.1.11 字符串函数 37
6.2 UDTF 39
6.2.1 Explode 39
7. HIVE 的MAP/REDUCE 41
7.1 JOIN 41
7.2 GROUP BY 42
7.3 DISTINCT 42
8. 使用HIVE注意点 43
8.1 字符集 43
8.2 压缩 43
8.3 count(distinct) 43
8.4 JOIN 43
8.5 DML操作 44
8.6 HAVING 44
8.7 子查询 44
8.8 Join中处理null值的语义区别 44
9. 优化与技巧 47
9.1 全排序 47
9.1.1 例1 48
9.1.2 例2 51
9.2 怎样做笛卡尔积 54
9.3 怎样写exist/in子句 54
9.4 怎样决定reducer个数 55
9.5 合并MapReduce操作 55
9.6 Bucket 与 sampling 56
9.7 Partition 57
9.8 JOIN 58
9.8.1 JOIN原则 58
9.8.2 Map Join 58
9.8.3 大表Join的数据偏斜 60
9.9 合并小文件 62
9.10 Group By 62
10. HIVE FAQ: 62
JDBC连接代码
Class.forName(driver);
conn = DriverManager.getConnection(url, userName, passWord);
String sql = "select * from t_demo_xs where xm = ?";
ps = conn.prepareStatement(sql);
ps.setString(1, "liu");
rs = ps.executeQuery();
QuartzManager
/**
* @Description: 添加一个定时任务
*
* @param jobName
* 任务名
* @param jobGroupName
* 任务组名
* @param triggerName
* 触发器名
* @param triggerGroupName
* 触发器组名
* @param jobClass
* 任务
* @param cronExpression
* 时间设置,参考quartz说明文档
*
*/
@SuppressWarnings("unchecked")
public void addJob(String jobName, String jobGroupName,
String triggerName, String triggerGroupName, Class jobClass,
String cronExpression, Object data) {
newJob(jobName, jobGroupName, triggerName, triggerGroupName, jobClass, cronExpression);
}
private void newJob(String jobName, String jobGroupName,
String triggerName, String triggerGroupName, Class jobClass, String cronExpression) {
try {
JobDetail jobDetail = JobBuilder.newJob(jobClass)
.withIdentity(jobName, jobGroupName).build();
JobData jobData = new JobData();
jobData.setJobId(jobName);
jobData.setJobName(jobName);
jobDetail.getJobDataMap().put("data", jobData);
// 触发器
CronScheduleBuilder scheduleBuilder = CronScheduleBuilder.cronSchedule(cronExpression);
Trigger trigger = TriggerBuilder.newTrigger().withIdentity(triggerName, triggerGroupName).withSchedule(scheduleBuilder).build();
schedulerFactoryBean.getScheduler().scheduleJob(jobDetail, trigger);
startSched();
} catch (Exception e) {
throw new RuntimeException(e);
}
}
AbsoluteTelnet
AbsoluteTelnet,内含注册机,版本是6.2.8,有需要的童鞋自己下载哦!!!
MySQL语法使用大全
mysql> SELECT something FROM table
WHERE TO_DAYS(NOW()) - TO_DAYS(date_col) <= 30;
DAYOFWEEK(date)
返回日期date的星期索引(1=星期天,2=星期一, ……7=星期六)。这些索引值对应于ODBC标准。
mysql> select DAYOFWEEK('1998-02-03');
-> 3
WEEKDAY(date)
返回date的星期索引(0=星期一,1=星期二, ……6= 星期天)。
mysql> select WEEKDAY('1997-10-04 22;23;00');
-> 5
mysql> select WEEKDAY('1997-11-05');
-> 2
DAYOFMONTH(date)
返回date的月份中日期,在1到31范围内。
mysql> select DAYOFMONTH('1998-02-03');
-> 3
DAYOFYEAR(date)
返回date在一年中的日数, 在1到366范围内。
mysql> select DAYOFYEAR('1998-02-03');
-> 34
MONTH(date)
返回date的月份,范围1到12。
mysql> select MONTH('1998-02-03');
-> 2
oauth2 demo
基于OAuth2.0协议,在spring security oauth2.o的基础上搭建的
1、全部基于数据库存储用户信息,tokens
2、md5密码salt加密
3、https(没有配)
4、memcache(没有配)
如果3、4有需要可以联系我,大家一起讨论一下QQ549854733
网吧计费管理系统源代码
用于毕业设计,懒得做毕业设计的童鞋,快来下载吧!
java网吧计费管理系统
java网吧计费管理系统