自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(12)
  • 收藏
  • 关注

原创 Smartkettle执行采集OOM问题处理

smartkettle 内存溢出问题处理记录

2024-01-29 15:38:36 314

原创 kettle同步报错将截断字符串或二进制数据处理

今天在使用kettle同步数据库表的时候,出现一个报错:将截断字符串或二进制数据。源库是mysql,目标库是sqlserver。这个报错是因为同步的表中的字段超长了。检查了一下表字段,发现都是varchar(20),但sqlserver会提示截断。测试一下,直接将数据复制过去,也是一样的提示。

2023-10-16 09:00:56 428 1

原创 smartkettle包缺失问题解决方法

这是作者在gitee上的说明,其实smartkettle只引了kettle的几个核心包,所以在执行一些比较复杂的作业时,经常会出现找不到类的问题,kettle的包大部分直接改pom文件都拉取不下来,所以这个问题处理起来很头疼。注意:在引包之后,像Spring的一些核心包,会有冲突的问题,需要手动筛选一下lib下的包。最后lib包一共引了183个包。注意:本系统并非是对kettle源码的再造,而是借助kettle的API,实现kettle在web端功能华丽的转身。

2023-09-28 10:23:05 186

原创 springboot 整合kettle后,变量${Internal.Entry.Current.Directory}不生效问题

smartkettle可以解决频繁启动kettle而导致的cpu占用问题,但之前的采集文件中包含的ktr文件路径为了方便移植,都是使用${Internal.Entry.Current.Directory}内置变量写的,不使用kettle执行后,这个变量就不生效了,直接报错,无法找到ktr文件了。现有采集流程使用Kettle执行采集文件,通过shell脚本定时执行采集文件,但是随着表数量、数量增加,特别是采集出现依赖关系后,一个采集文件重复执行多次,kettle占用cpu的问题就显现出来。

2023-05-31 15:43:19 942

原创 SmartKettle 本地离线部署

公司搞调研,看看smartkettle性能是不是优于kettle,内存、cpu、磁盘空间,gitee上有离线部署的操作文档,挺详细的,但是从来没有使用过kettle的也有一些点没指出来,这里记录下做个补充。ps:如果有再公司使用过的,欢迎留言smartkettle是否对于kettle来说有性能上的优化。

2023-02-21 22:03:50 986 5

原创 MySql下关于时间范围的between查询

mysql的beteen查询界限和localdatetime

2022-09-02 21:47:10 4829

原创 回溯算法总结

最近刷题刷到回溯算法,刷的头大,官方的题解更是看的头大。背很快又忘了,今天总结一下几种回溯解决的问题。LeetCode78求不含重复数据的子集,子集不能是重复的。比如{1,2,3},{1,2}{2,1} 就是重复的。求子集的问题在递归函数中都需要index,index去保证递归的方向是向下的。、/K表示有多少个元素需要装入集合中for(int k=1; k<=nums.length; k++){ dfs(nums, 0, k, new ArrayList<>

2022-03-22 11:42:45 96

原创 编译Spring源码

使用环境idea:2019.3jdk:1.8spring:5.2.0.RELEASE第一步:下载Spring源码注意:一定要去官网的github上下载,各类教程的自带资料有可能被加工过了,总是出现一些奇怪的错误,查都查不到怎么去解决。官网下载步骤:点小猫跳转到spring的github地址。选择分支和版本下载。第二步 编译spring-oxm官方文档中有具体的命令操作。需要安装gradle,gradle的功能和maven差不多,但是代码更简洁。网上有教程说不需要安装,亲测在wi

2021-03-22 15:37:45 179

原创 Base64加密后出现\r\n的特殊符号

Base64加密后出现\r\n的特殊符号背景公司老项目引入SpringBoot(降到了1.59)的加密工具后,今天在调试的时候,前端解密时,加密的字符串只能解密出一半。比较了后端传入的加密字符串和前端接受的,发现多了很多\r\n。原因网上搜了一下,大致原因是Base64在子节流转String时,超过76就会增加换行。解决方案在处理json串时,replace掉换行符。感觉不太靠谱。就去看了下处理的方法:解决方案所以更新下commons-codec包的版本就可以了。...

2021-02-26 19:32:38 3675

原创 java.lang.NoSuchMethodError: org.springframework.util.StringUtil.isEmpty报错处理记录

java.lang.NoSuchMethodError: org.springframework.util.StringUtil.isEmpty报错处理记录背景我公司的老项目使用的jdk是1.6的,需要引入SpringBoot2.0写的项目,2.0最低要求是jdk1.8,版本冲突。所以决定讲SpringBoot降级,降到1.5.9.RELEASE。问题加入依赖后使用工具的时候报错org.springframework.util.StringUtil.isEmpty。由于引入的工具在其他项目中可以正常

2021-02-24 09:12:05 723 1

原创 应用运维转开发学习路线

应用运维转开发学习路线第一步总结自己会什么第二步学习常用java框架springboot、springcloud、vue前言运维做久了,真的很难跳出舒适圈。断断续续的学习了小一年,去年年底出去面试了一波,都没什么回应,一个是时间不太对,一个是方向上有些偏差。6月中旬,发了年终奖后再次开始投简历,运气不错,找到了一份比较合适都java开发工作。目前已经过了试用期,做了个小需求,感觉还不错。现在进入正题。第一步总结自己会什么以下是我自己的总结:(1)常用sql语句,多表查询,连接查询。(2)常用li

2020-12-27 21:26:12 1291 1

原创 应用运维转开发那些事

应用运维转开发的一些感受应用运维主要干什么做应用运维需要会什么关于薪资晋升空间为什么要转行结合自身经历从以下几个方面说下转行的经历,如有相同感受的朋友,欢迎留言讨论~应用运维主要干什么自己干了五年的应用运维,换了两家公司,都是金融公司,现在仔细回想下工作有以下几个方面:1. 解决生产系统使用过程中产生的问题。2. 应用系统使用手册,常见运维问题整理。3. 生产服务器信息整理(ip,账号、密码);4. 生产日志管理(日志转储什么的);5. 批处理管理(使用开发好的系统去批量处理数据什么的)。

2020-12-05 22:24:49 2360

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除