自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(8)
  • 资源 (1)
  • 收藏
  • 关注

原创 presto-jdbc开发

presto-jdbc开发,可以用prestodb的包,也可以用prestosql的包,都可以连接的。用prestosql的如下:import java.sql.Connection;import java.sql.DriverManager;import java.sql.ResultSet;import java.sql.SQLException;import java.sql.Statement;import java.util.Properties;public class Table

2020-09-22 16:08:52 730

原创 hive-jdbc操作表

hadoop版本2.7.2,hive版本1.2,首先开启hivejdbc服务,创建的是orc类型表。代码为:import java.sql.*;/**[admin@linux01 bin]$ ./hiveserver2 开启这个服务 20200921*/public class TableOrc {private static String driveName = “org.apache.hive.jdbc.HiveDriver”;private static Connection c

2020-09-21 11:35:32 164

原创 通过httpfs的rest接口,在hdfs文件系统创建文件夹

通过httpfs的rest接口,在hdfs文件系统创建文件夹,基于httpclient5.0实现。/*====================================================================Licensed to the Apache Software Foundation (ASF) under oneor more contributor license agreements. See the NOTICE filedistributed w

2020-09-18 10:40:36 358

原创 通过httpfs的rest接口,远程删除文件

pom.xml可以参考我的其他文件设置。代码如下:import java.io.IOException;import org.apache.hc.client5.http.ClientProtocolException;import org.apache.hc.client5.http.classic.methods.HttpDelete;import org.apache.hc.client5.http.impl.classic.CloseableHttpClient;import org.a

2020-09-18 10:36:01 293

原创 通过yarn的rest接口获取文件信息或者任务app的日志信息

通过yarn的rest接口获取文件信息或者任务app的日志信息,即可以打开查看文件内容,也可以查看应用日志返回json格式。/*====================================================================Licensed to the Apache Software Foundation (ASF) under oneor more contributor license agreements. See the NOTICE file

2020-09-18 10:31:18 1495

原创 通过httpfs的rest接口上传文件到hdfs文件系统

通过yarn的rest接口上传文件到hdfs文件系统,基于httpclient 5.0import java.io.File;import org.apache.hc.client5.http.classic.methods.HttpPut;import org.apache.hc.client5.http.entity.mime.FileBody;import org.apache.hc.client5.http.entity.mime.MultipartEntityBuilder;import

2020-09-18 10:28:14 726

原创 通过yarn的rest接口杀死正在运行的任务,基于httpclient4.5

通过yarn的rest接口杀死正在运行的任务,基于httpclient4.5。curl命令为:curl -X PUT -d ‘{“state”:“KILLED”}’ -H ‘Content-Type: application/json’ http://linux01:8088/ws/v1/cluster/apps/application_1600303805098_0001/state代码为:import net.sf.json.JSONObject;import org.apache.http.

2020-09-18 10:23:07 1175

原创 通过yarn的rest接口杀死正在运行的任务,基于httpclient5.0

通过yarn的rest接口杀死正在运行的任务,基于httpclient5.0import java.io.File;import java.io.IOException;import java.net.URISyntaxException;import org.apache.hc.client5.http.ClientProtocolException;import org.apache.hc.client5.http.classic.methods.HttpPut;import org.apa

2020-09-18 10:12:52 635

spark-avro,hudi开发jar包

spark-avro,hudi开发jar包

2022-11-02

遍历hfds列出所有空目录和文件及大小.rar

java代码实现遍历hdfs所有文件夹及文件,列出空目录以dirnull标示,列出所有文件及大小。可以直接导入到开发环境,hadoop版本为2.7.2,

2020-08-27

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除