自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(15)
  • 资源 (2)
  • 收藏
  • 关注

原创 webrtc turn流程消息交换流程介绍

下面画了userA相关的消息,userB也有同样的过程,需要allocate relay port,answer sdp中携带relay。webrtc turn流程消息交换流程介绍。作者 伍增田 Tommy WU。

2024-04-18 18:09:09 136 1

原创 hbase2.x rest server的优化改进

增加request log记录功能

2024-03-22 13:49:31 244 1

原创 hbase 2.x MOB compaction流程代码详细解析

hbase 2.x MOB compaction流程代码详细解析

2024-03-20 13:44:43 932 1

原创 基于liberasurecode纠删码网络raid库的golang的sdk api

go erasecode sdk

2024-01-09 10:24:30 400

原创 openstack swift 批量删除对象

把要删除的对象写入到文件 d2list.txt ,一行一个。openstack swift 批量删除对象。缺省配置可以删除10000个对象。不能是静态大对象SLO,会失败。伍增田 wutommy。

2024-01-03 15:01:57 354 1

原创 openstack swift对象存储大文件分段操作实践

上传大文件耗时,如果期间网络断了,上传没有完成,又需要重传比较麻烦。因此大文件要分段上传,可以实现网络中断时断点上传,openstack swift对象存储实现了这个功能。创建大对象,先上传各分段,最后上传manifest分段目录。openstack swift对象存储大文件分段操作实践。#静态大对象SLO中间件实现的。查询有哪些分段构成的。

2023-12-29 15:59:05 851 1

原创 对海量图片小文件存储系统auklet(基于OpenStack swift)实践优化经验总结学习交流

默认情况下 HIGH 线程池执行 memtable flush 任务,LOW 线程池执行 compaction 任务。RocksDB 会创建一个 thread pool 与 Env 对象进行关联,线程池中线程的数目可以通过 Env::SetBackgroundThreads() 设定。一台object server上有24看磁盘,每个磁盘有一个rocksDB实例,共享一个Env提供的高级 低级线程池。go访问rocksdb的SDK包,用来保存小文件的索引,找到在bundle.data文件中的位置。

2023-11-10 14:43:57 54 1

原创 通过webrtc和Alexa echo的音视频互通互联方案实现

webrtc开源库: Amazon Kinesis Video Streams C WebRTC SDK作者 伍增田。

2023-07-20 13:52:54 268 1

原创 linux内核线程kworker ksoftirqd占用cpu高

centos 7.2 内核占用cpu高异常, 定位过程如下:打开内核calltrace跟踪:dmesg显示如下USB suspend/resume调用:解决办法:内核cpu降下来了:参考连接:

2023-07-13 15:01:50 869 2

原创 hbase2.0.1, 对mob file执行major_compact后, del file没有被删除

hbase2.0.1, 对mob file执行major_compact后, del file没有被删除

2023-06-02 15:23:23 67

原创 hbase2.0 mob file compact 优化到regionserver上实现, 成倍提升性能

1 master基本保持不变, 完成mob compact任务的建立, 包括选择文件, compactPartition收集, del file的compact, 最后按compactPartitionId调用rpc接口分发到多台regionserver上执行具体的mob compact file过程.当前mob compact功能是在master上运行的, 性能大大受限, 可以把它分布到多台regionserver上执行, 极大地提高运行性能.

2023-05-25 10:36:52 109

原创 hbase MOB compact流程代码解析

hbase MOB compact流程代码解析

2023-05-09 10:01:30 89 1

原创 LoadIncrementalHFiles是否要生成assignSeqIds

【代码】LoadIncrementalHFiles是否要生成assignSeqIds。

2023-04-11 14:21:26 37

原创 hbase 执行mob compact操作后mob 文件数不是减少了而是增多了问题分析

hbase的表static_file用来保存图片文件, 利用了MOB特性. 执行mob compact操作前有8000多文件, 执行结束后增加到16000多个文件, 比较奇怪.改函数的参数assignSeqId为TRUE, 会导致flushcache()而生成新的seqId. 这个seqId会用在产生文件名, 因此可以关闭掉.发现在read handler线程中会执行flush操作, 比较奇怪. 一般flush是写操作导致的.mob compact过程中会bulkload操作,关闭掉就可以解决该问题.

2023-04-11 10:48:18 139 1

原创 hbase mob读取性能改善

mob特性可以解决海量小文件图片视频的读写存储,当前mob的参考单元文件和mob文件只能保存到相同的存储类型, 要么是ssd, 要么是disk.可以把参考单元存储到ssd, mob file存储到disk, 提高读取性能设置columnfamily的storagepolicy为 ALL_SSD.修改StoreFileWriter class代码:// set block storage policy for temp pathString policyName = this.conf.g

2021-02-07 14:20:13 201 1

快递包裹YOLO训练数据集

在coco数据集基础上增加包裹jpg和label,已经打好YOLO格式的标签了

2024-04-25

ceph数据读写原理

ceph read

2017-08-24

ceph技术分析

ceph技术分析

2017-08-24

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除