- 博客(329)
- 资源 (56)
- 收藏
- 关注
RSS订阅原创 磁盘增长不释放问题
进 程所打开的每个文件都有一个符号连接在该子目录里, 以文件描述符命名, 这个名字实际上是指向真正的文件的符号连接，（和 exe 记录一样）．例如, 0 是标准输入, 1 是标准输出, 2 是标准错误, 等等. 程序有时可能想要读取一个文件却不想要标准输入，或者想写到一个文件却不想将输出送到标准输出去，那么就可以很有效地用如下的办法骗过(假定 -i 是输入文件的标志, 而 -o 是输出文件的标志)又或者说，怎么在日志进行滚动的时候，进程的标准输入和标准输出的inode重定向到新的？
2023-06-07 15:36:04
1578
原创 wasm开发示例
envoy有着很强的可配置性，但总归有一些功能是没有实现的，那么如何对envoy进行扩展呢？有2种做法：一个是直接修改envoy源码，另一个是通过Web Assembly插件。直接修改源码的好处是envoy native，性能最好，但带来了可维护性的降低，不利于未来升级，另外也需要使用c++进行编码，对开发人员有一定的要求。
2023-05-09 10:48:56
2053
2
原创 Connection refused问题总结
发现是安全拦截导致，因为在安全的IP封禁里面的规则对于别人是不可见的，部分出口防火墙的公网被安全封禁，在开发人员你那边是不清楚底层网络通信被转了几手，中间通过了哪些个节点，所以可以询问下网络同事。权限无问题，请检查应用。步骤1、在x.x.x.1上：ping x.x.x.2，查看是否有丢包（packet loss），1%以上确认中间网络的链路就有丢包故障。步骤2：在x.x.x.1上：telnet x.x.x.2 80，查看response速度，正常应该是瞬间返回，人为几乎感知不到延迟。
2023-03-27 15:15:18
11860
原创 OVS网络看redis空闲5分钟后异常断开问题
因为fin+ack的报文被drop了，而且redis发送的fin+ack距离上一个ack报文的时间间隔是5分钟，所以怀疑是redis发送的ack报文或是push+ack报文有问题，需要check这两种报文的sequence是否正确，然后将netfilter的pr_debug日志打开，如下。当设置了IP_CT_TCP_FLAG_DATA_UNACKNOWLEDGED标记后，ct的timeout更新为nf_conntrack_tcp_timeout_unacknowledged（默认5分钟）
2023-03-13 20:59:58
5406
原创 CNI-Terway讲解
以下几个方面做的比较好：IP池化，减轻对SDN访问访问压力，减少访问openapi，提升pod创建效率device-plugin 让集群感知IP数量，IP作为一种调度资源。提升调度效率和IP有效利用率ipvlan I3s提升网络性能QoS增加更多流量控制手段，为资源隔离提供更健壮的保证。
2023-03-13 10:27:33
5251
原创 MySQL连接池周期性失败--ipvs组件主动断开15m未活动的TCP长连接
业务Pod，每隔10分钟创建1个MySQL连接，总共创建5个，单个连接在15分钟内没有被复用，空闲时间超过IPVS阈值，被kill了。Pod日志=======IPVS Conns======0:00 Conn160:0065:0070:0075:0080:0085:0090:0095:00100:00。
2023-03-01 17:20:19
5405
原创 Docker容器cpu利用率问题
a) 经过大量测试物理机top和docker里的进程CPU使用率是完全一致的，也分别对比了容器和物理机的/proc/PID/stat和/proc/stat文件的内容， 数据几乎差不多（因为stat文件时刻在变化），而top对cpu的使用率计算方式就是通过这两个文件拿到的数据值。b)得出结论，可以在容器内使用top查看进程的cpu使用率。
2023-03-01 14:36:32
7111
原创 K8S DNS解析过程和延迟问题
5、如果本地DNS服务器本地区域文件与缓存解析都失效，则根据本地DNS服务器的设置（是否设置转发器）进行查询，如果未用转发模式，本地DNS就把请求发至13台根DNS，根DNS服务器收到请求后会判断这个域名（.com）是谁来授权管理，并会返回一个负责该顶级域名服务器的一个IP。本地DNS服务器收到IP信息后，将会联系负责.com域的这台服务器。6、如果用的是转发模式，此DNS服务器就会把请求转发至上一级DNS服务器，由上一级服务器进行解析，上一级服务器如果不能解析，或找根DNS或把请求转至上上级，以此循环。
2023-02-20 15:00:21
7613
原创 Calico IPIP模式mtu问题
昨日怀疑IPIP隧道tunl0的mtu有问题，今天分析后，修改集群Calico的mtu从1440到1430，问题解决。后续会针对Calico IPIP模式调整集群部署工具的参数。
2023-02-10 16:11:46
6098
原创 go Redis SDK线程实现导致延迟问题分析说明
6. 与客户沟通，podA设置了liveness和readiness probe，探测http端口，问题发生期间，没有出现异常，说明node本地容器网络没有问题。1.客户做压力测试时问题发生，在podA内手工发送http本地请求，延迟明显，有时延迟2-10s，有时卡住curl不退出。PodB没有明显卡顿。在进行压力测试过程中，发现客户端访问业务pod访问有延迟，共两个pod，一个延迟大(2-10s),一个延迟小。7.客户对podA没有对各环节做详细的延迟监控，没有关键路径的日志，异常日志等。
2023-02-06 16:35:25
5550
原创 pod访问不通问题--kube-proxy未正常创建
用户问题Pod创建后访问对象存储OSS不通。初步排查初步排查，网络连通性是OK的。再次反馈创建Pod后2分钟内可能存在业务不通。业务架构该集群采用了节点自动弹缩功能，节点弹缩范围在13-28之间。用户周期性创建大批量Pod，共300个，与对象存储OSS交互，Pod生命周期2分钟左右。CoreDNS中配置了用户DNS。（可以通过CoreDNS的Configmap查看，此处略）排障预案1、瞬时大批量Pod能否顺利创建2、Node autoscaler是否及时3、集群组件是否正常提供服务。
2023-02-02 12:02:47
6152
原创 CPU ThrottlingHigh告警问题与数据指标采集
每5分钟采集一次container_cpu_cfs_throttled_periods_total和container_cpu_cfs_periods_total，根据差值计算Throttling百分比，连续三次(15分钟内)超过5%时即告警。每隔1分钟采集一次container_cpu_usage_seconds_total。cgroup cpuacct子系统cpu.stat中的nr_throttled。cgroup cpuacct子系统cpu.stat中的nr_periods。
2023-01-31 14:07:39
7160
原创 golang map原理
先说结论，在 golang 中 map 是无序的，准确的说是无法严格保证顺序的， 从上面的源码中我们可以知道，golang 中 map 在扩容后，可能会将部分 key 移至新内存，由于在扩容搬移数据过程中，并未记录原数据位置， 并且在 golang 的数据结构中也并未保存数据的顺序，所以那么这一部分在扩容后实际上就已经是无序的了。不难看出，即使不对 map 进行扩容，在多次遍历时也是无序的，这是因为 golang 官方在设计时故意加上随机的元素，将遍历 map 的顺序随机化，用来防止使用者用来顺序遍历。
2023-01-28 17:45:04
5860
原创 大闸蟹的架构师之路-基础架构组篇
本仓库更多是关于团队层面的视角，把控技术演进（为什么要做这件事）和流程规范（做事的边界和风险），不涉及单项深度，单项。
2022-09-20 20:33:48
7738
原创 Prometheus基于Consul的 Redis 多实例监控方案
在redis_exporter issues中也有人做了针对不同密码不同redis实例采集的Docker镜像, 但这种方案无论在prometheus展示中还是在consul中都会明文暴漏redis实例密码，有需要的可以自己查看[2]操作，但是维护文件对运维确实也是苦难的，可自动化程度低且复杂。的配置文件中，这样维护起来比较难，需要频繁的修改配置文件。在同一级目录下） 的动态发现，虽然不需要再频繁修改的。实现动态发现的，这也是今天说的重点，对于基于。其他过多的就不在扩展了，直接进入正题，通过。
2022-09-19 11:30:16
7287
原创 OpenStack网络
虚机的创建和管理是Nova的任务，虚机网络的创建和管理是Neutron的任务，而虚机网卡，作为连接虚机和虚机网络的桥梁，其创建和管理则同时涉及了Nova和Neutron。VPC代表了不同的租户，vpc隔离了租户，每个租户的子网之间也是隔离的。通过vxlan封装物理机中的使用vlan划分的虚拟机，可以将一个vpc中的vlan信息发送到另一个vpc中，从而达到不同vpc的主机的二层通信。它的北向有自己的RESTAPI，它在中间有自己的业务逻辑层，它有自己的DB，有自己的用于进程间通讯的消息机制。...
2022-07-22 14:57:33
7472
1
原创 并发设计演进和在多语言设计模式里的思路特性
文章目录CSP简述CSP form wiki并发问题并发方案并发实现之-actor模型并发实现之-Goroutineactor模型与goroutine对照Goroutine实现实现简述Goroutine调度机制Goroutine优缺点实操ChannelGolang syncContextRace题外话Rust非均匀内存访问调度器（Non-uniform memory access，NUMA架构）CSP简述CSP form wikiCommunicating sequential processes翻
2022-04-27 14:48:19
7755
原创 APISIX网关在雪球生产实践
雪球,聪明的投资者都在这里 - 4300万投资者都在用的投资社区，沪深港美全球市场实时行情，股票基金债券免费资讯，与投资高手实战交流。背景雪球为用户提供稳定的投资实时资讯，内部对于沪深港美全球市场实时行情进行了双活改造，其中涉及到架构升级问题，而跨机房的用户鉴权是其中重要的一环。现有的鉴权方式是通过客户端 SDK 集成，由基础组件完成 RPC 的调用、缓存、解析、处理等一系列的 Token 校验流程。而在双活架构下，跨机房时延的存在使得既有的校验模式，对已有的 SLA 产生重大影响，同时还需升级鉴权模
2022-01-26 14:41:04
9975
原创 统一推送平台搭建与优化
前言需求背景雪球近几年来用户量和产品线激增。为了更加贴切的迎合公司业务发展和用户个性化需求，实现以下目标：满足用户对信息把控的时效性增加用户终端机型的覆盖率提升用户满意度和产品体验雪球统一推送平台应运而生，推送作为 APP 运营中一个关键渠道，通过对它的合理运用，可以很好的促进目标实现。目前已在：关注发帖、回复评论、股价提醒、个股公告、组合调仓等多个业务场景服务用户，同时帮助运营人员将7*24小时资讯、行情速递等精选内容第一时间投递到目标用户。产品设计雪球早期自建推送是基于自建长连接和第
2021-12-28 14:40:23
8588
原创 雪球基础架构梳理
服务发现为什么不要把ZooKeeper用于服务发现为什么不要把ZooKeeper用于服务发现_java的平凡之路-CSDN博客问题：在ZooKeeper中，网络分区中的客户端节点无法到达Quorum时，就会与ZooKeeper失去联系，从而也就无法使用其服务发现机制。因此，在用于服务发现时，ZooKeeper无法很好地处理网络分区问题。作为一个协调服务，这没问题。但对于服务发现来说，信息中可能包含错误要好于没有信息。虽然可以通过客户端缓存和其它技术弥补这种缺陷，像Pinterest和Airbn.
2021-10-19 16:25:46
7619
原创 服务网关-apisix实践搭建
摘自温铭：一个微服务 API 网关具备了多项网关功能，就可以让用户的服务只关心业务本身，而和业务实现无关的功能，比如服务发现、服务熔断、身份认证、限流限速、统计、性能分析等，就可以在独立的网关层面来解决。从这个角度来看，API 网关既可以替代 Nginx 的所有功能，来处理南北向的流量，也可以完成 Istio 控制面和 Envoy 数据面的角色，来处理东西向的流量。安装流程：apisix安装# 添加 OpenResty 源wget -qO -https://openresty.or.
2021-10-19 10:06:13
7737
原创 服务网关-apisix、envoy实践前期
Apisix Linkerd Envoy对比 初衷：1.治理东西流量eg：gPRC基于uid灰度，分流2.grpc的服务注册、发现eg：替代现有的zookeeper注册中心背景：为什么不选择客户端负载均衡方式？使用gRPC客户端负载均衡器，该负载均衡器被嵌入到gRPC客户端库中。这样，每个客户端微服务都可以执行自己的负载均衡。但是，最终的客户非常脆弱，需要大量的自定义代码来提供任何形式的弹性，指标或..
2021-10-18 14:30:52
8505
原创 服务MySQL压测线程池问题分析
一、问题5-15号晚上对 fundx-web prod 环境的整体集群做了一次压力测试，期间有数次数据库错误报警，如下：1. org.springframework.jdbc.CannotGetJdbcConnectionException: Failed to obtain JDBC Connection; nested exception is java.sql.SQLException: wait millis 508, active 33, maxActive 100,creating .
2021-09-28 10:30:25
9176
原创 netty数据流堆外内存排查
背景行情服务每次在开盘与收盘期间的堆外内存都会上涨，并且需要周期性手动重启，影响到服务的稳定性排查过程1.堆外内存的计算标准此matrix（used_direct_memory）计算标准由netty统一进行计算，因此可以初步判断是由于netty分配的堆外内存导致内存上涨，并非直接有也直接调用Unsafe分配堆外内存import io.netty.util.internal.PlatformDependent; public DirectMemoryMonitor() {
2021-09-28 10:25:20
9387
原创 Redis 4集群failover后客户端未感知拓扑变化排查
排查结论23：18分，30.1这台机器出现异常，其在30.2上的Slave Redis服务检测到后提出升主请求并获得通过，成为Master； 23：18至23：34之间，Redis client端对于Redis Server的连接检测并未异常，没有触发拓扑更新，因而对于Redis Server访问异常； 23：34，SRE重启30.1，此时 Redis Client检测到连接断开，触发拓扑更新，Redis访问正常。解决方案当前触发Redis Client更新拓扑的方式有两种：1. 向服务端..
2021-09-17 18:35:45
9088
原创 雪球中间件技术分享
zookeeper： 命名服务：在分布式环境下，经常需要对应用/服务进行统一命名，便于识别不同服务 配置管理：分布式环境下，对配置文件修改后，希望能够快速同步到各个节点上。（apollo） 集群管理：分布式环境中，可根据节点实时状态做出一些调整。 分布式锁：控制锁的时序。各个客户端在某个Znode下创建临时Znode，这个类型必须为CreateMode.EPHEMERAL_SEQUENTIAL，这样该Znode可掌握全局访问时序。 分布式队列：当一个队列的成员都聚齐时......
2021-08-17 18:02:57
9661
原创 微信公众号高质量技术贴-提炼总结
微信公众号高质量技术贴过滤掉对自己感觉没有技术相关性的，或者是那种水贴对内容进行归类整理阅读完写下自己的读后感LINUX从无盘启动看 Linux 启动原理“只读内存”(ROM)----“基本输入输出系统”(BIOS)----“硬件自检”(POST)----“启动顺序”(Boot Sequence)上电自检----UEFI 固件被加载----加载 UEFI 应用----启动内核及 initramfs/sbin/init----/etc/inittab----etc/rcN.dLi
2021-07-22 15:05:24
8169
2
原创 JDK8升级JDK9 HTT2 TLS问题解决之路（艰辛）
背景描述s公告服务是雪球行情的公告抓取服务，主要负责从相关网站抓取A股、港股、美股公告，调用接口发贴。数据抓取是在该业务场景是行情数据的入口，影响以后的的处理逻辑。因此，通过代理池+proxy的方式接入网络代理，规避前期发现的因为单个代理频繁请求导致IP被封的问题。但是在接入后发现网络请求的可用性并没有提高，因此进一步排查问题，找到问题提的根本原因。问题描述在未使用代理的情况下，请求结果返回http的403错误码 在使用代理的情况下，请求反馈的http的403错误码的代理应该降低。返回403错
2021-07-21 16:58:28
8980
1
原创 日志平台-ES性能优化
一些旧的工具Ø elastic-hq：性能分析Ø cerebro：索引管理、settingsØ whatson：segment分析Ø es cat apiES慢日志https://www.elastic.co/guide/en/elasticsearch/reference/current/index-modules-slowlog.html合理的控制indexhttps://www.elastic.co/guide/en/elasticsearch/reference/cu
2021-07-12 15:01:42
8270
原创 ES数据迁移
移除数据节点移除node前可以先exclude要移除的nodel cluster：cluster.routing.allocation.exclude._name : node1l Index：index.routing.allocation.exclude._name: node1index.routing.allocation.require.node_type: hot技巧：以上参数可根据_ip、_host等来进行配置 以上参数可实现hot-warn目标：迁移替换sto
2021-07-12 15:00:26
8239
原创 日志平台-ES架构设计
remote clusterhttps://www.elastic.co/guide/en/elasticsearch/reference/current/modules-remote-clusters.html冷热架构（等机器资源申请到位的时候）https://www.elastic.co/cn/blog/implementing-hot-warm-cold-in-elasticsearch-with-index-lifecycle-managementES Client Node什么
2021-07-12 14:32:29
7883
原创 日志平台-Index的管理
当前使用的是shell的定时任务 Mapping配置 索引生命周期 index配置 ILM的管理 index管理 方法 1: 使用在索引名称上带上时间的方法管理索引（这个是目前采用的方式） 方法 2: 使用 Rollover 管理索引 方法 3: 使用 ILM（Index Lifecycle Management ） 管理索引（这个使用跟graylog一样，就是被抛弃的原因之一，索引的名字目前在系统中是具有意义的） shard的管理 按照保留期限进行索引 每个索引和分
2021-07-12 14:26:14
7807
原创 Nginx架构
Nginx架构> master进程主要用来管理worker进程，具体包括如下4个主要功能：> 1）接受来自外界的信号。其中master循环中的各项标志位就对应着各种信号，如：ngx_quit代表QUIT信号，表示优雅的关闭整个服务。> 2）向各个worker进程发送信。比如ngx_noaccept代表WINCH信号，表示所有子进程不再接受处理新的连接，由master向所有的子进程发送QUIT信号量。> 3）监控worker进程的运行状态。比如ngx_reap代表...
2021-07-09 15:06:38
7705
原创 TSDB数据库
TSDB(Time Series Database)时序列数据库，我们可以简单的理解为一个优化后用来处理时间序列数据的软件，并且数据中的数组是由时间进行索引的。为什么需要时序数据库：试想一下：Tesla 自动驾驶、华尔街自动交易算法、智能家居、能够实现日内闪电般运抵的交通网络和纽约市警察局发布的开放数据，它们都有哪些共同点？一方面，它们预示着我们的世界正以曲速般变化，我们捕获和解析的数...
2021-07-09 14:51:39
12648
原创 关于RPC框架封装时ThreadPool的选型和设计
Tomcat的： Dubbo的： grpc官方默认的： xueqiu-spring的：Tomcat的：https://tomcat.apache.org/tomcat-9.0-doc/config/http.html name 描述 maxThreads： 最大并发数，默认设置 200，一般建议在 500 ~ 800，根据硬件设施和业务来判断 The maximum number of request proce
2021-06-23 17:35:31
8106
原创 Elasticsearch扩容文档
最终步骤0.SRE配置物理机环境，准备SSD磁盘，同步docker镜像1.在rolling上启动节点（检查是否正常启动，max virtual memory areas vm.max_map_count [65530] is too low, increase to at least [262144] 如果出现此错误，则需要SRE改下ulimit参数。2.如启动成功，则将 新加的 ip 加入 host 映射中nodes.es.snowballfinance.com，之后在 kibana...
2021-06-16 11:10:11
8465
原创 高效的Redis数据删除方式转至元数据结尾
DEL 和 UNLINK区别？同步还是异步？使用DEL命令会触发「同步删除」，如果Key是一个有很多元素的复杂类型，这个过程可能会堵塞一下Redis服务自身，从而影响用户的访问。使用UNLINK命令，Redis服务会先计算删除Key的成本，从而更智能地做出「同步删除」或「异步删除」的选择。成本计算：对于list,hash,set,zset的对象类型，如果长度大于64（由宏LAZYFREE_THRESHOLD定义），才会采用异步删除的手段，从当前db先释放该key，再由另外一个线程做异步删除。
2021-06-16 10:51:12
8273
原创 netty实战
基本使用同步请求：private static final String DESTINATION_ADDRESS = "https://github.com/soulrelay";OkHttpClient client = new OkHttpClient.Builder().build();Request request = new Request.Builder() .url(DESTINATION_ADDRESS) .build();Response r
2021-06-16 10:48:07
10179
redis-desktop-manager-0.8.3-2550.dmg
2018-12-25
head+first+servlets jsp
2018-07-31
深入理解Java虚拟机[JVM高级特性与最佳实践](周志明)
2018-07-31
从PAXOS到ZOOKEEPER分布式一致性原理与实践
2018-07-31
mac的网络传输分析工具
2018-07-06
mac数据恢复
2018-07-06
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人