kaili的博客

转载 英特尔 数据流加速器（英特尔 DSA）简介（1/2）

参考文章：英特尔®数据流加速器概述英特尔® DSA 是一款高性能数据复制和转换加速器，将集成到未来的英特尔®处理器中，旨在优化高性能存储、网络、持久内存和各种数据处理应用常见的流数据移动和转换操作。英特尔® DSA 取代了英特尔® QuickData 技术，后者是英特尔® I/O 加速技术的一部分。目标是为数据移动和转换操作提供更高的整体系统性能，同时释放 CPU 周期的资源以用于更高级别的功能。英特尔® DSA 支持高性能数据移动功能，使其能够往返于易失性内存、持久内存、内存映射 I/O，并通过非

翻译 主机Processor和Accelerator之间的可扩展I/O

应用程序和加速器之间高效协调，可有助于优化数据处理。1. 介绍以数据为中心的计算的新兴时代迫使人们更加关注加速工作负载和降低数据中心的Capex。用于这种加速的硬件方法包括CPU内核中的专用指令集架构（ISA）扩展，可编程异构元素（如GPU和FPGA），以及用于数据移动和转换卸载加速引擎。虽然主机 CPU 的指令集架构中引入专用指令集加速，但基于卸载的加速是从传统的 I/O 控制器和设备驱动程序模型有机地演变而来的，没有一致的构造和功能。本文概述了即将推出的英特尔®至强®处理器上引入的各种加速器接.

转载 摩尔定律之后的下一个成长机会：超越摩尔定律

半导体的技术门槛一直增加，除了将晶体管尺寸缩小、还要同时加倍晶体管的单位面积，现在各大厂商都在竞争的「超越摩尔定律」是什么？所有人都还在讨论台积电、三星和Intel在先进制程上面的战争，ASML的EUV以及Moore’s Law还能延续多久时，其实这几年来半导体的格局已经慢慢地产生了变化。 Moore’s Law发展到现在，下一代的工艺变得越来越复杂，对于技术的门槛要求也越来越高，连带地造成这几年来让制程微缩的阻力越来越高。 也因为如此，其实各家大厂都在思考在晶体管尺寸微缩越来越难的情况下，要怎么将单.

转载 Memory Population Guidelines for Intel 3rd Gen Xeon Scalable Processors——内存控制器

Memory Population Guidelines for Intel 3rd Gen Xeon Scalable Processors英特尔的第三代至强可扩展处理器采用全新的内存控制器架构。本文将深入探讨这些更改，以及如何通过确保正确排序和填充内存模块来最大限度地提高性能。英特尔的第三代至强可扩展处理器于 2021 年 4 月 6 日推出，其全新的架构带来了许多优势。由于这里需要新的配置和方法，我们将借此机会深入研究这些变化，本文将重点介绍新的内存控制器和 DIMM，以确保平衡配置和性能。在

原创 Intel处理器的应用

原创 网卡的功耗有多大？

mellanox网卡https://docs.mellanox.com/display/CX4LxEN/Specifications#Specifications-MCX4121A-AC[S/U/A/H]TSpecifications

转载 推动摩尔定律超越2025，英特尔展示三大领域关键技术突破

12月12日消息，在2021 IEEE国际电子器件会议（IEDM）上，英特尔公布了其在不懈推进摩尔定律的过程中，在封装、晶体管和量子物理学方面的关键技术突破：即通过混合键合（hybrid bonding）将在封装中的互连密度提升10倍以上，晶体管微缩面积提升30%至50%；在全新的功率器件和内存技术上已取得重大突破；基于物理学新概念所衍生的新技术，在未来可能会重新定义计算。▲ 英特尔公布的三大技术突破英特尔在IEDM 2021上披露的突破性进展表明，其正通过对以下三个领域的探索，持续推进摩尔定律，并努

转载 AMD占股51%，格罗方德代工：中国产Zen架构海光C86处理器评测曝光

1. 此CPU的核心技术、架构（Zen）、知识产权均为美国AMD公司所有； 2. 中（海光）美（AMD）合资的第三方公司股本比例上，AMD占51%（最新有变化，AMD退出？）； 3. 此CPU的代工厂为美国格罗方德（GF格芯）。外媒AnandTech近日就海光x86处理器进行了综合测试，测试结果已经公布，大家不妨和笔者一起看看、聊聊。一、Hygon Dhyana/Plus处理器综合性能测试以下全部数据来自AnandTech，解说部分仅代表笔者个人观点，不构成任何选购参考，欢迎大家讨论。..

转载 初识RDMA技术——RDMA概念，特点，协议，通信流程

1. RDMA概念在DMA技术中，外部设备（PCIe设备）能够绕过CPU直接访问主机的系统主存；RDMA（Remote Direct Memory Access）在概念上是相对于DMA而言的。指外部设备能够绕过CPU，不仅可以访问本地主机的主存，它还可以访问另一台远端主机上用户态的系统主存。2. RMDA与SocketSocket通信示意图：在传统的Socket套接字网络中，应用程序向操作系统申请网络资源时，要通过特定的API来管理程序的行为。RDMA通信示意图：RDMA仅仅使用操作系

转载 CPU「主频」是什么，有哪些限制条件，对于 CPU 性能的影响有哪些？

今天我来讲一下「主频」是什么，有哪些限制条件，对于 CPU 性能有哪些影响。首先：CPU 的主频是什么？CPU的主频，即CPU内核工作的时钟频率（CPU Clock Speed）。通常所说的某某CPU是多少兆赫的，而这个多少兆赫就是“CPU的主频”。主频与什么有关：主频越高，CPU的运算速度就越快。但主频不等于处理器一秒钟执行的指令条数，因为一条指令的执行可能需要多个时钟周期。对于CPU，在有兼容性的前提下，主要看其速度，而主频越高，字节越长，CPU速度就越快。主频的来源和计算方式：在电子技术中

转载 Speccpu2017结果的一些分析

speed与rate说明speed：包含10个整形测试和10个浮点测试。speed测试只运行一次测试题，测试分数高，说明单次运行时间短。rate：包含10个整形测试和13个浮点测试，rate测试是运行多个相同的测试题，运行数量由测试者指定，分数高，代表更大的通量（固定时间处理问题的数量）base与peak说明base：base是简单的标准的配置peak：peak是可以提供更多个性化的配置编译选项Spec2017 计算rate分值算法ratio=copies∗（referencetime

翻译 Intel Sapphire Rapids-SP Xeon CPU 具有 4 个 8-Hi HBM2E 堆栈，14 个 EMIB 互连，全 XCC 芯片尺寸约为 400mm2

英特尔刚刚披露了与 Sapphire Rapids-SP 至强 CPU 有关的第一条确切消息，即该处理器将通过多芯片设计，以结合主核心芯片 + HBM2E 缓存堆栈。具体说来是，Sapphire Rapids-SP 至强 CPU 将具有 4个 8-Hi HBM2E 堆栈、14条 EMIB 互连、且全 XCC 芯片的尺寸约为 400 m㎡ 。此前，WCCFTech 已经详细介绍过英特尔的 Sapphire Rapids-SP Xeon CPU，但在 HotChip33 年度会议期间，这家芯片巨头还揭.

转载 处理器、指令集架构和操作系统——32-bit与64-bit

下图是一个典型系统的硬件组成，其中的总线、PC(程序计数器)和寄存器的大小都被设计成字(word)。字长（即字的字节数）是一个基本的系统参数，在不同的系统中通常不一样，如嵌入式设备往往只有１或２个字节，而常见的系统则为４字节或８字节。我们在安装操作系统和软件的时候通常会面临32-bit与64-bit两种选择，并且有时还需要了解自己电脑的处理器是32bit还是64-bit的。那么，上面提到的字长与32-bit、64-bit到底有什么关系呢？一、处理器32-bit处理器指的是寄存器、地址总线或数据总

转载 通俗来理解 ARM芯片内核，架构，指令集，软核和硬核之间的关系

1、单片微型计算机：简称单片机，简单来说就是集CPU（运算、控制）、RAM（数据存储-内存）、ROM（程序存储）、输入输出设备（串口、并口等）和中断系统处于同一芯片的器件，在我们自己的个人电脑中，CPU、RAM、ROM、I/O这些都是单独的芯片，然后这些芯片被安装在一个主板上，这样就构成了我们的PC主板，进而组装成电脑，而单片机只是将这所有的集中在了一个芯片上而已。2、什么是ARM芯片？凡是采用ARM内核的芯片（或者凡是采用ARM内核的CPU）都是ARM芯片3、什么是ARM内核？所谓内核，就是CP

原创 什么是英特尔AVX-512，为什么它很重要？

英特尔在其英特尔 Xeon 可扩展处理器上加装了一系列新功能，包括以下内容：英特尔高级矢量扩展 512 （英特尔 AVX-512）创新引擎，互联网广域远程直接存储器访问 （RDMA） 协议 （iWARP）英特尔音量管理设备（英特尔 VMD）英特尔平台信托技术 （英特尔 PTT）这一系列的博客文章探索了新的功能，以帮助解释为什么英特尔说，其新的服务器平台代表了"最大的平台进步在这十年。什么是英特尔AVX-512？英特尔 AVX-512 是一套新的 CPU 指令，影响计算、存储和网络功能。数

转载 为什么说BMC才是国产服务器的“命门”？

说起BMC，很多人不太了解，毕竟一般我们的电脑上不会带BMC。 但是说起服务器，大家并不陌生。而BMC正是监控和管理服务器的关键部件。BMC全称为基板管理控制器（即Baseboard Management Controller）是用于监控和管理服务器的专用控制器，正因为如此，它比主机服务器享有更大的权限，堪称“服务器的命门”。1. 服务器天生有漏洞服务器作为支撑当前互联网各种应用的“幕后英雄”，主要为各种应用提供存储和计算作用。然而，这一“幕后英雄”却天然存在漏洞。首先，服务器的一大漏洞来源是.

转载 聊聊GPU利用率那些事

众所周知，GPU本身的计算能力是越来越强大，特别是新一代的NVIDIA AMPERE架构发布之后，又一次刷新了大家对AI算力的认知。目前，确实有不少大规模分布式训练对更大算力的渴求是极其强烈的，比如语音、自然语言处理等。但是，我们也不可否认还有非常多的应用场景对算力的需求不大，比如：AI推理场景，基本都是在线实时计算，要求延时低，batchsize小，计算量不大。AI开发机场景，团队内部共享GPU，对算力要求低。这些场景的分布非常广泛，在这些场景下，AI应用是无法把GPU强大的计算能力全部发.

转载 古诗文可以写得这么好

中科院不是理科生扎堆吗？古诗文可以写得这么好……长诗献礼祖国七十年、中科院建院七十年雄鸡一唱，万象维新。科学民主，涤尽前尘。筚路蓝缕，维七十春，振兴之道，科苑追循。江海之滨，科苑要津。衣钵承继，子竞孑民。科技报国，实业最真，精诚所至，捷报频频。猜猜这诗是谁写的？先别急着说，再看下去——甲种分离膜：筚路蓝缕固艰辛，初心永驻报国情。存亡之道莫如兵，精微之处定乾坤。谁家灯火正通明，彻夜听闻研讨声？境北风波恩不复，江南士气历弥新。寤寐提纯同位素，岂能伏首美苏英。鏖战一心

原创 Linux Performance

各种 Linux 性能资料，工具图。一、Linux Performance Observability Tools（Linux 可观察性工具）二、Linux Static Performance Tools（Linux 静态性能分析工具）三、Linux Performance Benchmark Tools（Linux 基准测试工具）四、Linux Performance Tuning Tools（Linux 调优工具）五、Linux Performance Obser.

转载 09 | Page Cache：为什么我的容器内存使用量总是在临界点?

上一讲，我们讲了 Memory Cgroup 是如何控制一个容器的内存的。我们已经知道了，如果容器使用的物理内存超过了 Memory Cgroup 里的 memory.limit_in_bytes 值，那么容器中的进程会被 OOM Killer 杀死。不过在一些容器的使用场景中，比如容器里的应用有很多文件读写，你会发现整个容器的内存使用量已经很接近 Memory Cgroup 的上限值了，但是在容器中我们接着再申请内存，还是可以申请出来，并且没有发生 OOM。这是怎么回事呢？今天这一讲我就来聊聊这个

转载 02 | 理解进程（1）：为什么我在容器中不能kill 1号进程？

你好，我是程远。今天，我们正式进入理解进程的模块。我会通过 3 讲内容，带你了解容器 init 进程的特殊之处，还有它需要具备哪些功能，才能保证容器在运行过程中不会出现类似僵尸进程，或者应用程序无法 graceful shutdown 的问题。那么通过这一讲，我会带你掌握 init 进程和 Linux 信号的核心概念。一、问题再现接下来，我们一起再现用 kill 1 命令重启容器的问题。我猜你肯定想问，为什么要在容器中执行 kill 1 或者 kill -9 1 的命令呢？其实这是我们团队里的一

转载 服务器硬件知识之主板芯片组和总线的概念详解

一、主板芯片组和总线的认识服务器的核心是主板（不应该是CPU么？????），而主板的核心是芯片组。所以芯片组对于服务器而言十分重要。现在市场上绝大多数的服务器芯片组都是英特尔的芯片组服务器主板图服务器主板架构图如果把服务器比作一个人，那么CPU就是它的大脑，总线就是它的神经结构，芯片组则是他的神经中枢。芯片组决定了：CPU的和内存的类型主板总线频率 / 带宽扩展插槽的种类和数量扩展接口的种类和数量总线是计算机组件用来传输数据的“道路”。二、芯片架构的发展芯片架构可以分为单芯

原创 RISC vs CISC

根据chips and cheese在Zen 2上的测试结果，来自解码器decoder的能耗大概占了整个CPU能耗的6%，数据来源于“How Zen 2’s Op Cache Affects Performance, Chips and Cheese”How Zen 2’s Op Cache Affects Performance也就是说CPU上多数据的能耗都是来用在运算单位和cache上面。x86指令集会首先将复杂指令进行拆解，叫做mico-operation或microcode，比如做矩阵乘法，

转载 Docker多网卡配置（两个虚拟交换机相连）

需要容器镜像busybox作者的容器使用的是国内加速源daocloud 所以，镜像名称为daocloud.io/library/registry:2.6.1根据先前的私有仓库得知，daocloud.io/library/registry:2.6.1是共有仓库执行命令# 先创建两个虚拟网卡docker network create --driver bridge mynet1docker network create --driver bridge --subnet 172.25.25.0

转载 Ubuntu20.04 LTS系统默认源source.list文件

如果不慎修改了source.list内容，导致一系列错误，建议恢复默认源文件。sudo gedit /etc/apt/sources.list然后把下面默认源内容复制进去ubuntu20.LTS系统默认源source.list文件内容#deb cdrom:[Ubuntu 20.04 LTS _Focal Fossa_ - Release amd64 (20200423)]/ focal main restricted# See http://help.ubuntu.com/community/

转载 Kubernetes创建POD原理与流程详解

Kubernetes创建POD原理与流程详解通过下面2张图，简单介绍K8S集群内POD/容器创建的过程：Ingress与Service关系图

转载 Kubernetes调度算法

Kubernetes调度算法

转载 08 | 容器内存：我的容器为什么被杀了？

一、问题再现容器在系统中被杀掉，只有一种情况，那就是容器中的进程使用了太多的内存。具体来说就是：容器里所有进程使用的内存量，超过了容器所在Memory Cgroup 里的内存限制，这时 Linux系统就会主动杀死容器中的一个进程，往往这会导致整个容器的退出。测试代码： https://github.com/chengyli/training/tree/main/memory/oom启动一个容器，然后给容器的 Cgroup 内存上限设置为 512MB#!/bin/bashdocker st

转载 07 | Load Average：加了CPU Cgroup限制，为什么我的容器还是很慢？

CPU Cgroup 无法控制 Load Average 的平均负载。而没有这个限制就会影响系统资源的合理调度，很可能导致我们的系统变得很慢。今天说下为什么加了CPU Cgroup的配置后，即使保证了容器的CPU资源，容器中的进程还是会运行的很慢。一、问题再现问题：发现明明容器里的 CPU甚至宿主机上的CPU 使用率都很低，但是机器的Load Average 却很高，容器里的进程运行也很慢。如上面的图片，CPU使用率很低，id值空闲很高。但是Load Average 的值高达9.09，就意味着.

转载 06｜容器CPU（2）：如何正确地拿到容器CPU的开销？

无论是容器的所有者还是容器平台的管理者，我们想要精准的对运行着众多容器的云平台做监控，快速排查例如应用的处理能力下降，节点负载过高等问题，就绕不开容器CPU开销。CPU开销的异常，往往是程序异常最明显的一个指标。一、问题重现容器中运行top，"%Cpu(s)"那一行中显示的数值，并不是这个容器的 CPU 整体使用率，而是容器宿主机的 CPU 使用率。1.1、进程 CPU 使用率Linux中每个进程的 CPU 使用率，我们都可以用top命令查看。比如，每个进程在top命令输出中都有对应的一行，1.

转载 05｜容器CPU（1）：怎么限制容器的CPU使用？【request、limit】

从这一将开始，我们进入容器CPU这个模块。容器在Linux系统中最核心的两个概念是 Namespace 和 Cgroups。 通过Cgroups 技术限制资源，可以分为很多类型，比如 CPU、Memory、Storage、Network等等。今天说下如何限制容器的CPU 使用。我们拿Kubernetes平台做例子，具体来看下面这个pod/container里的spec定义，在CPU资源相关的定义中有两项内容，分别是Request CPU和Limit CPU。apiVersion: v1ki

转载 IPU概述

IPU概述（一）框架首先来看看imx6q整体系统框架图，看看IPU位于整个SOC系统中的位置：可以看出来，整个IPU挂接在AXI与AHB总线上面，通过总线，它可以与ARM，VPU，GPU和RAM等模块通信。另外，每个IPU有两个camera接口，如下所示：通过LDB控制到LVDS屏，直接控制LCD屏，并且可以通过HDMI或者MIPI来显示。对于IPU的作用，在下面的图表中解释了：或者用下图来表示更清楚：以上是IPU的整体框架部分，对于BSP来说，我们比较关心它的驱动层次框架，如下所示

转载 04 理解进程（3）：为什么我在容器中的进程被强制杀死了？【init进程转发】

今天我们来讲容器中 init 进程的最后一讲，为什么容器中的进程被强制杀死了。理解了这个问题，能够帮助你更好地管理进程，让容器中的进程可以 graceful shutdown。我先给你说说，为什么进程管理中做到这点很重要。在实际生产环境中，我们有不少应用在退出的时候需要做一些清理工作，比如清理一些远端的链接，或者是清除一些本地的临时数据。这样的清理工作，可以尽可能避免远端或者本地的错误发生，比如减少丢包等问题的出现。而这些退出清理的工作，通常是在 SIGTERM 这个信号用户注册的 handler 里进

转载 03 理解进程（2）：为什么我的容器里有这么多僵尸进程？

今天我们来聊一聊容器里僵尸进程这个问题。说起僵尸进程，相信你并不陌生。很多面试官经常会问到这个知识点，用来考察候选人的操作系统背景。通过这个问题，可以了解候选人对 Linux 进程管理和信号处理这些基础知识的理解程度，他的基本功扎不扎实。所以，今天我们就一起来看看容器里为什么会产生僵尸进程，然后去分析如何怎么解决。通过这一讲，你就会对僵尸进程的产生原理有一个清晰的认识，也会更深入地理解容器 init 进程的特性。问题再现我们平时用容器的时候，有的同学会发现，自己的容器运行久了之后，运行 ps

转载 02 理解进程（1）：为什么我在容器中不能kill 1号进程？

问题再现接下来，我们一起再现用 kill 1 命令重启容器的问题。我猜你肯定想问，为什么要在容器中执行 kill 1 或者 kill -9 1 的命令呢？其实这是我们团队里的一位同学提出的问题。这位同学当时遇到的情况是这样的，他想修改容器镜像里的一个 bug，但因为网路配置的问题，这个同学又不想为了重建 pod 去改变 pod IP。如果你用过 Kubernetes 的话，你也肯定知道，Kubernetes 上是没有 restart pod 这个命令的。这样看来，他似乎只能让 pod 做个原地重启

转载 01 认识容器：容器的基本操作和实现原理

作为一名工程师，我猜在过去的几年时间里，你肯定用过或者听人提起过容器（Container）。说实话，容器这东西一点都不复杂，如果你只是想用的话，那跟着Docker 官网的说明，应该十来分钟就能搞定。简单来说，它就是个小工具，可以把你想跑的程序，库文件啊，配置文件都一起“打包”。然后，我们在任何一个计算机的节点上，都可以使用这个打好的包。有了容器，一个命令就能把你想跑的程序跑起来，做到了一次打包，就可以到处使用。当然，空讲原理也没什么感觉，所以我还是会先带着你启动一个容器玩玩，然后咱们再一起来探讨容器里面

转载 UID、PID、PPID是什么？

UID是用户ID，PID是进程ID，PPID是父进程ID。UIDUID 用户身份证明(User Identification)的缩写。UID用户在注册后，系统会自动的给你一个UID的数值。意思就是给这名用户编个号。PIDPID（Process Identification）操作系统里指进程识别号，也就是进程标识符。操作系统里每打开一个程序都会创建一个进程ID，即PID。PID（进程控制符）英文全称为Process Identifier。PID是各进程的代号，每个进程有唯一的PID编号。它是.

原创 ARM下代移动GPU，新的Mali GPU能为联发科天玑芯片带来哪些改变？

ARM GPU视频地址Arm 推出了四款款新 GPU：Mali-G710、Mali-G610、Mali-G510 和 Mali-G310。相对于上代旗舰G78，Arm声称Mali-G710拥有高达 20% 的性能提升，而定位中端主流的GPU Mali-G510 提供一项名为 Arm 固定速率压缩 (AFRC) 的新功能。概述2021年5月，ARM一口气公布了三款基于ARMv9指令集的下一代处理器和4款新GPU设计。Mali-G710：旗舰GPUMali-G610：次旗舰GPUMali-G

原创 ARMv9升级详解

ARMv9升级重点在以下5个方面：一、增强向量处理能力（vector）：二、原生机器学习（Machine Learning）采用了SVE2浮点扩展指令，加速浮点运算，让处理器浮点处理从256bit到2048bit的超宽字长运算，在一些小型设备，为了节省空间、降低功耗，这时候可以使用CPU的AI处理能力，比如无人机，可以通过CPU的AI能力，增强其飞行操控和安全性能，但对手机意义不大。三、数字信号处理能力（Digital Signal）拍照时候对相机图片进行优化，对音乐文件进行解码，目前处...

转载 HPC性能——（1）HPC浮点性能

本文介绍如何使用HPL测试E-HPC集群的浮点性能。背景信息HPL（The High-Performance Linpack Benchmark）是测试高性能计算集群系统浮点性能的基准。HPL通过对高性能计算集群采用高斯消元法求解一元N次稠密线性代数方程组的测试，评价高性能计算集群的浮点计算能力。浮点计算峰值是指计算机每秒可以完成的浮点计算次数，包括理论浮点峰值和实测浮点峰值。理论浮点峰值是该计算机理论上每秒可以完成的浮点计算次数，主要由CPU的主频决定。理论浮点峰值＝CPU主频×CPU核数×CPU