- 博客(160)
- 收藏
- 关注
RSS订阅
2原创 Metadata Traces and Workload Models for Evaluating Big Storage Systems——论文泛读
对现有的元数据跟踪分析，发现现有跟踪缺乏命名空闲信息，导致大量跟踪期间未访问的信息缺失。本文提出Mimesis，一个合成的工作负载生成器，包括命名空间生成模块和工作负载生成模块。实现较好的工作负载生成结果，RMSE<6%。
2024-04-16 13:57:51
101
原创 SoMeta: Scalable Object-centric Metadata Management for High Performance Computing——论文泛读
针对HPC场景中元数据管理问题，现有方法难以支持动态扩展和变化的元数据信息（数据存储信息，数据源，初步分析结果等），现有方法不能支持高效的高级元数据操作如添加和搜索标签。本文提出SoMeta：（1）动态分区的平面命名空间，使用包含多个标签的平面命名空间存储元数据。利用两级哈希分散数据，第一季将数据分布到服务器上，第二级用于查找。（2）可扩展和用户可定义的元数据的标记方法，支持动态标签创建、更新和删除操作。（3）支持灵活的元数据搜索，可以使用语义标签搜索和检索元数据对象。（4）利用检查点实现容错。
2024-04-16 13:55:41
235
原创 Dynamic Metadata Management for Petabyte-scale File Systems——论文阅读
对分布式文件系统元数据的动态子树划分进行介绍，介绍其各种优点。（1）核心是分层划分，每个MDS只负责部分子树。（2）通过MDS间定期心跳，识别繁忙和非繁忙节点，全面考虑内存、CPU和网络利用率，利用两阶段提交进行负载均衡。（3）为了便于流量控制，MDS通过计数器记录元数据流行度，返回给客户端的响应包括请求元数据和分发信息，即客户端将来应该联系哪些MDS节点，并缓存在客户端上。（4）利用目录局部性，执行读目录或目录查找时，同时缓存目录下全部内容，优化后续查找。
2024-04-15 10:54:36
469
原创 Scale and Concurrency of GIGA+: File System Directories with Millions of Files——泛读笔记
针对文件系统中大目录的可扩展性，如何支持单个目录的迅速扩展。本文提出GIGA+，采用哈希的分区方法，消除系统范围的序列化和同步，为突发索引（特别是创建）提供更高的并发性。（1）每台服务器只对迁移进行本地独立决策，以实现负载平衡。通过在服务器节点集群上分布目录，并禁用客户端中的目录条目缓存，以及允许每个节点在没有通知或同步的情况下迁移目录的部分以进行负载平衡。（2）客户端只缓存目录索引，此缓存索引可能指向过时的服务器，这些服务器不再管理哈希目录项（文件名）空间中的特定范围。
2024-04-12 11:25:59
347
原创 Orion: A Distributed File System for Non-Volatile Main Memory and RDMA-Capable Networks——泛读笔记
针对RDMA和NVMM下的分布式文件系统，现有方法对RDMA利用不足、软件开销高。本文提出Orion，基于NVMM和RDMA的分布式文件系统。（1）使用RDMA减少软件开销：将网络和存储功能合并到内核驻留层中，直接通过RDMA访问NVMM上的数据结构，用于处理数据、元数据和网络访问，无需目标端软件开销。（2）局部性：使用数据缓存优化重复访问，在客户端缓存文件系统数据结构，客户端可以在本地应用文件操作，只将更改通过网络发送到元数据服务器。（3）一致性：使用日志结构设计以低成本维护文件系统的一致性。
2024-04-12 11:24:07
322
原创 LineFS: Efficient SmartNIC Offload of a Distributed File System with Pipeline Parallelism——论文泛读
针对DFS的CPU开销高，提出将一些DFS操作卸载到SmartNIC。本文提出了LineFS，将DFS操作分解为执行阶段，将执行阶段卸载到SmartNIC上的并行数据路径执行管道。（1）卸载处理密集型DFS任务，如复制、数据发布和一致性管理。（2）利用SmartNIC处理能力，通过执行特定于文件和操作的压缩来降低网络开销。（3）提供快速故障检测器和基于SmartNIC的恢复机制，将SmartNIC作为一个独立的故障域，减少了文件系统随时间的故障。（4）利用并行化、批处理和异步操作的来隐藏执行和数据访问延迟。
2024-04-11 11:19:25
547
原创 Distributed Directory Service in the Farsite File System——论文泛读
本文介绍了Farsite的分布式目录服务的设计。、（1）引入了树形结构的文件标识符，支持以任意粒度动态划分元数据。不使用文件路径进行划分，使用不变的文件标识符，通过前缀匹配决定所在服务器。（2）通过递归路径租赁可伸缩地保持名称空间的一致性。（3）通过多机器间两阶段协议管理重命名的一致性操作。（4）通过文件字段租赁和分离租赁的新机制来缓解元数据热点。
2024-04-11 11:17:17
981
原创 CRDTs for truly concurrent file systems——论文泛读
针对弱一致性下设计真正并发的共享地理复制文件系统的挑战。提出了ElmerFS，基于CRDT的文件系统。确保文件系统副本在存在冲突操作的情况下最终收敛到一个通用的、正确的状态。冲突解决方案旨在避免产生意外结果，使用户能够通过传统的文件系统操作来补充或逆转冲突解决的结果。
2024-04-10 11:17:30
402
原创 CFS: A Distributed File System for Large Scale Container Platforms——论文泛读
介绍为京东电子商务服务的分布式文件系统CFS。包括4个技术：（1）在不同的文件访问模式下高效地存储大小文件，利用Linux punch hole接口异步释放被删除的小文件占用的磁盘空间，简化了处理小文件删除的工程工作。（2）采用了两种基于不同写入场景的强一致复制协议（即附加和覆盖）来提高复制性能。（3）基于利用率的元数据放置。每次扩展都根据内存和磁盘利用率，创建一个新的元分区存储后续的元数据，因此扩展过程中没有再平衡。
2024-04-10 11:09:56
609
原创 Azure Data Lake Store: A Hyperscale Distributed File Service for Big Data Analytics——论文泛读
对Azure上的ADLS进行介绍，用于复杂场景的工业界分布式文件系统。对内部文件结构、系统组件、作业流程进行介绍。比较新颖的是增加了部分文件服务，只维护文件的部分块，实现对文件更灵活的访问，同时便于使用多个不同的存储层，增加并行性。将元数据分离成多层，文件层、部分文件层、块层，分别用不用组件管理，避免相互影响且便于单独扩展，同时支持文件重命名时无需移动数据。
2024-04-09 11:15:37
982
原创 Adaptive and Scalable Metadata Management to Support A Trillion Files——论文泛读
针对大目录和海量文件的分布式文件系统元数据性能。提出：（1）基于可扩展哈希使用两级目录分区来管理大目录，根据文件名计算哈希，将哈希的不同部分作为分区信息和分块信息，根据分区和分块信息划分到不同服务器上。（2）使用分区、分块作为元数据修改的单元，同时处理同一目录中的文件创建或删除等更新操作。（3）根据元数据的类型将元数据缓存划分为具有不同替换优先级的多层，分层管理缓存，增加缓存效率。（4）使用基于一致哈希的动态负载平衡机制。局限性：整体基于哈希划分文件，文件重命名后可能导致大量的数据迁移。
2024-04-08 14:28:42
685
原创 Cassandra - A Decentralized Structured Storage System——论文阅读
对Facebook中分布式存储系统Cassandra进行介绍，介绍各种实现的大概思路，包括：数据划分、复制、成员身份和故障检测、集群缩放、本地持久化、数据请求流程。
2024-04-08 14:26:21
727
原创 A Novel Distributed File System Using Blockchain Metadata——论文泛读
使用区块链的思想构建分布式文件系统元数据。避免使用昂贵的单个名称节点，使用多个廉价硬件，通过分布式共识确保元数据不被修改，通过单个辅助副本和奇偶校验进行故障恢复。
2024-04-07 11:15:09
318
原创 Boomerang: Metadata-Private Messaging under Hardware Trust——论文泛读
针对端到端加密（E2EE）消息传递系统，如何保护通信元数据，例如通信人和通信时间。本文提出Boomerang，利用了对安全飞地的信任假设，提出消息混洗、工作负载分配、针对水平扩展和主动攻击的遗忘算法。
2024-04-07 11:11:02
623
原创 Taming Metadata-intensive HPC Jobs Through Dynamic, Application-agnostic QoS Control——论文泛读
针对HPC存储系统中数据和元数据工作流的QoS控制。本文提出PADLL，作为存储中间件，采用了软件定义存储的思想，构建数据平面和控制平面。（1）数据平面：在计算节点启动的多阶段组件，在应用程序和共享文件系统之间调节I/O请求，拦截POSIX调用并动态地限制指向PFS的调用。（2）控制平面：充当具有全系统可见性的全局协调器，根据工作负载和系统变化在作业之间动态分配存储资源（即元数据速率、I/O带宽），确保始终满足QoS。（3）PADLL允许系统管理员通过控制算法指定QoS策略。
2024-04-03 13:44:38
873
原创 Low-Latency and Scalable Full-path Indexing Metadata Service for Distributed File Systems——论文泛读
针对分布式文件系统元数据的优化，实现更低的延迟，主要解决权限验证和超大目录的问题。本文提出Duplex，基于全路径索引的DFS元数据服务。（1）采用双访问路径方式，具有低延迟的快速路径和高吞吐量的慢速路径。快速路径，使用专用权限服务器（PMS），缓存来自MDS的所有目录权限，使延迟敏感应用程序的请求能够快速完成权限检查。慢速路径，利用并行路径解析来实现可扩展的吞吐量。（2）基于树的权限合并算法，以提高PMS的空间效率，防止PMS成为系统容量瓶颈。
2024-04-03 11:30:02
673
原创 zIO: Accelerating IO-Intensive Applications with Transparent Zero-Copy IO——论文泛读
针对IO密集型应用的零拷贝IO。本文提出zIO，关键思路是：应用程序通常只修改其处理的数据的一部分。（1）乐观地假设大多数数据保持不变。为了保持一致性，中间数据区域保持未映射状态，如果应用程序试图修改任何中间数据区域，zIO通过页面故障拦截访问，并对页面执行复制和重映射。为了处理未对齐的内存区域，zIO执行未对齐区域的复制，只保留未映射的页面对齐部分。（2）避免数据跟踪开销损害应用程序性能，zIO根据每个IO动态决定何时跟踪和何时复制。如果IO缓冲区的大小小于16KB，则zIO会复制该缓冲区。
2024-04-02 13:42:58
887
原创 Re-architecting I/O Caches for Emerging Fast Storage Devices——论文泛读
针对使用超快存储设备作为SSD的缓存层场景。本文提出了一个实验评估框架，以系统地检查新兴超快设备的I/O缓存模块的行为。提出了几种增加IOPS降低尾延迟的设计思路：（1）将缓存查找线程的数量和CPU核数量匹配并使用细粒度锁。（2）延迟提升未命中的块可以更好的利用后端SSD阵列。（3）延迟刷新缓存中的脏快，绕过缓存直接写入后端SSD，避免缓存争用。
2024-04-02 11:31:02
413
原创 Johnny Cache: the End of DRAM Cache Conflicts (in Tiered Main Memory Systems)——论文泛读
针对DRAM和PMEM的分层内存系统，如何优化内存分配，基于硬件的分配方法，用DRAM作为PMEM的缓存，但缓存冲突率高。本文提出Johnny Cache，低开销冲突避免技术。（1）静态技术，在页面分配时避免页面间冲突。在分配新的PMEM物理页时，从DRAM缓存位置出发，先选择未使用的DRAM位置，随后将PMEM页分配到该位置。（2）动态技术，依赖于监视内存访问来区分冷热页面。当同一个缓存中出现两个热页，将其中一个热页重新映射到其他缓存上。
2024-04-01 14:00:17
804
原创 Memtis: Efficient Memory Tiering with Dynamic Page Classification and Page Size Determination——论文泛读
针对分层内存，现有方法对冷热页面划分不准确、不能动态调整页面大小。本文提出Memtis，可以动态确定页面位置和页面大小。（1）提出内存访问分析器。使用Intel PEBS(Processor Event-Based Sampling)工具实现，对LLC load misses和store指令进行采样，获取物理地址，统计页访问计数，将其表示在页面访问分布直方图中。（2）动态迁移冷热页面。根据页面访问分布直方图动态调整阈值，区分冷热页面，热页面常驻快速层，有额外空间容纳冷页面。
2024-04-01 11:32:46
841
原创 FIFO Queues are All You Need for Cache Eviction——论文泛读
针对缓存算法优化，本文发现在偏斜工作负载中的大多数对象只会在短窗口内访问一次。设计了S3-FIFO，通过一个小的FIFO队列，过滤掉大多数进入主缓存的对象，从而提供有保证的降级速度和高的降级精度。使用三个FIFO队列：小FIFO队列（S）、主FIFO队列（M）、幽灵FIFO队列（G）。S使用10%的缓存空间，M使用90%的高速缓存空间，G存储与M相同数量的幽灵条目（无数据）。首次访问插入S队列频率为0，再次访问频率加一，S满时根据访问次数逐出到G或M队列。G中元素再次访问时插入M队列，长时间没访问则逐出。
2024-03-29 11:13:28
440
原创 Flor: An Open High Performance RDMA Framework Over Heterogeneous RNICs——论文泛读
针对异构RNIC场景，如何避免异构带来的PFC依赖性、异构RNIC的互连性、硬件绑定的拥塞控制方案。本文提出了Flor，通过软硬件协同设计将RDMA传输的数据路径和控制路径分离。通过软硬件协同设计加强了可靠连接（RC）传输，以克服基于硬件的低效率GoBack-N重传。利用不可靠连接（UC）传输支持无序需求。采用不可靠数据报（UD），实现RoCEv2的选择性重传[36]。负载感知动态分块模块在性能和软件控制粒度之间进行平衡。实现了类似于Swift的基于RTT的拥塞控制算法，将RTT测量精度提高了10倍。
2024-03-29 11:11:33
826
原创 Cornflakes: Zero-Copy Serialization for Microsecond-Scale Networking——论文泛读
针对数据序列化传输，如何为微秒级应用程序设计更高性能的序列化库。需要同时实现：类似API、内存安全、内存透明、低延迟。本文提出了Cornflakes，混合序列化库堆栈，灵活选择分散聚集或内存副本进行序列化。（1）对现代Mellanox NIC进行的实验发现，分散聚集I/O可以提高512字节以上的缓冲区序列化性能。（2）提供了一个透明的混合序列化API，它保证了对零拷贝I/O使用无需保护，同时确保了拷贝和零拷贝的有效执行。（3）当字段至少有512字节时，在DMA安全内存中透明的使用零拷贝，其他使用复制。
2024-03-28 11:15:34
724
原创 DREAM: A Dynamic Scheduler for Dynamic Real-time Multi-model ML Workloads——论文泛读
针对实时多模型ML（RTMM）工作负载设计调度器，需要同时考虑多种挑战：异构的ML模型；动态性；数据和控制依赖性；设备计算和能量受限；实时要求。本文提出调度器DREAM，可以有效地处理RTMM系统中实时性、并发性、多模型、多任务的挑战。（1）对于实时性和并发性，提出了MapScore评分指标，同时考虑了紧迫性和公平性。（2）对于级联模型的复杂依赖，跟踪输入帧内和多个帧之间的模型依赖性。（3）对于动态性，开发了具有可调参数的动态调度方法，快速有效地适应工作负载的变化。
2024-03-28 11:12:10
796
原创 Replicating Persistent Memory Key-Value Stores with Efficient RDMA Abstraction——论文泛读
针对使用RDMA优化PM KVS的复制，现有方法存在排队延迟和设备级写放大（DLWA）。本文提出了Rowan，通过RDMA单边动词处理PM KVS的复制写入。聚合来自不同服务器的并发远程写入，并以顺序（因此低DLWA）和单向（因此低延迟）的方式将这些写入降落到PM。（1）让接收器端的控制线程以递增的地址顺序将PM驻留缓冲区推入接收队列。发送方只需要为远程PM写入发出SEND，并等待接收方RNIC生成的ACK。
2024-03-27 11:17:29
768
原创 ABNDP: Co-optimizing Data Access and Load Balance in Near-Data Processing——论文泛读
针对使用3D堆叠存储器的近数据处理（NDP）问题，现有方法难以同时实现最小化远程数据访问和计算负载平衡。本文提出ABNDP，利用软硬件协同优化来同时缓解这两个问题。（1）在硬件方面，使用了分布式DRAM缓存，在每个处理单元缓存远程存储器的数据。对处理单元分组（camp），每组缓存一份数据，缓存数据由附近的多个处理单元共享。进一步对不同的camp位置使用倾斜映射，减少缓存冲突。（2）在软件方面，采用混合任务调度策略，同时考虑远程访问成本和负载不平衡影响。
2024-03-27 11:15:01
871
原创 A Generic Service to Provide In-Network Aggregation for Key-Value Streams——论文泛读
针对使用网络内聚合（INA）优化分布式键值存储，现有INA方案是一种同步聚合、而且缺乏系统范围的考虑因素。本文提出用于键值流的INA服务ASK，交换机和主机联合设计的系统，可编程交换机提供尽力而为的聚合服务，主机运行守护进程与应用程序交互。ASK针对流量特性、硬件限制和网络不可靠特性进行了深入优化：（1）协同设计交换机内存布局和主机分组，以实现矢量化，并支持可变长度密钥。（2）设计了主机滑动窗口方案和交换机重复数据消除逻辑，以实现可靠性和正确性，并通过重用主机服务中的持久连接，进一步提高了系统的可扩展性。
2024-03-26 14:23:10
682
原创 Cooperative Concurrency Control for Write-Intensive Key-Value Workloads——论文泛读
针对键值存储服务的优化，源系统为了高吞吐量，强制通过跨线程分区写入来避免同步，但会造成负载不平衡，在写为主的负载和读写倾斜的负载性能不佳。本文提出C-4，将写入请求分为两类：可以跨线程平衡的独立请求和必须排队的依赖请求。使用NIC动态分区独立写入，以增加当前KVS设计的负载平衡灵活性，并在KVS中添加软件层，将依赖写入压缩为批处理。
2024-03-26 14:18:47
260
原创 NVAlloc: Rethinking Heap Metadata Management in Persistent Memory Allocators——论文泛读
针对持久内存上的内存分配/回收，现有方法有三个问题：对堆元数据的小写入导致缓存行刷新；分配器的堆元数据倾向于在持久内存中随机访问；静态slab分离导致持久内存碎片。本文提出NVAlloc，提出三个创新点：（1）使用从数据块到其相应堆元数据的交错内存映射，以及线程本地缓存中链表的交错布局，以避免重复访问同一CPU缓存行。（2）添加了一个持久记账日志，以顺序模式存储小的元数据更新，从malloc()和free()的关键路径中完全删除了随机元数据访问。
2024-03-26 14:17:06
902
原创 ZNSwap: un-Block your Swap——论文泛读
针对ZNS SSD上的交换子系统设计，现有方法垃圾回收开销高、性能差。本文提出ZNSwap，引入了与交换逻辑共同设计的主机端ZNGC。（1）将每个4K块的反向映射信息、与交换出的页面内容一起写入的逻辑块元数据中，避免了反向映射开销。（2）细粒度空间管理。利用了对操作系统内部页面有效性结构的直接访问，没有与TRIM相关的昂贵开销。（3）动态ZNGC优化。动态调整存储在交换设备中的交换页面数量，提高了以读为主和混合读写工作负载的性能。（4）灵活的数据放置和空间回收策略。
2024-03-25 11:20:17
1035
原创 Zero-Change Object Transmission for Distributed Big Data Analytics——论文泛读
针对JVM虚拟机间数据传输的对象序列化和反序列化（OSD）开销。本文提出零变化对象传输（ZCOT），包括三个创新点：（1）引入名为交换空间的全局共享抽象。采用了分布式类数据共享（DCDS）机制，使交换空间中的对象对所有JVM都是可解释的。（2）引入元数据服务器，用于存储对象的位置，并在JVM之间建立数据传输通道。支持基于组的对象管理，减少元数据服务器和JVM之间的流量。与单个JVM中触发的垃圾回收（GC）集成，并减少了GC暂停时间。
2024-03-22 14:09:54
1084
原创 vTMM: Tiered Memory Management for Virtual Machines——论文泛读
针对虚拟化场景的分层存储系统，核心思想是将热页面放在快速内存，冷页面放在慢速内存，通过页面跟踪、分类和迁移来实现这一目标。本文提出了vTMM，包括4个创新点：（1）通过页面修改日志记录（PML）和多级队列设计来跟踪内存访问。只扫描PML记录的脏的客户页表（GPT），减少跟踪页面数量。采用多级队列，降低频繁访问页面的跟踪频率。（2）量化页面温度，并使用桶排序进行细粒度页面分类。页面的温度是其读写频率的加权组合，其中权重分别来自读和写的成本。根据页面温度进行桶排序，并根据VM快速内存的大小分配热集。
2024-03-22 11:28:31
712
原创 Lunule: An Agile and Judicious Metadata Load Balancer for CephFS——论文阅读
如图5所示，Lunule在称为Epoch的固定时间间隔内做出迁移决策。在每个epoch中，每个Load Monitor都会将观测到的元数据吞吐量发送给Migration Initiator（1）。当元数据集群的不平衡程度（由IF值表示）超过预定义阈值时，迁移启动器触发负载重新平衡过程，并生成迁移计划，将源MDS和目标MDS分配给MDS，并将目标MDS的需求和源MDS的能力配对。然后，每个源MDS上的Workload-aware Migration Planner将被通知其分配的迁移任务（2）。
2024-03-21 15:03:32
797
原创 TeRM: Extending RDMA-Attached Memory with SSD——论文泛读
优化用SSD扩展RDMA连接的内存，现有方法在处理页面故障时效率低。本文提出了TeRM，主要思想是消除关键路径中的RNIC和CPU页面故障。（1）消除RNIC页面故障。对于SSD驻留页面，使RNIC页表指向包含预定义模式的保留物理页面。对于读取请求，客户端首先通过RDMA read获取数据，并识别页面是否在SSD上。然后，客户端使用RPC从服务器检索SSD驻留页面，但不需要对内存驻留页面进行任何额外操作，从而在常见情况下确保快速远程访问。（2）消除CPU页面故障，提出了分层IO。
2024-03-20 11:09:23
792
原创 We Ain’t Afraid of No File Fragmentation: Causes and Prevention of Its Performance Impact...——论文泛读
针对SSD上的文件碎片进行分析，碎片导致读写性能下降的原因是die碰撞。SSD的固件根据闪存die的写入顺序，以循环方式在闪存die上分配其闪存页。在发生文件碎片时，存储连续文件块的页面不能放置在连续die上，而是分配给任意die，导致性能下降。本文提出了NVMe协议的扩展，结合写入命令为页到die的映射提供提示。通过提示，用于追加写入的页面将映射到上一个文件块的页面所分配到的die之后的die。
2024-03-20 11:06:55
510
原创 Snapshot: Fast, Userspace Crash Consistency for CXL and PM Using msync——论文泛读
针对故障原子性msync()的优化，现有方法存在：写放大；脏页跟踪开销；上下文切换开销。本文提出了Snapshot：（1）使用基于编译器的注释，透明的跟踪用户空间中的更新，避免了上下文切换开销，并在调用msync() 时将其与可字节寻址的备份存储副本同步。（2）在DRAM中保留应用程序数据的副本，降低访问延迟。（3）仅在调用msync() 时自动跟踪和同步更改，从而提供了崩溃一致性保证。
2024-03-19 13:41:23
801
原创 Lightweight Frequency-Based Tiering for CXL Memory Systems——论文泛读
针对利用本地内存和CXL内存的分层系统，如何同时提升数据放置准确率；减少内存和运行时间开销。本文提出FreqTier，用于CXL内存的基于频率的分层系统。提出三个创新点：（1）采用了基于频率的分层，使用高性能硬件计数器以页粒度跟踪内存访问。（2）使用计数布隆滤波器（CBF）（一种概率数据结构）跟踪页面访问频率。（3）采用动态方法，根据应用程序内存访问行为调整分层操作的强度，调整页面迁移和访问采样频率。
2024-03-19 13:36:50
830
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人