河南省建设厅网站师林峰,清明节ppt模板免费下载,台州市知名专业做网站,wordpress htaccess 文件位置Ceph支持多种存储访问接口#xff0c;现有的多种性能测试工具都可用于Ceph的性能测试#xff0c;如测试块接口性能的fio#xff0c;iometer等#xff1b;测试CephFS接口的filebench#xff0c;fio等;测试对象接口的cosbench等。Ceph有专用的基准测试集CBT#xff0c;其包…        Ceph支持多种存储访问接口现有的多种性能测试工具都可用于Ceph的性能测试如测试块接口性能的fioiometer等测试CephFS接口的filebenchfio等;测试对象接口的cosbench等。Ceph有专用的基准测试集CBT其包含radosbenchlibrbdfiokvmrbdfio和rbdfio。radosbench基准测试使用ceph common软件包附带的rados二进制文件通过对象接口来访问Ceph集群。剩下的3个工具都是测试块存储性能的。 librbdfio基准模块通过用户态librbd库来测试RBD的块存储性能。 kvmrbdfio基准测试要求在使用CBT之前创建虚拟机实例并挂载RBD块设备。 rbdfio基准测试使用内核进行驱动并将其映射到块设备的RBD块设备上。Teuthology是一个Ceph自动化测试的框架可以在指定节点运行测试用例也可以用于性能的测试。 对Ceph系统进行持续的性能监控可以了解集群运行状况及早发现性能瓶颈。Ceph提供了命令行接口输出性能相关的统计数据。OSD以PG为单位收集性能数据并定期发给Monitor节点。Monitor节点汇总性能数据并同步至其他Monitor节点。我们也提出了一种针对Ceph存储系统层进行分层性能监测和采集的框架以及一种通过Ceph电文来分析系统性能和瓶颈的方法。 1、Ceph存储系统的特点和挑战 本节总结了Ceph分布式存储系统的特点和面临的挑战。 ()Ceph存储系统的优点 )高性能。针对并发量大的异步IO场景随着集群规模的扩大Ceph可提供近线性的性能增长。 )高可扩展性。Ceph通过CRUSH算法来实现数据寻址。这种方法避免了元数据访问的瓶颈使集群的存储容量可以轻易扩展至PB级甚至EB级。 )统一存储适用范围广。Ceph支持块、文件和对象存储可满足多种不同的需求。底层的RADOS可扩展并支持不同类型的存储服务。 )支持范围广。自2012年起Linux内核开始支持Ceph目前Ceph可以在几乎所有主流的Linux发行版和其他类UNIX系统上运行。自2016年起Ceph开始支持ARM架构同时也可适用于移动、低功耗等领域其应用场景覆盖了当前主流的软硬件平台。 ()Ceph面临的挑战 )Ceph底层采用定长的对象存储为了保证对象级别的原子性底层存储引擎的写放大问题严重影响了性能。 )Ceph的数据分布算法CRUSH在实际环境中存在一些问题包括扩容时数据迁移不可控、数据分布不均衡等。这些问题影响了Ceph性能的稳定性。 )Ceph对新型存储介质的支持较差。在使用高速存储介质时软件造成的时延比硬件导致的时延高出数十倍。社区也在开发面向新型存储介质的存储引擎。 )Ceph的架构复杂抽象层次多时延较大。虽然Ceph采用面向对象的设计思想但其代码内对象间的耦合严重导致不同版本间的接口不兼容。针对不同版本的性能优化技术和方法也互相不兼容。 )Ceph是一个通用的分布式存储系统可应用于云计算、大数据和高性能计算等领域。针对不同的访问负载特征Ceph还有较大的性能提升和优化空间。 Ceph是一个通用的分布式文件系统适用于不同的场景。内部机制的优化对所有的场景都会产生性能的提升但是优化的难度和复杂度也最高。 2、存储引擎的优化 在分布式存储系统中数据被分散在大量的存储服务器上大部分分布式存储系统都直接使用本地文件系统来存储数据如HDFS、Lustre等。高性能、高可靠的分布式存储系统离不开高效、一致、稳定、可靠的本地文件系统。Ceph存储引擎的优化参考“Ceph分布式存储系统架构研究综述”。 3、网络通信的优化 在分布式存储系统中节点间需要通过网络通信来交换状态和数据。Ceph有种类型的通信模式分别是SimpleAsync和XIO。Simple线程模式对每个网络连接都创建了两个线程分别用于接收和发送。Ceph集群中OSD、Monitor节点及客户端之间都需要建立连接。随着集群规模的增长创建的连接数和线程数会呈指数级增长需要消耗更多的CPU和内存资源。在内存有限的情况下Simple模式将导致大量线程的频繁切换以致内存耗尽。Async模式将连接和线程分开通过线程池管理来维护线程的使用用户可设置线程池中线程的数量。这是目前被广泛采用的方式自2017年发布Kraken版本后这已经成为默认的通信模式。XIO模式使用了开源的网络通信库accelio来实现现今仍处于实验阶段。目前针对网络通信优化的研究都是基于Async通信模式实现的。 Async模式使用线程池可兼顾资源和性能的平衡但早期其设计是基于循环的简单调度方案未考虑传输数据大小和线程负载。这种早期设计会导致工作线程负载不平衡在高负荷情况下产生一些性能问题。Han等提出了一种用于Ceph文件系统的动态消息感知通信的调度程序以解决工作线程调度不平衡的问题从而提高性能。他提出的调度算法根据传入消息的类型来平衡工作线程的工作量同时避免了工作线程之间不必要的连接转换。 一方面该算法将低优先级消息(例如来自心跳连接的消息)分配给特定线程以免干扰其他高优先级消息。另一方面高优先级消息被平均分配给每个工作线程以平衡线程之间的工作负载。同时其使用遗传算法(GA)来使不必要的连接转换最小化。测试结果表明在相同的客户端工作负载下该方法比原始Asyncmessenger的性能高出12.5在客户端的随机工作负载下其性能比原始Asyncmessenger高出24。 优化Asyncmessenger还可以通过将多个工作线程分配给单个连接来处理来自该连接的流量。但是由于多个线程争用访问连接中的共享资源这种映射结构会引起与锁定维护有关的另一种开销。 Ceph的Luminous版本将Async网络通信模型作为默认的通信方式。虽然Async实现了IO的多路复用使用共享的线程池来实现异步发送和接收任务但是如何平衡Async工作线程的负载也是一个值得关注的问题。下表总结了几种常见的算法的优化方案。 RDMA是一种低延迟、高性能的网络传输协议已被广泛应用于高性能计算环境中。为了在Ceph中利用RDMA以实现高速的数据传输开发社区提出了两种方案。 第一种方案是降低Ceph对网络层状态的要求减少Messenger需要实现的逻辑。现在的XioMessenger规定的语义和策略过于复杂使用新的网络协议实现的难度大;减少Messenger的逻辑则需要增加上层的逻辑。 第二种方案是基于目前的AsyncMessenger的框架扩展出支持RDMA的网络后端而无需关心上层的会话逻辑。国内的XSKY公司和Mellanox公司合作提出了基于AsyncMessenger的网络通信引擎。这种修改使用RDMA的双边通信机制性能提升有限。并且在当前版本的代码实现中RDMA只可用于客户端与服务器之间、服务器与服务器之间的通信不能在两个网络中同时被应用这也限制了该方案的应用。 4、数据放置方法的优化 经典Ceph存储系统在副本模式下选择存储节点时仅以节点存储容量为唯一选择条件并没有考虑到网络和节点的负载状况这影响了系统在网络性能差和节点高负载的情况下的读写性能。为解决这些问题文献设计了基于软件定义网络技术的Ceph存储系统模型和存储节点选择策略首先利用软件定义网络技术实时获取网络和负载状况以简化网络配置和减小测量开销然后通过建立并求解出综合考虑了多种因素的多属性决策数学模型来确定存储节点的位置。 在实际环境中对设计的存储节点选择方法进行读写操作的测试结果表明与现有的CRUSH算法相比提出的存储节点选择方法可以在保持与原有Ceph系统相同的写操作性能的同时针对4KB对象的100%读操作的响应时间比原有的Ceph集群的缩短了10ms左右针对4096KB对象的100读操作响应时间相对缩短了120ms左右。这种方法需要获取网络的实时性能以用于数据放置策略的调整引入了网络负载采集的开销在大规模集群场景下应用受限。并且由于该方法会频繁更新CRUSH算法的参数其读取性能会有所下降。 5、配置参数性能调优 Ceph存储系统的可配置参数有1500多个参数的调整对系统性能有较大的影响。默认配置针对不同的硬件和应用通常不是最优配置。通过锁优化和系统参数调优技术使系统的吞吐率提升了1.6倍但其并未讨论修改了哪些配置参数。虽有文献详细介绍了在全闪存环境下需要调整哪些参数(包括内核、文件系统、磁盘缓存、RADOS和RBD等)但是没有给出调整前后的性能对比。 Intel开发并开源了一个性能优化工具CeTune该工具可用于Ceph集群的部署、测试、分析和调优。该工具是一个交互性的调优工具尚不能自动寻找最优配置。分布式存储系统的性能调优仍是一个具有挑战性的问题。参数组合导致问题解空间大且参数之间会互相影响。在数据库领域已有一些利用机器学习和决策树的方法进行自动调优的成功案例而在分布式存储系统领域相关研究仍处于起步阶段。 面向特定硬件环境的优化 随着3DXpoint和非易失内存等技术的发展与成熟最快的存储介质性能已接近内存性能。使用新型存储器件的系统中软件已成为瓶颈。如图所示HDDSATASSDNVMe NANDSSD3 DXPointStorage3DXPoint Memory系统中的软件造成的延迟分别是0102040和90。通过重构软件的体系结构来充分发挥高速存储介质的性能是目前的一个研究热点。 5. 固态存储 固态存储设备相比磁盘设备在性能、功耗和机架密度上具有显著的优势。SATA接口限制了固态存储设备的最大吞吐率。Intel提出的利用PCIE总线来访问固态存储的NVMe接口方法提供了通用的高速存取方案。使用NVMe的固态存储设备在吞吐量和延迟性能上比传统的磁盘高出1-2个数量级因此在总的IO处理时间中软件造成的延迟占据更大的比例。现有的存储系统为低速硬件设计了合并写、异步写等机制但是这些机制并不适用于高速存储设备。随着存储设备性能的进一步提升存储系统软件栈的性能和效率对存储系统的影响越来越大。存储系统因受制于低效冗余的软件栈而不能充分发挥硬件性能。 SPDK是Intel提出的使用NVMeSSD作为后端存储的应用软件加速库。该软件库的核心是实现用户态、异步、无锁、轮询方式的NVMe驱动。虽然SPDK等新型驱动可以将NVMeSSD的性能最高提高倍但是在Ceph中直接使用SPDK却没有明显的性能提升。其主要原因在于在BlueStore的处理中有很多线程协作线程间的互斥和切换开销较大。 在Ceph中OSD使用异步IO等待IO完成多线程可以充分利用NVMeSSD多通道的特点来提升性能。由于一个OSD无法充分利用NVMeSSD的带宽研究人员发现将NVMeSSD进行分区然后在其上运行多个OSD可显著提高性能。图给出了一个NVMeSSD分别使用1个OSD、2个OSD和4个OSD时的性能可以看到在个SSD上运行个OSD时的随机读其IOPS增长很快但延迟增长缓慢。 但是将SSD分区并同时支持多个OSD也有一些缺点如降低了可靠性、小块随机写延迟增大、需要更多内存和CPU资源等。另一项对于随机写的测试结果如图所示在1个SSD上运行2个OSD时的IOPS与运行个OSD时的IOPS相近且需要的CPU资源更少。使用多个OSD的提升效果与SSD的性能和CPU的性能相关且需要占用较多的CPU和内存资源对可用性也有影响因此不适用于大规模生产环境。 除了NVMe以外现在还有一些使用SATASSD来代替HDD的策略但直接替换存储介质的性能提升有限。Ceph针对HDD设计了很多异步和调整写顺序的机制但这些机制反而降低了SSD的性能。当使用Ceph集群和全闪存SSD进行K随机写入/读取的性能测试时随机写入性能也只能达到16KIOPS。当线程数增加到32个及以上时IOPS几乎保持不变且延迟急剧增加。随机读取时当线程数少于32时IOPS较低且延迟较高。 5.2 非易失内存 存储是数据密集型系统中最慢的组件。尽管基于NVMe的固态驱动器提供了更快、更持久的存储IO性能已大大提高但其仍然比系统中的其他组件慢。随着NVDIMM产品的出现可字节寻址的非易失性存储器将提供与内存相近的IO性能。 Intel将Client端的NVM作为缓存提出了个优化方案大大提升了块存储接口的访问性能。 方案一提出由于Ceph快照中的父对象是只读的Client端将其缓存在本地SSD中以提高读取性能。但该方案仅缓存特定的不变对象不具有通用性。 方案二利用Client端的NVM实现了一个写回缓存写入NVM的数据并将其不定期刷新至OSD中。该方案性能提升的效果明显能将99.99的写入延迟缩短到1/10以下。但是因为在客户端发生故障时保存在NVM中的数据没有写入Ceph后端的OSD所以会造成数据不一致。 为了解决这个问题方案三通过RDMA技术为Client节点和OSD节点的NVM空间建立镜像以避免因Client故障导致的数据丢失。复制写日志机制将数据同时持久化至Client和OSD的NVM中当Client不发生故障时OSD仅提供镜像空间无需额外的CPU等资源。基于客户端的缓存性能提升明显但为每个客户端配置NVM和RDMA的成本较高且该方案并未充分利用OSD端的NVM特性。 5.3 混合存储 在Ceph集群中可以使用SSD作为保存日志或缓存来提高访问性能。Ceph支持使用高速存储设备作为缓存来加速IO性能。目前有两种不同的缓存实现方式:)在OSD内部使用缓存;)将高性能节点组成缓存层。 根据第一种方案在使用FileStore时文件系统可以识别并使用异构来存储介质并将其中的SSD作为缓存其架构如图(a)所示。这种方案可以依赖已有的缓存工具(如dm-cachebcacheFalshCache)来实现该功能也可以使用现有的多种缓存控制方法。其中dm-cache作为linux内核的一部分采用devicemapper机制以允许用户建立混合卷;bcache是linux内核块层缓存使用SSD作为HDD硬盘的缓存从而起到加速作用;FlashCache可智能缓存最近读取过的用户数据或元数据从而加快数据访问。 第二种方案的实现方式是将独立的设备或节点组成缓存池在慢速节点保存冷数据在高性能节点保存热数据。在这种方案中高速节点被组织成为缓存层该缓存层也是一个RADOS池不仅具有持久化的能力还具有独立的CRUSH策略。该层以下是基于HDD的RADOS池其可以采用三副本的ReplicatePG作为后端也可以采用Erasurecoded作为后端。 6、未来展望 针对前面提到的不同的性能优化方法本节从Ceph内部机制优化、基于新型硬件和面向不同负载优化这3个方面对性能优化问题的未来研究方向进行了展望。 6.1 Ceph内部机制的优化 Ceph发展至今其规模和复杂性不断增大。数据分发、元数据管理和对象一致性保证等方面的逻辑复杂目前的多线程和加锁机制效率较低。采用新的内存分配机制和高效KV数据来管理子系统可能对性能有所提升。目前内置的性能采集机制不完善采集内容和方法、性能数据分析这两方面都有改进的空间。 6.2 基于新型特定硬件的优化 随着新型存储介质的发展NVM和3D XpointSSD等介质的访问性能比传统HDD提升了2-4个数量级。存储系统优化需通过结合硬件特征来重构存储系统的体系结构删除冗余抽象和功能并重新分配软硬件的功能。存储软件中针对传统硬件的优化方法可能会降低性能如异步写、随机写合并等。SSD的文件转换层的垃圾回收、空间映射与管理功能也可移至软件实现。多种不同性能的介质也将长期共存于存储系统中根据数据冷热和介质特性自适应实现高性价比的数据分布也是一个研究方向。Ceph虽然已支持RDMA协议但是双边操作方式性能的提升有限设计新的通信机制、采用单边操作可进一步提高性能。 6.3 面向应用场景的自适应优化 Ceph应用场景众多不同应用的访问特征和数据分布差异较大。在不同的负载情况下基于人工制定的存储优化方案不能满足要求。根据不同应用负载的自适应优化技术也是一个挑战其研究内容包括利用访问标签来实现不同应用的性能服务质量保证以及性能隔离、利用机器学习技术自动寻找最优配置以及动态的数据预取和迁移。 7、结束语 本文介绍了Ceph分布式存储系统的发展历史和特点并从内部优化机制、面向硬件设备和应用场景这3个方面梳理了现有的性能优化方法。作为一个开源的统一存储系统Ceph提供了高性能、高可扩展性和高可用的块、文件和对象存取功能。Ceph的特点使之被广泛应用于云计算、高性能计算和大数据处理领域。目前Ceph的性能优化研究工作虽然有一定的进展但仍有很多问题尚未完全解决。 作者张 晓、张思蒙、石佳、董聪、李战怀