怎样测试云硬盘的性能

操作须知

测试性能时，若分区的初始磁柱编号是非4KiB对齐，则对性能影响较大，请先确保分区的初始磁柱编号已经4KiB对齐，再开始测试。

                    
说明
                    
测试共享云硬盘性能时，必须满足以下要求：
共享云硬盘必须同时挂载至多台云主机（弹性云主机或者裸金属服务器）。
当共享云硬盘挂载至多台弹性云主机时，这些弹性云主机必须位于同一个策略为“反亲和性”的云主机组内。如果弹性云主机不满足反亲和性，则共享云硬盘性能无法达到最佳。


                    
                  
                  

测试共享云硬盘性能时，必须满足以下要求：

• 共享云硬盘必须同时挂载至多台云主机（弹性云主机或者裸金属服务器）。
• 当共享云硬盘挂载至多台弹性云主机时，这些弹性云主机必须位于同一个策略为“反亲和性”的云主机组内。

如果弹性云主机不满足反亲和性，则共享云硬盘性能无法达到最佳。

测试方法分为以下两种：

• Windows
• Linux

Windows

本文以“Windows 7 Professional 64位”操作系统为例，不同操作系统的格式化操作可能不同，本文仅供参考，具体操作步骤和差异请参考对应操作系统的产品文档。

测试性能前请先安装Iometer性能测试工具，Iometer官网地址为http://www.iometer.org/ 。

步骤 1 登录云主机。

步骤 2 使用“win+r”组合键打开运行窗口，并输入“msinfo32”，单击“确定”。 弹出系统信息窗口。

步骤 3 选择“组件 > 存储 > 磁盘”，在右侧区域查看分区起始偏移值。

• 若4096能被该参数值整除，则表示已经4KiB对齐，请执行步骤 4 。
• 若4096不能被该参数值整除，则表示未4KiB对齐，如需继续测试请重新按照4KiB对齐分区。

                    
注意
                    
删除分区并重新按照4KiB对齐选取初始磁柱编号时会导致磁盘原有数据的丢失，请谨慎操作。
                    
                  
                  

步骤 4 使用Iometer工具测试磁盘性能，具体方法请参见Iometer产品文档。

在进行IOPS和吞吐量测试时，Iometer参数配置和fio工具的参数相同，具体请参考表fio参数说明。

以下为使用Iometer工具测试磁盘性能的一个示例：

1. 设置工作流。

2. 设置测试时间。

示例中测试时间为10分钟，前60秒不做计算，等待写入稳定后开始计算磁盘性能。

3. 设置64 KB块写入，采用100%的顺序写。

4. 查看测试结果。

Linux

CentOS 6.5等较老版本的操作系统用fdisk创建分区时，默认为非4KiB对齐选择初始磁柱编号，对性能有较大的影响，建议针对该类操作系统，在创建分区时4KiB对齐选取初始磁柱编号。

本文以“CentOS 7.2 64位”操作系统为例，不同操作系统的格式化操作可能不同，本文仅供参考，具体操作步骤和差异请参考对应操作系统的产品文档。

测试性能前请先安装fio性能测试工具。

步骤 1 登录云主机并切换为root用户。

步骤 2 进行性能测试之前，请执行以下步骤，确认磁盘分区的初始磁柱编号是否已经4KiB对齐。

fdisk -lu

回显类似如下信息：

[root@ecs-centos sdc]# fdisk -lu 
 
Disk /dev/xvda: 10.7 GiB, 10737418240 bytes, 20971520 sectors 
Units = sectors of 1 * 512 = 512 bytes 
Sector size (logical/physical): 512 bytes / 512 bytes 
I/O size (minimum/optimal): 512 bytes / 512 bytes 
Disk label type: dos 
Disk identifier: 0x7db77aa5 
 
   Device Boot      Start         End      Blocks   Id  System 
/dev/xvda1   *        2048    20968919    10483436   83  Linux 
 
Disk /dev/xvdb: 10.7 GiB, 10737418240 bytes, 20971520 sectors 
Units = sectors of 1 * 512 = 512 bytes 
Sector size (logical/physical): 512 bytes / 512 bytes 
I/O size (minimum/optimal): 512 bytes / 512 bytes 
 
 
Disk /dev/xvdc: 53.7 GiB, 53687091200 bytes, 104857600 sectors 
Units = sectors of 1 * 512 = 512 bytes 
Sector size (logical/physical): 512 bytes / 512 bytes 
I/O size (minimum/optimal): 512 bytes / 512 bytes 
Disk label type: dos 
Disk identifier: 0x3cf3265c 
 
   Device Boot      Start         End      Blocks   Id  System 
/dev/xvdc1            2048    41943039    20970496   83  Linux

• 若start对应的初始磁柱编号能被8整除，则表示4KiB对齐，请执行步骤3进行性能测试。
• 若start对应的初始磁柱编号不能被8整除，则表示未4KiB对齐，如需继续测试请删除原有分区，重新按照4KiB对齐选择初始磁柱编号。

                    
注意
                    
删除分区并重新按照4KiB对齐选取初始磁柱编号会导致磁盘原有数据的丢失，请谨慎操作。
                    
                  
                  

步骤 3 执行以下命令，使用fio工具测试磁盘性能。

• 测试随机写IOPS：fio -direct= 1 -iodepth= 128 -rw= randwrite -ioengine= libaio -bs= 4k -size= 10G -numjobs= 1 -runtime= 600 -group_reporting -filename= /opt/fiotest/fiotest.txt -name= Rand_Write_IOPS_Test
• 测试随机读IOPS： fio -direct= 1 -iodepth= 128 -rw= randread -ioengine= libaio -bs= 4k -size= 10G -numjobs= 1 -runtime= 600 -group_reporting -filename= /opt/fiotest/fiotest.txt * -name= Rand_Read_IOPS_Test
• 测试写吞吐量： fio -direct= 1 -iodepth= 32 -rw= write -ioengine= libaio -bs= 1024k -size= 10G -numjobs= 1 -runtime= 600 -group_reporting -filename= /opt/fiotest/fiotest.txt -name= Write_BandWidth_Test
• 测试读吞吐量： fio -direct= 1 -iodepth= 32 -rw= read -ioengine= libaio -bs= 1024k -size= 10G -numjobs= 1 -runtime= 600 -group_reporting -filename= /opt/fiotest/fiotest.txt -name= Read_BandWidth_Test
• 测试单队列随机读时延： fio -direct= 1 -iodepth= 1 -rw= randread -ioengine =libaio -bs= 4k -size= 10G -numjobs= 1 -runtime= 60 -group_reporting -filename= /opt/fiotest/fiotest.txt -name= Rand_Read_LATE_Test

注意
使用fio工具进行裸盘性能测试时，不能在已创建文件系统的磁盘上测试，因为fio性能测试会破坏文件系统，导致磁盘变为只读，需要删除后重新购买。
请尽量不要在保存业务数据的磁盘上进行测试。如果需要，请按照以下建议操作：
在测试开始前对磁盘数据进行备份，防止误操作造成数据丢失。
在测试命令中指定filename参数为某个文件，例如 -filename=/opt/fiotest/fiotest.txt 。

测试fio相关参数说明如下表所示。

表： 参数说明

参数	说明
direct	定义是否使用direct IO，可选值如下： 值为0，表示使用buffered IO 值为1，表示使用direct IO
iodepth	定义测试时的IO队列深度。此处定义的队列深度是指每个线程的队列深度，如果有多个线程测试，意味着每个线程都是此处定义的队列深度。fio总的IO并发数=iodepth * numjobs。 例如： 单线程，且-iodepth=32，则该线程的IO队列深度为32，fio总的IO并发数=32*1=32。 多线程（3个线程），且-iodepth=32，则3个线程的IO队列深度均为32，fio总的IO并发数=32*3=96。
rw	定义测试时的读写策略，可选值如下： 随机读：randread 随机写：randwrite 顺序读：read 顺序写：write 混合随机读写：randrw
ioengine	定义fio如何下发IO请求，通常有同步IO和异步IO： 同步IO一次只能发出一个IO请求，等待内核完成后才返回。这样对于单个线程IO队列深度总是小于1，但是可以透过多个线程并发执行来解决。通常会用16~32个线程同时工作把IO队列深度塞满。 异步IO则通常使用libaio这样的方式一次提交一批IO请求，然后等待一批的完成，减少交互的次数，会更有效率。
bs	定义IO的块大小(block size)，单位是k、K、m和M等，默认IO块大小为4 KB。
size	定义测试IO操作的数据量，若未指定runtime这类参数，fio会将指定大小的数据量全部读/写完成，然后才停止测试。该参数的值，可以是带单位的数字，比如size=10G，表示读/写的数据量为10GiB；也可是百分数，比如size=20%，表示读/写的数据量占该设备总文件的20%的空间。
numjobs	定义测试的并发线程数。
runtime	定义测试时间。如果未配置，则持续将size指定的文件大小，以每次bs值为分块大小读/写完。
group_reporting	定义测试结果显示模式，group_reporting表示汇总每个进程的统计信息，而非以不同job汇总展示信息。
filename	定义测试文件（设备）的名称。 此处选择文件，则代表测试文件系统的性能。例如：-filename=/opt/fiotest/fiotest.txtl 此处选择设备名称，则代表测试裸盘的性能。例：-filename=/dev/vdb须知 如果在已经分区、并创建文件系统，且已写入数据的磁盘上进行性能测试，请注意filename选择指定文件，以避免覆盖文件系统和原有数据。
name	定义测试任务名称。

使用fio工具测试性能，测试结果不对怎么办

问题描述

根据性能测试的方法，得到的测试结果与预期不符。

排查思路

测试云硬盘性能时，云硬盘本身以及压测条件都起着重要的作用。

以下排查思路根据原因的出现概率进行排序，建议您从高频率原因往低频率原因排查，从而帮助您快速找到问题的原因。

如果解决完某个可能原因仍未解决问题，请继续排查其他可能原因。

                    
注意
                    
部分操作会导致磁盘原有数据丢失，建议使用裸盘进行性能测试。
                    
                  
                  

图：排查思路

表：排查思路

可能原因	处理措施
分区的初始磁柱编号4KiB对齐	检查分区的初始磁柱编号是否4KiB对齐。非4KiB对齐请删除原有分区，重新按照4KiB对齐选择初始磁柱编号。
测试盘不是裸盘	请重新购买裸盘挂载至云主机进行测试。
压测条件设置不合理	为了发挥出多核并发的系统性能，压测出目标性能指标，建议设置为多核，并且合理安排队列。
数据块大小设置不合理	重新设置数据块大小。l 测试IOPS时，建议将数据块设置为一个较小的值，如4k。l 测试吞吐量时，建议将数据块设置为一个较大的值，如1024k。

检查分区的初始磁柱编号是否4KiB对齐

步骤 1 登录云主机并切换为root用户。

步骤 2 进行性能测试之前，请执行以下步骤，确认磁盘分区的初始磁柱编号是否已经4KiB对齐。

fdisk -lu

回显类似如下信息：

[root@ecs-centos sdc]# fdisk -lu 
 
Disk /dev/xvda: 10.7 GiB, 10737418240 bytes, 20971520 sectors 
Units = sectors of 1 * 512 = 512 bytes 
Sector size (logical/physical): 512 bytes / 512 bytes 
I/O size (minimum/optimal): 512 bytes / 512 bytes 
Disk label type: dos 
Disk identifier: 0x7db77aa5 
 
   Device Boot      Start         End      Blocks   Id  System 
/dev/xvda1   *        2048    20968919    10483436   83  Linux 
 
Disk /dev/xvdb: 10.7 GiB, 10737418240 bytes, 20971520 sectors 
Units = sectors of 1 * 512 = 512 bytes 
Sector size (logical/physical): 512 bytes / 512 bytes 
I/O size (minimum/optimal): 512 bytes / 512 bytes 
 
 
Disk /dev/xvdc: 53.7 GiB, 53687091200 bytes, 104857600 sectors 
Units = sectors of 1 * 512 = 512 bytes 
Sector size (logical/physical): 512 bytes / 512 bytes 
I/O size (minimum/optimal): 512 bytes / 512 bytes 
Disk label type: dos 
Disk identifier: 0x3cf3265c 
 
   Device Boot      Start         End      Blocks   Id  System 
/dev/xvdc1            2048    41943039    20970496   83  Linux

• 若start对应的初始磁柱编号能被8整除，则表示4KiB对齐。
• 若start对应的初始磁柱编号不能被8整除，则表示未4KiB对齐，如需继续测试请删除原有分区，重新按照4KiB对齐选择初始磁柱编号。

                    
注意
                    
删除分区并重新按照4KiB对齐选取初始磁柱编号会导致磁盘原有数据的丢失，请谨慎操作。


                    
                  
                  

云硬盘读写慢、IO升高怎么办

问题现象

当您感知到业务变慢时，可以通过以下方法进行检查：

• Windows：查看“任务管理器”中的“平均响应时间”。
• Linux：执行iostat -dx命令查看IO性能。

如果云硬盘出现读写慢、IO升高、await值变大等现象，说明云硬盘的性能出现了瓶颈。

解决办法

建议您更换性能更高的磁盘类型。

如果您的云硬盘中有重要数据，可以通过云硬盘备份创建新的云硬盘，从而保留云硬盘数据。方法如下：

1. 通过云硬盘创建备份。

图：创建备份

2. 再从备份创建新的云硬盘，创建过程中可以为云硬盘重新选择“磁盘类型”和“高级配置”，包括共享盘、SCSI和加密。

图：从备份创建云硬盘

为什么磁盘的I/O使用率已接近100%，但磁盘的读IOPS没有达到IOPS上限？

问题现象：

单块500GiB的超高IO磁盘，磁盘I/O使用率为99.94%时，磁盘的读IOPS只有12000，没有达到磁盘的IOPS上限。

原因说明：

• 磁盘I/O使用率达到100%，不能代表磁盘的IOPS也达到上限。

磁盘I/O使用率，用于统计测量对象在测量周期内提交读取或写入操作的占比，不能代表磁盘的I/O性能数据，仅代表磁盘的繁忙程度。

由于云硬盘具有可以并行处理多个I/O请求的能力，因此当磁盘的I/O使用率达到100%时，也不表示达到了磁盘的瓶颈。例如：某个云硬盘处理单个I/O请求需要0.1秒，且可以同时处理10个I/O请求，那么当10个I/O请求依次按顺序（串行）提交时，需要1秒才可以全部完成，则在1秒的采样周期中，磁盘的I/O使用率达到了100%；而如果10个I/O请求一次性全部（并行）提交时，需要0.1秒就可以全部完成，则在1秒的采样周期中，磁盘的I/O使用率仅达到10%。由此可见，即使磁盘的I/O使用率达到100%，磁盘仍然有余力可以处理更多的I/O请求，即没有达到饱和状态。

• 磁盘的读IOPS没有达到IOPS上限的原因

对于500GiB的超高IO磁盘，其IOPS性能上限=min (单个云硬盘最大IOPS, 单个云硬盘最小IOPS + 每GiB云硬盘的IOPS × 云硬盘容量 ) = min (33000, 1500 + 50 × 500 ) = 26500

磁盘的读IOPS，用于统计每秒从测量对象读取数据的请求次数。IOPS实际是由时延控制的，目前在数据块大小为4KiB的情况下，超高IO磁盘的单队列访问时延为1ms，那么在单队列场景下，1秒可以处理的IOPS为1000，即当IOPS为12000时，队列深度大约为12，如果要达到IOPS上限26500，则队列深度大约需要达到26。