分布式存储一般都采用副本的方式来确保数据的安全性。写入磁盘前不需要进行额外复杂的计算，就可以将数据写入磁盘，是最快速的方式。是一种空间换时间的方法，即想得到较好的存储性能，就采用副本的方式。当有副本出现丢失的情况，系统就会启动数据重构。一般情况下，用于生产的分布式存储采用的是3副本。副本一般放置在不同机架、不同服务器主机的硬盘上。3副本就是放置在3台不同的服务器的硬盘上。而每个用户的数据是由很多个副本均匀的分布在存储资源池内的所有主机上的。所以，可以认为任意一台服务器会存储着所有用户数据的某些数据副本，一台服务器出现故障，会影响所有用户。从理论上来说，副本方式可以允许n-1台的服务器出现故障，n是副本数。比如3副本，不管这个分布式存储资源池内有几台服务器组成，就只能允许2台服务器出现故障。2台服务器出现故障，其实这个存储就很危险了。
当数据的持久化层OSD出现故障的时候，必须启动副本的恢复工作，即要在短时间内恢复完整的副本数。不同存储的结构、算法不同恢复的时间长短也不一样。但从副本恢复所使用到的磁盘、网络等基础设备是一样的。今天我们从基础角度上来分析，看看副本的恢复到底需要多少时间和当新增加OSD节点需要多长时间，并看看因为采用了X86服务器带来的隐患。
我们在实验室内做了实验，具体了解一下：
试验环境：2台万兆交换机、4台X86服务器（12块3T 7200转 SATA盘+1块1.2G PCIe SSD）。包括所有副本在内，每块磁盘有1T数据，共有48T数据。
实验一、无IO情况在，拔出一个磁盘
实验二、在存储上建立了4个360G的虚拟卷，加载少量的IO，即8K随机读写，队列深度为1，总iops为2600左右。
在拔出一个磁盘后，在15分钟后（可配，延迟15分钟是为了防止无操作、无报警等），系统开始对缺失的副本进行重构，得出结果：
（为了便于计算1T=1000G）
分析：
在实验分布式存储中，原来共有数据48块*1T数据，拔出1块磁盘数据重构完成后，还是48T数据，即每块盘增加了(1T/47)*1000=21.28GB的数据。
在无IO情况下12分钟内重构了1T的数据：
网络速度：(1*1000 )/(12*60)=1.39GB/s*8=11Gb/s，也就是说在无IO的情况下，网络的总的流量是11Gb/s。其中3台服务器网络速度是2.84Gb/s，1台被拔出硬盘的服务器流量是2.57Gb/s。为了计算方便，平均每台服务器为2.75Gb/s，网络利用率是27.5%。
磁盘写入速度：21.28*1000/(12*60)=29.56MB/s。
在少量IO情况下24分钟内重构了1T的数据：
网络速度：(1*1000 )/(24*60)=1.39GB/s*8=5.5Gb/s，也就是少量IO的情况下，网络的总的流量是5.5Gb/s。
平均每台服务器为是1.38Gb/s。
磁盘写入速度：21.28*1000/(24*60)=15MB/s。
实验现象：
1、无流量压力情况下数据重构速度即每块盘最大写速度为30MB/s。但随着IO的增加，写的速度也会越来越慢。
2、虽然每个服务器接入网络是10Gb/s，但受到存储软件的控制，重构时最大网络利用率近30%。
在有IO的情况下，重构时间迅速增加。主要是为了不影响正常IO的处理，软件对副本重构的速度进行了控制。
在实际生产中，用于副本重构的网络利用率控制在5%以下，对存储正常的IO不会产生影响。
由此计算:
29.56M/(27.5%/5%)=5.37M，即在10G接入网络下，每台服务器重构流量在0.5Gb/s（ 62.5MB/s）和每块磁盘读写数据在5MB/s以下，数据重构是安全的。
副本恢复的过程，实际上是从现有的磁盘中读取需要重构的副本，再根据一定的规则写入某些磁盘的过程。每块盘承担了读取副本，也承担了写入副本的职责。也就是说平均每块磁盘读2.5M，写也是2.5M。
从这个角度上看，每台服务器配置12块硬盘（60MB/s）是能产生读写能力和网络（ 62.5MB/s）能力匹配。服务器接入带宽越大，可以配置的硬盘数量就越大。
小结：
如果主机和磁盘比大于等于12：
1TB数据重构时间=2*1000*8/（0.25*n） n: 服务器数量
比如 57台12块磁盘的2P资源池重构1T数据的最短时间=（1000*8）/(0.25*57)=560秒。
如果主机和磁盘比小于12:
1TB数据重构时间=1000*1000/（2.5*m） m：参与重构磁盘数量
如果1台12块盘的服务器故障，最大重构36T数据，需要最短时间是342分钟，5.7小时。
结论：服务器或参与重构的磁盘数量越多，重构的速度就越快
我们继续实验，在数据重构完成后，重新插入这块盘，我们会发现，副本又开始重构了，但这次数据是搬家，并不生成新的副本。是因为系统认为插入了新盘，数据需要均衡导致的。
分布式存储采用的是“共产主义”，扩容服务器的数量可以线性的增加存储的能力，但新扩容的磁盘并不是只接受新的副本数据，而是需要搬迁写入平均值大小的“老”副本数据。
实际上每次非正常IO的副本的写入，都伴随着其他节点副本的删除。频繁的写入、删除对磁盘的寿命有较大的影响。
我们再看看实验结果：
在无io时，磁盘写入的速度是68MB/s，68MB/s其实也已经达到SATA磁盘平均写入速度的最大值的正常范围。这样，平均每台服务器网络中平均贡献68*8/4=136Mb/s流量。数据副本的搬迁是一个动态过程。磁盘里的数据副本一定有1/3的数据是主副本，可能会被正常的IO读取到，所以新加入的磁盘也不是全力进行数据搬迁，也和其他磁盘一样，只能用有限的能力应付副本迁移。测试结果上看，在少量IO业务下测试磁盘写速度为45MB/s, 平均每台服务器网络中平均贡献90Mb/s。在无IO的情况下，数据完成重新部署居然需要4.3小时了。大家一定没有想到吧，因为这次是47块盘共1T的数据搬到1块磁盘上，就像47个人喂1个人吃饭，饭总得一口一口吃，所以增加磁盘的时候，在大部分情况下和网络的速度无关，和磁盘写入的速度直接相关。
上面提过，为了不让副本迁移不影响正常IO，每台服务器可以提供主机网络的5%的带宽，即62.5MB/s，磁盘读写为5MB/s来处理副本的迁移。
如果主机和磁盘比大于等于12：
一起重构的磁盘数量=62.5*n/m n：服务器的数量 m:磁盘写入速度
如果主机和磁盘比小于12
一起重构的磁盘数量=5*n/m n:磁盘的数量 m:磁盘写入速度
如果m=5M，n= 57， 可以一起写入磁盘=712块
1-712块磁盘，1T数据迁移完成最长需要55.56个小时。可以这样认为，在目前2PB容量的分布式存储，在不影响业务情况下，如果扩容在2PB以下，数据副本迁移需要56个小时。
大家一直在问我，分布式存储的风险在哪里。风险就是因为多副本特性所引起的。
首先不管这个集群有多大，最多可以有n-1台服务器出现故障。一般是3副本，就是允许有2台服务出现故障。当出现故障的时候，就进行了数据重构，重构副本的时间相对较短，在2P的存储，每T数据恢复需要10分钟，恢复时间是以小时计。但是2台服务器同时出现故障，本身存在的风险就很大了，应尽量避免。
当故障的服务器恢复了，重新加入存储资源池，副本就需要迁移，那恢复的时间需要用天计算。所以当存储的OSD出现故障到完全恢复的时间很长。但在正常情况下，还是能接受的。
但非正常情况呢？
怎么会出现非正常情况呢？因为分布式存储常用的是X86服务器，x86服务器是有正常使用周期，大约是5年。同一批次的服务器的寿命是差不多的，在使用寿命的末期，服务器出现故障的概率是很大的。1台服务器发生故障，副本重构，可能会是最后一根稻草，导致服务器群的“老太太们”压力发生变化，也出现故障。一旦发生2台以上的同时故障，存储就会出现严重故障，存储就只能停止服务，运气好可以离线恢复数据，运气不好，副本完全丢失，数据完全不可用了。大家知道，在资源池里，存储一旦停止服务，整个资源池就瘫痪了。这种情况一定会发生，只是早晚的问题，所以要前期干预，不能让这样的事情发生。
于是定期更换服务器，别让服务器变成“老太太”，不断补充新鲜血液。但是，更换服务器和扩容不一样，扩容的时候可以一下子增加几十台服务器，用个2天时间就可以静悄悄的完成扩容。更换服务器的过程是先将服务器退出服务，再增加服务器的过程。原来服务器上有多少数据，就需要搬迁多少数据，比如原来服务器每块有2T数据了，就需要搬迁12*2T的数据。为了确保存储的正常使用，最好只能同时退出n-2台服务器，并增加相应的服务器。比如3副本，就只能先退出1台服务器，再增加1台服务器。换1台服务器需要2*2=4天时间。最多同时换2台，但风险很大，万一更换的过程中出现1台故障，那这个存储系统就挂了。所以一台一台更替是最妥当的方法，57台服务器全部替换完成，不停的干，顺利的话，也需要大半年时间，算上节假日1年可能都做不完。这个过程漫长而复杂，充满的变数，却一定是可行的。
全SSD分布式存储的拥护者会兴奋了，因为用全SSD的好像可以提高速度，加快这个过程。用全SSD的同时，最好也提高服务器接入的带宽，比如用40G网卡或用IB网络，不要让网络成为新的瓶颈，但分布式存储带来的隐患不可能根除。
分布式“块”存储存在这样的风险，服务器加载更多磁盘的对象存储和文件存储类似的问题更突出，风险更大。
别忘记更换服务器的成本！分布式存储的价格优势在哪里？
存储内的数据一定要有价值，因为存储他们的代价很大。但是现在存储的使用是一种多多益善的观念，只管写，不管删。这个问题以后再详谈。
分布式存储当下不存在风险，而远期的风险巨大！
