分布式存储：企业灾备避坑指南

作者：周靓靓

分布式存储不是万能药！我踩过的那些坑，希望你别再踩了

老张前两天跟我诉苦，说他们公司上了一套分布式存储，结果性能不仅没提升，反而把业务部门给得罪了。我问他，你们为什么上分布式存储？他说，因为数据量涨得太快，原来的存储撑不住了。我又问，那你们业务到底需要什么？他愣了一下，说，其实也就是快一点、稳一点、别丢数据就行。

这个问题，我遇到过太多次了。说实话，分布式存储这词儿现在有点被神化了。好像只要数据量大，就必须得上分布式，不上就显得不专业。但分布式存储到底是什么，它到底解决什么问题，很多人其实没想清楚。

分布式存储到底是个啥？

一句话说清楚：分布式存储，就是把数据打散了，存在多台服务器上，然后通过软件把这些服务器的硬盘拼成一个巨大的存储池，对外看起来就像一块大硬盘。

你可以把它想象成一个团队。传统存储是一头老黄牛，一个人干所有的活，力气再大也有极限。分布式存储是一个搬运工团队，每个人扛一部分东西，一起搬，效率自然高。

这个思路，说白了就是人多力量大。2006年，谷歌发表了那篇著名的GFS论文，把分布式存储的思想公开了。从那以后，Hadoop、Ceph、GlusterFS这些东西如雨后春笋般冒出来，分布式存储从一个高冷的科研项目，变成了普通企业也能用得起的玩意儿。

它到底解决了什么问题？

先说它真正擅长的场景。

第一，海量小文件。我之前有个客户是做基因测序的，一台机器一次测序能产生几十万个文件，每个文件几KB到几百KB不等。传统存储面对这种场景，光元数据查询就把CPU打满了。换成分布式存储之后，文件分散到多个节点上，元数据也分散管理，性能直接翻了好几倍。

第二，高并发读写。比如视频监控，几十路摄像头同时写入，数据量一天好几个TB。传统存储的控制器很容易成为瓶颈。分布式存储可以把不同的摄像头分配到不同的节点上，写互不干扰。

第三，扩展性。传统存储扩展，要么换框子，要么加硬盘柜，扩到一定规模就动不了了。分布式存储加节点就行，理论上可以扩展到几千台服务器，容量从几十TB到几十PB随便折腾。

但分布式存储也有解决不了的问题

话又说回来，分布式存储不是万能的。我遇到过几个场景，它反而帮了倒忙。

场景一：单机数据库的存储。 有个做ERP的客户，数据库就一个实例，数据量不到1TB，但要求低延迟。把数据放到分布式存储上，每次读写都要经过网络层、副本同步、一致性协议，延迟比本地盘高了不止一个量级。数据库跑得跟蜗牛一样。后来换回本地NVMe盘，世界清净了。

场景二：小规模部署。 分布式存储最少也得3个节点起步，每个节点还得配万兆网卡、SSD缓存盘，硬件成本不比传统中端存储便宜。如果你只有几TB的数据，一台服务器加几个硬盘就能搞定的事，真没必要折腾分布式。

场景三：运维复杂度。 分布式存储的运维门槛比传统存储高不少。传统存储出了问题，厂商工程师远程就能搞定。分布式存储涉及到网络配置、节点故障处理、数据再平衡，没有个把月的学习，不敢说能玩得转。

给正在考虑分布式存储的你几个建议

第一，想清楚你的业务到底需要什么。 是容量不够？性能不够？还是可靠性不够？这三个问题对应的是完全不同的解决方案。容量不够，可能加硬盘就行；性能不够，可能换全闪就行；可靠性不够，可能做双活就行。别一上来就上分布式。

第二，如果决定上分布式，先做小规模验证。 别一上来就几十个节点搞生产。找个非核心业务，搭个3节点的小集群，跑个把月，看看稳定性怎么样，性能能不能达标，运维能不能跟上。我见过太多一上来就搞大集群，结果出了问题连厂商都排查不了的案例。

第三，数据备份别落下。 这一点我必须多说两句。分布式存储虽然有多副本机制，但副本不等于备份。副本防的是硬件故障，防不了人为误删、勒索病毒、软件逻辑错误。之前有个客户，分布式存储里存了几十TB的数据，因为运维人员误操作，把整个目录删了。多副本机制一点用都没有，数据照样找不回来。后来怎么解决的？靠的是备份系统的数据。这个备份系统，用的就是热备云的产品，当时做的时候还觉得多此一举，事后才发现救命了。

说实话，用热备云这个产品，一开始也是抱着试试看的心态，毕竟分布式存储自带多副本，感觉已经够安全了。但事实证明，多副本和备份是两码事。

最后说两句掏心窝子的话

分布式存储是个好东西，但它不是银弹。选型的时候，先搞清楚自己的需求，再做技术选型。别跟风，别盲从，别听厂商吹得天花乱坠。

技术这东西，没有最好的，只有最合适的。等你真正把需求想清楚了，用哪种方案，其实心里自然就有答案了。

数据安全无小事，容灾备份更是如此。希望看到这篇文章的你，能少走一些弯路。毕竟，数据丢了，哭都来不及。