海量小文件存储策略：Cassandra vs 分布式文件系统

"本文主要探讨了初步的存储方案对比，特别是针对分布式云存储的方案设计。文中提到了Hadoop和Cassandra在处理小文件读性能上的对比，并详细分析了基本的存储需求，包括数据量、文件个数、文件分布以及IO需求。此外，还讨论了开源方案的选型原则，如稳定性和社区支持度，以及提出了具体的存储建议，包括使用分布式数据库和文件系统来分别处理小文件和大文件。" 在存储需求方面，考虑到一个亿的用户，每个用户平均1G的存储需求，平均使用量为250M，加上平均数据拷贝数为3，总数据量达到了75P。文件个数则根据不同平均文件大小（5M和50M）计算得出，可能在50亿到5亿之间。文件分布显示，小文件（0~10M）占大多数，但所占容量较小。 IO需求方面，重点在于写入操作，因为需要保证数据的安全存储和本地加密备份。读取请求相对较少，但具体的每秒IO数和引发的带宽需求未给出明确数字。 在开源方案的选型上，文章强调了稳定性和社区支持的重要性，同时考虑了性能、成本、可读性和可维护性。分布式数据库如Cassandra、MongoDB和TT在处理小文件时能提供高IO并发能力，但也有其局限，如Cassandra在处理千万数据规模时可能出现性能下降。而分布式文件系统如Hadoop、MooseFS和LustreFS在处理大文件时表现出色，扩展性良好，但小文件处理能力相对较弱。 因此，建议方案是将小文件存储在分布式数据库中，如Cassandra、MongoDB或TT，而大文件则利用分布式文件系统进行存储。Cassandra作为例子，被提到其在处理小文件时的优势，如无明显硬伤，且被广泛应用于Twitter、Facebook等大型公司。 本文提供了一种基于需求和现有技术的分布式云存储解决方案，旨在优化存储性能和管理大量数据。通过对比和分析不同存储系统的特点，为企业或项目选择合适的存储架构提供了参考。