小米HBase应用实践：改进与扩展

"本文主要介绍了HBase在小米公司的应用情况、所做的改进和扩展，以及相关的测试策略。小米利用HBase服务于其内部多个业务，包括云服务、推送服务等，并且已经对HBase进行了自动化部署、监控和报警系统的开发，以及各种压力和可用性测试。文章还提到了HBase在删除语义上的问题及其修复方案。" HBase是一种分布式的、基于列族的NoSQL数据库，广泛应用于大数据存储和实时查询。在小米公司，HBase的应用现状非常广泛，涵盖了15个HBase集群，其中9个在线集群用于实际业务，2个离线处理集群用于大数据分析，还有4个测试集群用于测试和验证。这些集群服务小米内部十多个不同的业务，涉及数百台机器，每个数据节点存储容量高达24TB。 在应用场景方面，HBase在小米扮演了关键角色。它用于提供云服务，支撑米聊的消息全存储，小米推送服务的实现，以及MIUI和多看的离线分析。为了确保HBase的稳定运行，小米采用了名为Minos的自动化部署和监控系统，该系统已经开源，能够实现集中监控、分类展示和表级指标聚合。 在测试方面，小米执行了严格的测试流程，包括Failover测试来模拟服务器故障并验证数据的正确性，使用ChaosMonkey+工具进行可配置和随机化的测试操作。此外，还有压力和性能测试，如Longhaul测试，以及可用性测试，如HBase的ping功能，以确保系统的高可用性和稳定性。 然而，HBase在删除语义上存在一些问题。当使用Delete操作时，如果其时间戳为T，它将影响所有timestamp小于等于T的数据，即使这些数据是在该Delete操作之后写入的。这可能导致数据不一致性和用户读取不到新写入的数据。为了解决这个问题，小米提出了修复方案，即Delete标志只能屏蔽写入时物理时间之前的数据，而不能影响后来写入的数据，这一改变旨在提高数据一致性。 HBase在小米的应用不仅体现在其广泛的业务支持，也体现在对HBase的深度定制和优化，包括改进其删除语义以增强数据一致性，以及构建全面的测试框架确保系统的可靠性和性能。这些经验对于其他使用HBase的企业来说具有很高的参考价值。