BufferedMutatorParams params = new BufferedMutatorParams(TableName.valueOf("sensor_fuelgas_history")); //设置缓存大小 params.writeBufferSize(10 * 1024 * 1024L); mutator = connection.getBufferedMutator(params); // 存入数据 Put put = new Put(datas.getId().getBytes()); put.addColumn("info".getBytes(), "operaterTime".getBytes(), datas.getOperaterTime().getBytes()); put.addColumn("info".getBytes(), "deviceId".getBytes(), datas.getDeviceId().getBytes()); put.addColumn("info".getBytes(), "signal".getBytes(), datas.getSignal().getBytes()); put.addColumn("info".getBytes(), "voltage".getBytes(), datas.getVoltage().getBytes()); put.addColumn("info".getBytes(), "temperature".getBytes(), datas.getTemperature().getBytes()); put.addColumn("info".getBytes(), "concentration".getBytes(), datas.getConcentration().getBytes()); put.addColumn("info".getBytes(), "state".getBytes(), datas.getState().getBytes()); put.addColumn("info".getBytes(), "distance".getBytes(), datas.getDistance().getBytes()); put.addColumn("info".getBytes(), "communityIdentity".getBytes(), datas.getCommunityIdentity().getBytes()); put.addColumn("info".getBytes(), "alarm".getBytes(), datas.getAlarm().getBytes()); put.addColumn("info".getBytes(), "reserved".getBytes(), datas.getReserved().getBytes()); put.addColumn("info".getBytes(), "submitTime".getBytes(), datas.getSubmitTime().getBytes()); put.addColumn("info".getBytes(), "lat".getBytes(), datas.getLat().getBytes()); put.addColumn("info".getBytes(), "lon".getBytes(), datas.getLon().getBytes()); put.addColumn("info".getBytes(), "acceptTime".getBytes(), datas.getAcceptTime().getBytes()); put.addColumn("info".getBytes(), "errorConcentration".getBytes(), datas.getErrorConcentration().getBytes()); put.addColumn("info".getBytes(), "errorState".getBytes(), datas.getErrorState().getBytes()); put.addColumn("info".getBytes(), "tmp".getBytes(), datas.getTmp().getBytes()); put.addColumn("info".getBytes(), "wea".getBytes(), datas.getWea().getBytes()); put.addColumn("info".getBytes(), "newtmp".getBytes(), datas.getNewtmp().getBytes()); listPut.add(put); if(listPut.size()>=3000){ mutator.mutate(listPut); mutator.flush(); listPut.clear(); count = count - 1; } if(count == 0 && remain ==listPut.size()){ mutator.mutate(listPut); mutator.flush(); listPut.clear(); } 写入hbase时间太长 优化下
时间: 2024-04-13 15:26:54 浏览: 60
C#+.net.zip_. net数据库_C# 三层架构和数据库的应用
要优化写入HBase的时间,可以考虑以下几点:
1. 调整写缓冲区大小:根据实际情况,适当调整写缓冲区的大小,以提高写入性能。在上述代码中,已经设置了写缓冲区大小为10MB,可以根据数据的大小和网络状况进行调整。
2. 批量写入数据:在上述代码中,使用了一个List来存储Put对象,当List中的元素达到一定数量时,才进行批量写入和刷新操作。这样可以减少网络传输的次数,提高写入性能。可以根据实际情况调整批量写入的阈值。
3. 多线程并发写入:可以考虑使用多线程并发进行数据写入操作,以提高写入性能。可以将数据分成多个批次,每个批次由一个线程负责写入,然后再进行合并。
4. 使用异步写入:HBase提供了异步写入的功能,可以将写入操作放入异步队列中,在后台进行批量写入。这样可以减少等待时间,提高写入性能。
5. 调整HBase配置:根据实际情况,可以调整HBase的相关配置参数,如RPC重试策略、RPC重试暂停时间等,以优化写入性能。
需要根据具体的场景和需求进行优化,可以结合以上几点进行尝试,以提高写入HBase的性能。
阅读全文