通过mapreduce实现实训数据是国家电网监控系统监测到的用户用电情况(每15分钟监测一次),其样例数据结构如表3.1所示,利用大数据技术编写程序实现定期从本地系统上传数据到大数据集群,按照地域对每个月的用电总量进行统计,并且统计各地域每个月的城市用电、农村和山区用电的比例的源码

时间: 2024-03-31 12:38:32 浏览: 15
以下是一个简单的MapReduce程序实现,可以实现上述要求: Mapper部分: ```java public class ElectricityMapper extends Mapper<Object, Text, Text, IntWritable> { private final static IntWritable electricity = new IntWritable(); private Text area = new Text(); public void map(Object key, Text value, Context context) throws IOException, InterruptedException { String[] fields = value.toString().split(","); if (fields.length >= 5) { String month = fields[2].substring(0, 7); area.set(fields[4]); electricity.set(Integer.parseInt(fields[3])); context.write(new Text(area.toString() + "," + month), electricity); } } } ``` Reducer部分: ```java public class ElectricityReducer extends Reducer<Text, IntWritable, Text, Text> { private Text result = new Text(); public void reduce(Text key, Iterable<IntWritable> values, Context context) throws IOException, InterruptedException { int sum = 0; int cityElectricity = 0; int countryElectricity = 0; int mountainElectricity = 0; for (IntWritable val : values) { sum += val.get(); String areaType = key.toString().split(",")[0]; switch (areaType) { case "城市": cityElectricity += val.get(); break; case "农村": countryElectricity += val.get(); break; case "山区": mountainElectricity += val.get(); break; default: break; } } String[] fields = key.toString().split(","); String month = fields[1]; String area = fields[0]; double cityPercentage = (double) cityElectricity / sum; double countryPercentage = (double) countryElectricity / sum; double mountainPercentage = (double) mountainElectricity / sum; result.set("总用电量:" + sum + ",城市用电比例:" + cityPercentage + ",农村用电比例:" + countryPercentage + ",山区用电比例:" + mountainPercentage); context.write(new Text(area + "," + month), result); } } ``` Driver部分: ```java public class ElectricityDriver { public static void main(String[] args) throws Exception { Configuration conf = new Configuration(); Job job = Job.getInstance(conf, "electricity analysis"); job.setJarByClass(ElectricityDriver.class); job.setMapperClass(ElectricityMapper.class); job.setReducerClass(ElectricityReducer.class); job.setOutputKeyClass(Text.class); job.setOutputValueClass(IntWritable.class); FileInputFormat.addInputPath(job, new Path(args[0])); FileOutputFormat.setOutputPath(job, new Path(args[1])); System.exit(job.waitForCompletion(true) ? 0 : 1); } } ``` 可以将上述代码保存为Java文件,通过Hadoop环境编译和运行即可实现上述需求。其中,需要将输入文件和输出路径作为参数传递给程序。

相关推荐

最新推荐

recommend-type

java大数据作业_5Mapreduce、数据挖掘

课后作业 ...5.简述mapreduce流程 6.简述二次排序算法 有输入数据如下所示: 1 2 2 3 2 1 4 6 3 1 3 8 3 2 需要使用二次排序算法,得到如下处理结果: 1 2 2 1 2 3 3 1 3 2 3 8 4 6 请简述处理过程
recommend-type

基于MapReduce实现决策树算法

主要为大家详细介绍了基于MapReduce实现决策树算法,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
recommend-type

第二章 分布式文件系统HDFS+MapReduce(代码实现检查文件是否存在&WordCount统计).docx

第二章 分布式文件系统HDFS+MapReduce(代码实现检查文件是否存在&WordCount统计),课程依赖上一个章节:第一章 大数据安装教程(Virtual&ubuntu&hadoop单机)
recommend-type

Hadoop大数据实训,求最高温度最低温度实验报告

(2)MapReduce输出结果包含年份、最高气温、最低气温,并按最高气温降序排序。如果最高气温相同,则按最低气温升序排序。 (3)使用自定义数据类型。 (4)结合Combiner和自定义数据类型完成全球每年最高气温和最低气温的...
recommend-type

使用python实现mapreduce(wordcount).doc

Python实现MapReduce的WordCount(hadoop平台)在进行大数据处理时,JAVA程序用的较多,但是,想要把深度学习算法用到MapReduce中,Python是深度学习和数据挖掘处理数据较为容易的语言,所以基于以上考虑,本文介绍...
recommend-type

zigbee-cluster-library-specification

最新的zigbee-cluster-library-specification说明文档。
recommend-type

管理建模和仿真的文件

管理Boualem Benatallah引用此版本:布阿利姆·贝纳塔拉。管理建模和仿真。约瑟夫-傅立叶大学-格勒诺布尔第一大学,1996年。法语。NNT:电话:00345357HAL ID:电话:00345357https://theses.hal.science/tel-003453572008年12月9日提交HAL是一个多学科的开放存取档案馆,用于存放和传播科学研究论文,无论它们是否被公开。论文可以来自法国或国外的教学和研究机构,也可以来自公共或私人研究中心。L’archive ouverte pluridisciplinaire
recommend-type

实现实时数据湖架构:Kafka与Hive集成

![实现实时数据湖架构:Kafka与Hive集成](https://img-blog.csdnimg.cn/img_convert/10eb2e6972b3b6086286fc64c0b3ee41.jpeg) # 1. 实时数据湖架构概述** 实时数据湖是一种现代数据管理架构,它允许企业以低延迟的方式收集、存储和处理大量数据。与传统数据仓库不同,实时数据湖不依赖于预先定义的模式,而是采用灵活的架构,可以处理各种数据类型和格式。这种架构为企业提供了以下优势: - **实时洞察:**实时数据湖允许企业访问最新的数据,从而做出更明智的决策。 - **数据民主化:**实时数据湖使各种利益相关者都可
recommend-type

机器学习怎么将excel转为csv文件

机器学习是一种利用计算机算法和统计数据的方法来训练计算机来进行自动学习的科学,无法直接将excel文件转为csv文件。但是可以使用Python编程语言来读取Excel文件内容并将其保存为CSV文件。您可以使用Pandas库来读取Excel文件,并使用to_csv()函数将其保存为CSV格式。以下是代码示例: ```python import pandas as pd # 读取 Excel 文件 excel_data = pd.read_excel('example.xlsx') # 将数据保存为 CSV 文件 excel_data.to_csv('example.csv', index=
recommend-type

JSBSim Reference Manual

JSBSim参考手册,其中包含JSBSim简介,JSBSim配置文件xml的编写语法,编程手册以及一些应用实例等。其中有部分内容还没有写完,估计有生之年很难看到完整版了,但是内容还是很有参考价值的。