mapduce java编写实现统计各性别的人数及他们的姓名—>(key:性别;value:count:xx,names:x1,x2,

时间: 2024-02-25 18:53:53 浏览: 31
好的,下面为您提供使用 Java 实现 MapReduce 统计各性别的人数及他们的姓名的代码。 首先,我们需要定义 Map 函数和 Reduce 函数的类,并实现它们的 map() 和 reduce() 方法。 Map 函数的实现如下所示: ``` public static class Map extends Mapper<LongWritable, Text, Text, TextArrayWritable> { private final static Text one = new Text("1"); public void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException { String[] fields = value.toString().split(","); String gender = fields[1].trim(); String name = fields[0].trim(); TextArrayWritable data = new TextArrayWritable(new String[]{one.toString(), name}); context.write(new Text(gender), data); } } ``` Reduce 函数的实现如下所示: ``` public static class Reduce extends Reducer<Text, TextArrayWritable, Text, TextArrayWritable> { public void reduce(Text key, Iterable<TextArrayWritable> values, Context context) throws IOException, InterruptedException { int count = 0; List<String> names = new ArrayList<String>(); for (TextArrayWritable val : values) { String[] fields = val.toStrings(); count += Integer.parseInt(fields[0]); names.add(fields[1]); } TextArrayWritable result = new TextArrayWritable(new String[]{ Integer.toString(count), StringUtils.join(names, ",") }); context.write(key, result); } } ``` 在 Map 函数中,我们首先从输入数据中提取出性别和姓名两个字段,然后将姓名和计数器 1 组成一个 TextArrayWritable 对象,并将性别作为键,TextArrayWritable 对象作为值输出。 在 Reduce 函数中,我们遍历每个键对应的所有值,将计数器累加起来,并将姓名记录到一个列表中。最后,我们将累加的计数和姓名列表一起输出。 最后,我们还需要编写一个主程序来启动 MapReduce 作业,并设置输入和输出路径。主程序的实现如下所示: ``` public static void main(String[] args) throws Exception { Configuration conf = new Configuration(); Job job = Job.getInstance(conf, "gender count"); job.setJarByClass(GenderCount.class); job.setMapperClass(Map.class); job.setReducerClass(Reduce.class); job.setOutputKeyClass(Text.class); job.setOutputValueClass(TextArrayWritable.class); job.setInputFormatClass(TextInputFormat.class); job.setOutputFormatClass(TextOutputFormat.class); FileInputFormat.addInputPath(job, new Path(args[0])); FileOutputFormat.setOutputPath(job, new Path(args[1])); job.waitForCompletion(true); } ``` 在主程序中,我们首先创建一个 Job 对象,并将 Map 函数和 Reduce 函数的类设置为该 Job 对象的 Mapper 和 Reducer。然后,我们还需要设置输入和输出的数据格式、输入和输出的路径等信息。最后,我们启动 MapReduce 作业并等待其完成。 以上就是使用 Java 实现 MapReduce 统计各性别的人数及他们的姓名的全部代码。希望对您有所帮助!

相关推荐

最新推荐

recommend-type

java8 stream 操作map根据key或者value排序的实现

主要介绍了java8 stream 操作map根据key或者value排序的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
recommend-type

Java Map 通过 key 或者 value 过滤的实例代码

主要介绍了Java Map 通过 key 或者 value 过滤的实例代码,非常不错,具有一定的参考借鉴价值,需要的朋友可以参考下
recommend-type

Java Map如何根据key取value以及不指定key取出所有的value

主要介绍了Java Map如何根据key取value以及不指定key取出所有的value,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
recommend-type

记录无法安装mysql-Invalid GPG Key from file:/etc/pki/rpm-gpg/RPM-GPG-KEY-mysql的解决办法

在aliyun上安装MySQL时由于上次错误卸载mysql 导致校验文件出问题。下面小编给大家分享记录无法安装mysql-Invalid GPG Key from file:/etc/pki/rpm-gpg/RPM-GPG-KEY-mysql的解决方法,需要的朋友参考下吧
recommend-type

mysql error:#1062 Duplicate entry ‘***′ for key 1问题解决方法

今天公司的一个网站突然提示MySQL Error Duplicate entry '96624' for key 1错误,经过分析这个问题是由于mysql表中的一个id自增长字段导致。
recommend-type

zigbee-cluster-library-specification

最新的zigbee-cluster-library-specification说明文档。
recommend-type

管理建模和仿真的文件

管理Boualem Benatallah引用此版本:布阿利姆·贝纳塔拉。管理建模和仿真。约瑟夫-傅立叶大学-格勒诺布尔第一大学,1996年。法语。NNT:电话:00345357HAL ID:电话:00345357https://theses.hal.science/tel-003453572008年12月9日提交HAL是一个多学科的开放存取档案馆,用于存放和传播科学研究论文,无论它们是否被公开。论文可以来自法国或国外的教学和研究机构,也可以来自公共或私人研究中心。L’archive ouverte pluridisciplinaire
recommend-type

MATLAB图像处理算法宝典:从理论到实战

![MATLAB图像处理算法宝典:从理论到实战](https://img-blog.csdnimg.cn/20200717112736401.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2d1emhhbzk5MDE=,size_16,color_FFFFFF,t_70) # 1. MATLAB图像处理基础理论 MATLAB图像处理是一种利用MATLAB编程语言进行图像处理的强大工具。它提供了丰富的函数和工具箱,用于图像获取、增强、分
recommend-type

matlab中1/x的非线性规划

在MATLAB中,可以使用非线性规划函数(`fmincon`)来优化一个包含1/x的非线性目标函数。下面是一个简单的例子: ```matlab % 定义目标函数 fun = @(x) 1/x; % 定义约束函数(这里没有约束) nonlcon = []; % 定义初始点 x0 = 1; % 定义优化选项 options = optimoptions('fmincon', 'Display', 'iter'); % 进行非线性规划 [x, fval] = fmincon(fun, x0, [], [], [], [], [], [], nonlcon, options); ``` 在
recommend-type

JSBSim Reference Manual

JSBSim参考手册,其中包含JSBSim简介,JSBSim配置文件xml的编写语法,编程手册以及一些应用实例等。其中有部分内容还没有写完,估计有生之年很难看到完整版了,但是内容还是很有参考价值的。