hadoop中实现中实现java网络爬虫网络爬虫(示例讲解示例讲解)
下面小编就为大家带来一篇hadoop中实现java网络爬虫(示例讲解)。小编觉得挺不错的，现在就分享给大家，也
给大家做个参考。一起跟随小编过来看看吧
这一篇网络爬虫的实现就要联系上大数据了。在前两篇java实现网络爬虫和heritrix实现网络爬虫的基础上，这一次是要完整的
做一次数据的收集、数据上传、数据分析、数据结果读取、数据可视化。
需要用到需要用到
Cygwin：一个在windows平台上运行的类UNIX模拟环境，直接网上搜索下载，并且安装；
Hadoop：配置Hadoop环境，实现了一个分布式文件系统（Hadoop Distributed File System），简称HDFS，用来将收集的数
据直接上传保存到HDFS，然后用MapReduce分析；
Eclipse：编写代码，需要导入hadoop的jar包，以可以创建MapReduce项目；
Jsoup：html的解析jar包，结合正则表达式能更好的解析网页源码；
----->
目录：目录：
1、配置、配置Cygwin
2、配置、配置Hadoop黄静黄静
3、、Eclipse开发环境搭建开发环境搭建
4、网络数据爬取（、网络数据爬取（jsoup））
-------->
1、安装配置、安装配置Cygwin
从官方网站下载Cygwin 安装文件，地址：https://cygwin.com/install.html
下载运行后进入安装界面。
安装时直接从网络镜像中下载扩展包，至少需要选择ssh和ssl支持包
安装后进入cygwin控制台界面，
运行ssh-host-config命令，安装SSH
输入：no，yes，ntsec，no，no
注意：win7下需要改为yes，yes，ntsec，no，yes，输入密码并确认这个步骤
完成后会在windows操作系统中配置好一个Cygwin sshd服务，启动该服务即可。
然后要配置ssh免密码登陆
重新运行cygwin。
执行ssh localhost，会要求使用密码进行登陆。
使用ssh-keygen命令来生成一个ssh密钥，一直回车结束即可。
生成后进入.ssh目录，使用命令：cp id_rsa.pub authorized_keys 命令来配置密钥。
之后使用exit退出即可。
重新进入系统后，通过ssh localhost就可以直接进入系统，不需要再输入密码了。
2、配置、配置Hadoop环境环境
修改hadoop-env.sh文件，加入JDK安装目录的JAVA_HOME位置设置。
# The java implementation to use. Required.
weixin_38627104
- 粉丝: 1
- 资源: 984
我的内容管理
收起
- 我的资源
快来上传第一个资源
我的收益 登录查看自己的收益
我的积分
登录查看自己的积分
我的C币
登录后查看C币余额
我的收藏 
我的下载 
下载帮助
会员权益专享
最新资源
- BSC关键绩效财务与客户指标详解
- 绘制企业战略地图：从财务到客户价值的六步法
- BSC关键绩效指标详解：财务与运营效率评估
- 手持移动数据终端：常见问题与WIFI设置指南
- 平衡计分卡（BSC）：绩效管理与战略实施工具
- ESP8266智能家居控制系统设计与实现
- ESP8266在智能家居中的应用——网络家电控制系统
- BSC：平衡计分卡在绩效管理与信息技术中的应用
- 手持移动数据终端：常见问题与解决办法
- BSC模板：四大领域关键绩效指标详解(财务、客户、运营与成长)
- BSC：从绩效考核到计算机网络的关键概念
- BSC模板：四大维度关键绩效指标详解与预算达成分析
- 平衡计分卡（BSC）：绩效考核与战略实施工具
- K-means聚类算法详解及其优缺点
- 平衡计分卡（BSC）：从绩效考核到战略实施
- BSC：平衡计分卡与计算机网络中的应用
资源上传下载、课程学习等过程中有任何疑问或建议，欢迎提出宝贵意见哦~我们会及时处理！
点击此处反馈
