Tachyon CentOS 7 安装与Hadoop 2.6 教程

需积分: 9 9 下载量 129 浏览量 更新于2024-09-12 2 收藏 2.38MB DOCX 举报
本篇教程详细介绍了在CentOS 7系统环境下安装并使用Tachyon的过程,包括对所需软件环境的设置和配置。首先,你需要确保你的系统已安装了Java Development Kit (JDK) 1.7.0_79,Hadoop 2.6版本以及Maven 3.3.9。Thrift 0.9.2版本的安装也是必需的,因为它是Tachyon依赖的通信框架。 安装步骤如下: 1. **JDK安装**: - 安装JDK1.7.0_79,确保其正确配置在系统路径中,可以通过`export MAVEN_HOME`指定Maven的安装路径,并将`mvn --version`命令添加到PATH中验证安装。 2. **Maven安装**: - 下载并解压Maven-3.3.9的二进制包,然后配置Maven本地仓库,通过`mvn archetype:generate`创建一个简单的项目结构。 3. **Thrift安装**: - 首先,使用`yum`安装必要的依赖工具,如autoconf、flex、bison和pkgconfig等。 - 然后,从OpenSUSE仓库下载autoconf,接着下载Thrift 0.9.2源码包,解压并执行`bootstrap.sh`脚本,配置编译选项(--enable-libs=no),最后编译和安装。 4. **Tachyon源码编译**: - 注意到官方Tachyon与Hadoop 1.0.x版本兼容,如果当前Hadoop版本不匹配,可能需要调整或使用兼容的版本进行编译。 - 将Tachyon源代码解压后,进入目录,按照官方文档的指导进行编译,这通常涉及运行`./configure`,然后执行`make`和`sudo make install`。 5. **集群配置**: - Tachyon集群的配置涉及到网络设置、数据存储策略、安全设置等多个方面,通常需要在Tachyon的配置文件(如`conf/tachyon-site.properties`)中进行详细配置,并确保与Hadoop集群的集成配置正确无误。 6. **使用Tachyon**: - 安装完成后,你可以通过编写客户端代码来使用Tachyon服务。Tachyon提供了一套API,允许你像访问本地文件系统一样访问分布式存储。 7. **版本管理**: - 官方提供的Tachyon版本可能并不总是最新,根据需求可以选择合适的稳定版本或自行编译从GitHub获取的最新版本。 这篇教程为你提供了一个完整的Tachyon安装和使用指南,从基础环境搭建到实际操作,确保你能够顺利地在Hadoop环境中部署和利用Tachyon的高性能、低延迟的数据缓存服务。
391 浏览量
Tachyon是一个分布式内存文件系统,可以在集群里以访问内存的速度来访问存在tachyon里的文件。把Tachyon是架构在最底层的分布式文件存储和上层的各种计算框架之间的一种中间件。主要职责是将那些不需要落地到DFS里的文件,落地到分布式内存文件系统中,来达到共享内存,从而提高效率。同时可以减少内存冗余,GC时间等。        特性:类 Java 的文件 API兼容性:实现 Hadoop 文件系统接口可插入式的底层文件系统内建 Raw 原生表的支持基于 Web 的 UI 提供命令行接口Tachyon 架构:与 HDFS 的比较:        Hadoop足够快吗?美国加州大学伯克利分校的AMPLab基于Hadoop的核心组件开发出一个更快的版本Tachyon。AMPLab从底层重建了Hadoop平台,“没有最快,只有更快”。        AMPLab在大数据领域最知名的产品是Spark,它是一个内存中并行处理的框架,Spark的创造者声称:使用Shark运行并行处理Job速度要比MapReduce快100倍。又因为Spark是在内存运行,所以Shark可与Druid或者SAP's HANA系统一较高下。Spark也为ClearStory下一代分析和可视化服务提供处理引擎。如果你喜欢用Hive作为Hadoop的数据仓库,那么你一定会喜欢Shark,因为它代表了“Hive on Spark”。       AMPLab的最新目标就是Hadoop分布式文件系统(HDFS),不过HDFS在可用性和速度方面一直受人诟病,所以AMPLab创建了Tachyon( 在High Scalability上非常夺目,引起了Derrick Harris的注意)。       当然,AMPLab并不是第一个对HDFS提出质疑的组织,同时也有很多商业版本可供选择,像Quantcast就自己开发了开源文件系统,声称其在运行大规模文件系统时速度更快、更高效。诚然,AMPLab所做的工作就是打破现有商业软件的瓶颈限制。如果碰巧破坏了现状,那么就顺其自然吧!不过,对于用户来说,AMPLab只是为那些寻找合适工具的人员提供了一种新的选择,AMPLab的合作伙伴和赞助商包括谷歌,Facebook,微软和亚马逊网络服务,它们当然非常乐意看到这些新技术,如果很有必要的话。       AMPLab的其他项目包括PIQL,类似于一种基于键/值存储的SQL查询语言;MLBase,基于分布式系统的机器学习系统;Akaros,一个多核和大型SMP系统的操作系统;Sparrow,一个低延迟计算集群调度系统。Tachyon可运行在如下任意平台上: 标签:分布式  文件系统