Hadoop2.X的环境怎么配置
一、安装Hadoop2.X
1、安装JDK,Hadoop2.X要求JDK版本在1.7以上,安装完成后配置环境变量,使用java -version检查安装是否成功。
2、下载Hadoop2.X,从官网下载tar包,解压后配置环境变量,使用hadoop version检查安装是否成功。
3、配置Hadoop2.X,编辑hadoop-env.sh,设置JAVA_HOME,编辑core-site.xml,设置HDFS的NameNode节点的地址,编辑hdfs-site.xml,设置HDFS的DataNode节点的地址,编辑mapred-site.xml,设置MapReduce的JobTracker节点的地址和TaskTracker节点的地址,编辑yarn-site.xml,设置Yarn的ResourceManager节点的地址和NodeManager节点的地址。
二、启动Hadoop2.X
1、启动NameNode,使用hadoop-daemon.sh start namenode启动NameNode,使用jps检查NameNode是否启动成功。
2、启动DataNode,使用hadoop-daemon.sh start datanode启动DataNode,使用jps检查DataNode是否启动成功。
3、启动JobTracker,使用hadoop-daemon.sh start jobtracker启动JobTracker,使用jps检查JobTracker是否启动成功。
4、启动TaskTracker,使用hadoop-daemon.sh start tasktracker启动TaskTracker,使用jps检查TaskTracker是否启动成功。
三、验证Hadoop2.X
1、使用hadoop fs -ls /查看HDFS根目录,如果能够正确显示出HDFS的根目录,说明HDFS已经正确启动。
2、使用hadoop jar xxx.jar xxx.class提交一个MapReduce任务,如果能够正确执行,说明MapReduce已经正确启动。
3、使用hadoop jar xxx.jar xxx.class -Dmapred.job.tracker=xxx:9001提交一个MapReduce任务,如果能够正确执行,说明Yarn已经正确启动。
猜您想看
-
如何在宝塔面板中配置Session共享?
如何在宝塔面板...
2023年04月16日 -
Tomcat NIO中epoll多路复用是什么意思
epoll多路...
2023年07月21日 -
MAC怎么安装Rust环境
1. 安装Ho...
2023年05月25日 -
AnyShare Family 7是怎样解决海量小文件备份难题
解决海量小文件...
2023年07月22日 -
LSM树在HBase中怎么应用
LSM树在HB...
2023年07月21日 -
如何深入分析Kafka架构的工作流程、存储机制、分区策略
一、Kafka...
2023年05月25日