欢迎光临散文网 会员登陆 & 注册

快速搭建Hadoop环境

2021-04-19 09:44 作者:光耀三十洲  | 我要投稿

1、基础集群环境搭建

1.1安装jdk

a.上传jdk-8u151-linux-x64.tar.gz

b.解压到usr目录下

学习


学习更多,请点击:https://www.bilibili.com/video/BV1s64y1i77s

                              https://www.bilibili.com/video/BV17h411U7L7

                              https://www.bilibili.com/video/BV1m64y1S7Rx

                              https://www.bilibili.com/video/BV1c54y187xn

                              https://www.bilibili.com/video/BV1GB4y1A7ak

1.2、修改主机名称,关闭防火墙

1、root账号下使用命令:hostnamectl set-hostname hadoop02
2、Xshell关闭连接窗口,重新连接即可更改过来
3、关闭防火墙(CentOS7)

  • (1)firewall-cmd --state #查看防火墙状态

  • (2)systemctl stop firewalld.service #停止firewall

  • (3)systemctl disable firewalld.service #禁止firewall开机启动

1.3、添加内网域名映射[Centos ip地址静态化

1.4、配置免密码登录

1、在root登录状态下,输入命令 ssh-keygen 或者 ssh-keygen -t rsa
2、之后你会发现,在/root/.ssh 目录下生成了公钥文件

学习更多,请点击:https://www.bilibili.com/video/BV1s64y1i77s

                              https://www.bilibili.com/video/BV17h411U7L7

                              https://www.bilibili.com/video/BV1m64y1S7Rx

                              https://www.bilibili.com/video/BV1c54y187xn

                              https://www.bilibili.com/video/BV1GB4y1A7ak

这里写图片描述

3、使用一个简单的方式,使用命令:
注:自己也要给自己复制秘钥
生产秘钥的地方 和验证秘钥的路径不一样]
ssh-copy-id hadoop02
建立hadoop01到hadoop02的免密码登录

学习更多,请点击:https://www.bilibili.com/video/BV1s64y1i77s

                              https://www.bilibili.com/video/BV17h411U7L7

                              https://www.bilibili.com/video/BV1m64y1S7Rx

                              https://www.bilibili.com/video/BV1c54y187xn

                              https://www.bilibili.com/video/BV1GB4y1A7ak

这里写图片描述

2、Hadoop集群环境安装

2.1、Hadoop版本选择

1、Apache官方版本:
1.X
2.X 2.6.5 2.7.5 3.0.1
2、商业发行版本
提供完善的管理系统,修复bug可能会领先于官方版本
Cloudera公司的CDH:5.7.X

2.2、安装Hadoop

2.2.1、Hadoop伪分布式模式安装
Hadoop可以在单节点上以伪分布式的方式运行,Hadoop进程以分离的Java进程来运行,节点即作为NameNode也作为DataNode,同时,读取的是HDFS中的文件。

Hadoop的配置文件位于hadoop-2.7.5/etc/hadoop/文件夹中,伪分布式需要修改两个配置文件core-site.xml和hdfs-site.xml(其中hdfs-site.xml用来配置数据块的副本数量,对于伪分布式来说,不管你配置几个副本数量,它始终都只有一个副本,所以可以不用管)。Hadoop分配置文件是xml格式,每个配置文件以声明property的name和value的方式来实现

学习更多,请点击:https://www.bilibili.com/video/BV1s64y1i77s

                              https://www.bilibili.com/video/BV17h411U7L7

                              https://www.bilibili.com/video/BV1m64y1S7Rx

                              https://www.bilibili.com/video/BV1c54y187xn

                              https://www.bilibili.com/video/BV1GB4y1A7ak

1、修改hadoop-env.sh配置文件,添加jdk安装目录

7、检查是否启动成功
(1)利用jps工具检测各进程是否启动成功
(2)利用web UI 查看http://hadoop01:50070

这里写图片描述

学习更多,请点击:https://www.bilibili.com/video/BV1s64y1i77s

                              https://www.bilibili.com/video/BV17h411U7L7

                              https://www.bilibili.com/video/BV1m64y1S7Rx

                              https://www.bilibili.com/video/BV1c54y187xn

                              https://www.bilibili.com/video/BV1GB4y1A7ak


作者:蹊源的奇思妙想
链接:https://juejin.cn/post/6950918276536860686
来源:掘金
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。


快速搭建Hadoop环境的评论 (共 条)

分享到微博请遵守国家法律