LinuxHadoop环境
创始人
2024-04-12 06:53:24
0

Hadoop环境

  • Hadoop集群拓扑
      • 1、集群拓扑
      • 2、角色分配
  • 一、虚拟机安装
  • 二、虚拟机克隆
    • 1、克隆类型
      • (1)完整克隆
      • (2)链接克隆
    • 2、克隆步骤
      • (1)克隆出master虚拟机
      • (2)克隆出slave1虚拟机
      • (3)克隆出slave2虚拟机
  • 三 、虚拟机配置
    • 1、配置master虚拟机
      • (1)设置主机名
      • (2)设置静态IP地址
      • (3)配置主机名与IP地址映射
    • 2、配置slave1虚拟机
      • (1)设置主机名
      • (2)设置静态IP地址
  • 四、关闭SeLinux安全机制
    • 1、在master虚拟机上关闭SeLinux安全机制
    • 2、在slave1虚拟机上关闭SeLinux安全机制
    • 3、在slave2虚拟机上关闭SeLinux安全机制

Hadoop集群拓扑

1、集群拓扑

一个主节点,两个从节点

2、角色分配

完全分布式Hadoop集群搭建需要在集群的每个节点都安装Hadoop,集群角色分配如下表所示。

节点角色
masterNameNode, DataNode
slave1DataNode
slave2DataNode

一、虚拟机安装

安装虚拟机CentOS 7

  • 配置了静态IP地址(192.168.1.100)和主机名(ied)
    请添加图片描述

  • 关闭与禁用了防火墙
    请添加图片描述

  • 安装了vim编辑器
    请添加图片描述

二、虚拟机克隆

1、克隆类型

(1)完整克隆

  • 完整克隆是对原始虚拟机完全独立的一个拷贝,它不和原始虚拟机共享任何资源,可以脱离原始虚拟机独立使用。

(2)链接克隆

  • 链接克隆需要和原始虚拟机共享同一虚拟磁盘文件,不能脱离原始虚拟机独立运行。但是采用共享磁盘文件可以极大缩短创建克隆虚拟机的时间,同时还节省物理磁盘空间。

2、克隆步骤

(1)克隆出master虚拟机

  • 关闭CentOS 7虚拟机,在VMware工具左侧系统资源库中右键单击CentOS 7,选择“管理”列表下的“克隆”选项,弹出克隆虚拟机向导。
    请添加图片描述
    请添加图片描述

  • 选择克隆源——虚拟机中的当前状态
    请添加图片描述

  • 选择克隆类型——创建链接克隆
    请添加图片描述

  • 设置新虚拟机名称和位置
    请添加图片描述

  • 单击【完成】按钮
    请添加图片描述

  • 单击【关闭】,查看master虚拟机
    请添加图片描述

(2)克隆出slave1虚拟机

  • 按照克隆master虚拟机的步骤克隆出slave1虚拟机
    请添加图片描述

(3)克隆出slave2虚拟机

  • 按照克隆master虚拟机的步骤克隆出slave2虚拟机
    请添加图片描述

三 、虚拟机配置

1、配置master虚拟机

  • 启动master虚拟机
    请添加图片描述

(1)设置主机名

  • 执行命令:hostnamectl set-hostname master
    请添加图片描述

  • 重启虚拟机,提示符变成[root@master ~]#
    请添加图片描述

(2)设置静态IP地址

  • 查看IP地址可选范围
    请添加图片描述

  • 查看网关配置
    请添加图片描述

  • 执行命令:vim /etc/sysconfig/network-scripts/ifcfg-ens33
    请添加图片描述

  • 存盘退出,执行命令:systemctl restart network
    请添加图片描述

  • 执行命令:ip addr,查看设置的静态IP地址
    请添加图片描述

(3)配置主机名与IP地址映射

  • 执行命令:vim /etc/hosts,添加三个映射(集群有三个虚拟机)
    请添加图片描述

  • 存盘退出,验证配置效果
    请添加图片描述

2、配置slave1虚拟机

  • 启动slave1虚拟机
    请添加图片描述

(1)设置主机名

  • 执行命令:hostnamectl set-hostname slave1
    请添加图片描述

  • 重启虚拟机,提示符变成[root@slave1~]#
    请添加图片描述

(2)设置静态IP地址

  • 执行命令:vim /etc/sysconfig/network-scripts/ifcfg-ens33
    请添加图片描述

  • 存盘退出,执行命令:systemctl restart network
    请添加图片描述

  • 执行命令:ip addr,查看设置的静态IP地址
    请添加图片描述

(3)配置主机名与IP地址映射

  • 执行命令:vim /etc/hosts,添加三个映射(集群有三个虚拟机)
    请添加图片描述

  • 存盘退出,验证配置效果

  • slave1虚拟机可以通过主机名来ping通master虚拟机和slave1虚拟机
    请添加图片描述

  • master虚拟机可以通过主机名来ping通slave1虚拟机
    请添加图片描述

3、配置slave2虚拟机

  • 启动slave2虚拟机

操作与slave1相同

  • slave2虚拟机可以通过主机名来ping通master虚拟机、slave1虚拟机和slave2虚拟机
    请添加图片描述

  • master虚拟机可以通过主机名来ping通slave1虚拟机和slave2虚拟机
    请添加图片描述

四、关闭SeLinux安全机制

  • 安全增强型 Linux(Security-Enhanced Linux)简称 SELinux,它是一个 Linux 内核模块,也是 Linux 的一个安全子系统。
  • SELinux 主要作用就是最大限度地减小系统中服务进程可访问的资源(最小权限原则)。
  • SELinux 有三种工作模式,分别是enforcing:强制模式;permissive:宽容模式;disabled:关闭 SELinux。
  • /etc/sysconfig/selinux 文件里SELINUX=enforcing,将enforcing改成disabled,就可以关闭SeLinux安全机制

1、在master虚拟机上关闭SeLinux安全机制

  • 执行命令:vim /etc/sysconfig/selinux
    请添加图片描述

2、在slave1虚拟机上关闭SeLinux安全机制

  • 执行命令:vim /etc/sysconfig/selinux
    请添加图片描述

3、在slave2虚拟机上关闭SeLinux安全机制

  • 执行命令:vim /etc/sysconfig/selinux

请添加图片描述

相关内容

热门资讯

和解方案遭拒:多位作家再次起诉... 此次起诉作家的部分作品。 据《出版人周刊》报道,近期六位作家分别针对Anthropic、OpenAI...
欧林生物(688319)披露涉... 截至2025年12月30日收盘,欧林生物(688319)报收于25.32元,较前一交易日下跌0.74...
高新发展:华惠嘉悦汇广场合同纠... 观点网讯:12月30日,成都高新发展股份有限公司(高新发展)发布公告,披露其全资子公司成都倍特建筑安...
我国首例AI幻觉引发的侵权纠纷... 12月29日晚,杭州互联网法院公开了一起关于AI幻觉的网络侵权纠纷案的审判情况。 2025年6月,...
原创 滨... 鲁网12月30日讯12月29日,滨州市召开高质量完成“十四五”规划主题系列新闻发布会第五场——“平安...
制度供给,邮轮经济有了“上海模... 图为吴淞口国际邮轮港,今年前三季度,靠泊邮轮177艘次,占全国市场六成。/采访对象提供 邮轮经济产业...
西藏深耕新时代“枫桥经验” 多... 中新网拉萨12月30日电 (贡嘎来松)30日,西藏自治区司法厅召开西藏自治区调解工作基本情况新闻发布...
浦东建设(600284)披露修... 截至2025年12月30日收盘,浦东建设(600284)报收于8.55元,较前一交易日上涨1.06%...
中钢国际(000928)发布现... 截至2025年12月30日收盘,中钢国际(000928)报收于6.56元,较前一交易日下跌1.5%,...