Mac下安装Hadoop
创始人
2024-02-28 08:38:02
0

1、引言

 

如果想在Mac下安装Hadoop而且让Hadoop能正常运行,那安装之前需要先安装java,在Mac环境下安装Hadoop

2、配置ssh环境

Mac下如果想使用Hadoop,必须要配置ssh环境, 如果不执行这一步,后面启动hadoop时会出现Connection refused连接被拒绝的错误。

首先终端命令框输入:

ssh localhost

如果提示错误:

表示当前用户没有权限,更改设置如下:进入系统偏好设置 --> 共享 --> 勾选远程登录->勾选所有用户,如下图:

 再次输入ssh localhost会提示输入密码,这个时候要重新配置一下ssh免密登录。

① 进入ssh的目录:

 cd ~/.ssh

② 将id_rsa.pub中的内容拷贝到 authorized_keys中:

cat id_rsa.pub >> authorized_keys

 操作成功:

3、安装与配置Hadoop 

1. 使用brew命令安装(这里没有指定版本,安装的是最新版的hadoop):

brew install hadoop

2. 查看是否安装成功:

hadoop version

如果显示如下界面,表示安装成功,可以看到版本号为3.3.1:

3. 进入hadoop的目录:

cd /opt/homebrew/Cellar/hadoop/3.3.1/libexec/etc/hadoop 

 4. 修改core-site.xml

fs.defaultFShdfs://localhost:8020hadoop.tmp.dirfile:/opt/homebrew/Cellar/hadoop/tmp

5. 修改hdfs-site.xml,配置namenodedatanode

dfs.replication1dfs.permissionsfalse    dfs.namenode.name.dirfile:/opt/homebrew/Cellar/hadoop/tmp/dfs/namedfs.datanode.data.dirfile:/opt/homebrew/Cellar/hadoop/tmp/dfs/datadfs.namenode.http.addresshttp://localhost:9870

6. 修改 mapred-site.xml

mapreduce.framework.nameyarnmapred.job.trackerlocalhost:9010yarn.app.mapreduce.am.envHADOOP_MAPRED_HOME=/opt/homebrew/Cellar/hadoop/3.3.1/libexecmapreduce.map.envHADOOP_MAPRED_HOME=/opt/homebrew/Cellar/hadoop/3.3.1/libexecmapreduce.reduce.envHADOOP_MAPRED_HOME=//opt/homebrew/Cellar/hadoop/3.3.1/libexec

 7. 修改yarn-site.xml:

yarn.nodemanager.aux-servicesmapreduce_shuffleyarn.resourcemanager.addresslocalhost:9000 yarn.scheduler.capacity.maximum-am-resource-percent100

8. 配置环境变量

  

 配置完需要执行source ~/.bash_profile,使其生效

export HADOOP_HOME=/opt/homebrew/Cellar/hadoop/3.3.1/libexec
export HADOOP_COMMON_HOME=$HADOOP_HOME
export PATH=$JAVA_HOME/bin:$PATH:$HADOOP_HOME/bin:/opt/homebrew/Cellar/scala/bin

9. 初始化

在terminal输入 hdfs namenode -format
(只初次启动需要)

4、启动Hadoop并验证

4.1、启动Hadoop

1. hadoop :

cd /opt/homebrew/Cellar/hadoop/3.3.1/libexec/sbin
./start-dfs.sh

2. 浏览器中输入http://localhost:9870/,出现以下界面就说明成功了: 

 3. 浏览器中打开http://localhost:8088/就会出现下图的界面:

 

相关内容

热门资讯

原创 戴... 最近,关于前国脚戴琳的欠薪丑闻无疑是引发了球迷的持续关注,从10月25日,媒体人李平康率先爆料,晒出...
思想政治工作条例最新修订内容,... 思想政治工作条例最新修订内容,思想政治工作条例全文下载 思想政治工作条例最新修订,全文下载与深度解读...
CBA潜力赛为何打成“老将赛”... 计时钟归零,双方教练握手致意,观众开始退场,CBA联赛的正赛宣告结束。然而球场并未就此沉寂,替补席上...
“手术钻头断裂遗留患者体内”,... 12月21日,湖南祁阳市卫生健康局发布情况通报称,近日,有媒体报道祁阳市中医医院发生骨科手术钻头断裂...
代驾纠纷 代驾时撞伤行人、车辆发生故障…… 这些都和车主无关,应由代驾赔偿? 观点: 使用代驾服务并非将所有...
公司股东与妻子分居期间出轨女下... 近日据报道,宁夏永宁县人民法院一审查明公司股东李某乙在与妻子李某甲分居期间,与公司女员工马某某存在不...
动物学家、律师和创作者,Thi... 12月21日,以“一起·了不起”为主题的2025 ThinkPad黑FUN礼在京举办。活动现场,律师...
徐奇渊:扩内需与对外政策紧密相... 近日,中国海关总署发布了一组数据令人关注:2025年前11个月,我国货物贸易顺差达到1.08万亿美元...
46岁上海独居女子不幸离世,官... 居住在上海虹口区46岁的蒋女士因突发脑溢血于今年10月入院,远亲吴先生与其公司共同垫付了医药费,但她...