如果想在Mac下安装Hadoop而且让Hadoop能正常运行,那安装之前需要先安装java,在Mac环境下安装Hadoop。
在Mac下如果想使用Hadoop,必须要配置ssh环境, 如果不执行这一步,后面启动hadoop时会出现Connection refused连接被拒绝的错误。
首先终端命令框输入:
ssh localhost
如果提示错误:
表示当前用户没有权限,更改设置如下:进入系统偏好设置 --> 共享 --> 勾选远程登录->勾选所有用户,如下图:
再次输入
ssh localhost会提示输入密码,这个时候要重新配置一下ssh免密登录。
① 进入ssh的目录:
cd ~/.ssh
② 将id_rsa.pub中的内容拷贝到 authorized_keys中:
cat id_rsa.pub >> authorized_keys
操作成功:
1. 使用brew命令安装(这里没有指定版本,安装的是最新版的hadoop):
brew install hadoop
2. 查看是否安装成功:
hadoop version
如果显示如下界面,表示安装成功,可以看到版本号为3.3.1:
3. 进入hadoop的目录:
cd /opt/homebrew/Cellar/hadoop/3.3.1/libexec/etc/hadoop
4. 修改core-site.xml:
fs.defaultFS hdfs://localhost:8020 hadoop.tmp.dir file:/opt/homebrew/Cellar/hadoop/tmp
5. 修改hdfs-site.xml,配置namenode和datanode:
dfs.replication 1 dfs.permissions false dfs.namenode.name.dir file:/opt/homebrew/Cellar/hadoop/tmp/dfs/name dfs.datanode.data.dir file:/opt/homebrew/Cellar/hadoop/tmp/dfs/data dfs.namenode.http.address http://localhost:9870
6. 修改 mapred-site.xml:
mapreduce.framework.name yarn mapred.job.tracker localhost:9010 yarn.app.mapreduce.am.env HADOOP_MAPRED_HOME=/opt/homebrew/Cellar/hadoop/3.3.1/libexec mapreduce.map.env HADOOP_MAPRED_HOME=/opt/homebrew/Cellar/hadoop/3.3.1/libexec mapreduce.reduce.env HADOOP_MAPRED_HOME=//opt/homebrew/Cellar/hadoop/3.3.1/libexec
7. 修改yarn-site.xml:
yarn.nodemanager.aux-services mapreduce_shuffle yarn.resourcemanager.address localhost:9000 yarn.scheduler.capacity.maximum-am-resource-percent 100
8. 配置环境变量
配置完需要执行source ~/.bash_profile,使其生效
export HADOOP_HOME=/opt/homebrew/Cellar/hadoop/3.3.1/libexec
export HADOOP_COMMON_HOME=$HADOOP_HOME
export PATH=$JAVA_HOME/bin:$PATH:$HADOOP_HOME/bin:/opt/homebrew/Cellar/scala/bin
9. 初始化
在terminal输入 hdfs namenode -format
(只初次启动需要)
1. hadoop :
cd /opt/homebrew/Cellar/hadoop/3.3.1/libexec/sbin
./start-dfs.sh
2. 浏览器中输入http://localhost:9870/,出现以下界面就说明成功了:
3. 浏览器中打开http://localhost:8088/就会出现下图的界面: