hadoop集群迁移
创始人
2024-02-22 08:58:29
0

集群迁移

主要是要找到两个集群中active状态的namenode

集群迁移不同于服务器之间的文件发送,在hdfs中,文件是以块的形式,只可以通过namenode访问文件,所以迁移时需要通过hadoop命令

主要命令是distcp

distcp有很多参数,如果是第一次备份,也就是目标集群中没有数据,第一次可以用overwrite,如果是定期备份,可以使用diff,如果是目标文件追加数据,可以用append

迁移命令

hadoop distcp -overwrite hdfs://host1:50070/apps/hive/warehouse hdfs://host2:50070/apps/hive/warehouse

错位信息:

 

地址端口有问题

查看两个机器的hosts

cat /etc/hosts

发现均配置了ip映射,由于同处一个内网环境,ip和端口互通

50070是namenode的http服务端口

8020是namenode的内部通信端口

修改迁移命令,再次提交

hadoop distcp -overwrite hdfs://host1:8020/apps/hive/warehouse hdfs://host2:8020/apps/hive/warehouse

控制台阻塞

 

由于cpu资源占用,任务提交后阻塞

相关内容

热门资讯

女子连续多日向“出轨”丈夫公开... 近日,河南一女子牛某从1月12日起连续多日在短视频平台发布向“出轨”丈夫“道歉”的视频,引发网友的广...
2026沈阳继承纠纷律师排行榜... 在沈阳,遇到继承纠纷时,选对律师往往能少走很多弯路。无论是房产分割、存款分配,还是遗嘱效力争议,专业...
福建福州延长“新福卡”应届毕业... IT之家 1 月 17 日消息,福建省福州市自 2022 年 11 月出台“新福卡”应届毕业生优惠政...
中国人民银行 国家金融监督管理... 本文转自【中国人民银行】; 为贯彻落实党中央、国务院决策部署,适应我国房地产市场供求关系的新变化,支...
财经态度丨央行宣布推出多项金融... 央广网北京1月17日消息(记者李硕)据中央广播电视总台经济之声《交易实况》报道,在1月15日国务院新...
两部门发布关于调整商业用房购房... 原标题:中国人民银行国家金融监督管理总局关于调整商业用房购房贷款最低首付款比例政策的通知 为贯彻落实...
私占公共区域堆放的杂物被清理,... 堆在地下室的废旧物品 怎样提示都无人认领 被物业清走后的第二天 却有人报警…… 物业返还后的...
原创 菲... 菲律宾最近的外交动作引发了外界的关注。1月15日,菲律宾外交部突然宣布,自2026年1月16日起,中...
情感纠纷长达20余年?编剧汪海... 1月17日,编剧汪海林在个人社交平台发文,爆料2002年拍摄《真情告别》期间,演员保剑锋被当时女友黄...