Cloudera 集群升级 CDH

【原创】
本文作者：Denghui.Zhou，欢迎交流讨论。
原文链接：https://jianwi.com/articles/bigdata/cloudera/cdh_upgrade.html
版权声明：原创不易，转载请注明出处，谢谢！

详细升级步骤见官方文档：[ https://www.cloudera.com/documentation/enterprise/upgrade/topics/ug_cdh_upgrading_top.html ]。

1、升级流程

升级 CDH 集群
升级 CDH 集群步骤图：

CDH 升级架构图：

2、升级预备

检测 HDFS 文件系统，修正报告的问题

hdfs fsck / -includeSnapshots
hdfs dfsadmin -report

登录各节点，检测 HBase 表的一致性

hbase hbck

其它组件的预备详见官方文档：[ https://www.cloudera.com/documentation/enterprise/upgrade/topics/ug_cdh_upgrade_before.html ]。

3、备份

备份各数据库
数据库备份见 Cloudera集群升级Cloudera Manager 一文中的数据库备份章节。

备份 Zookeeper
所有 Zookeeper 实例节点都需要备份

cp -rp /var/lib/zookeeper/ /var/lib/zookeeper-CM6.0.0-CDH5.12

备份 HDFS
如果启用了高可用模式，在各个 JournalNode 节点主机运行如下命令

# journal节点目录，dfs.journalnode.edits.dir：/srv/data1/dfs/jn
cp -rp /srv/data1/dfs/jn /srv/data1/dfs/jn-CM6.0.0-CDH5.12

在各个 NameNode 节点主机运行如下命令

mkdir -p /etc/hadoop/conf.rollback.namenode
cd /var/run/cloudera-scm-agent/process/ && cd `ls -t1 | grep -e "-NAMENODE\$" | head -1`
cp -rp * /etc/hadoop/conf.rollback.namenode/
rm -rf /etc/hadoop/conf.rollback.namenode/log4j.properties
cp -rp /etc/hadoop/conf.cloudera.hdfs/log4j.properties /etc/hadoop/conf.rollback.namenode/

在各个 DataNode 节点主机运行如下命令

mkdir -p /etc/hadoop/conf.rollback.datanode/
cd /var/run/cloudera-scm-agent/process/ && cd `ls -t1 | grep -e "-DATANODE\$" | head -1`
cp -rp * /etc/hadoop/conf.rollback.datanode/
rm -rf /etc/hadoop/conf.rollback.datanode/log4j.properties
cp -rp /etc/hadoop/conf.cloudera.hdfs/log4j.properties /etc/hadoop/conf.rollback.datanode/

如果 HDFS 未启用高可用，备份所有 Secondary NameNode 节点(HDFS 未启用高可用时)

mkdir -p /etc/hadoop/conf.rollback.secondarynamenode/
cd /var/run/cloudera-scm-agent/process/ && cd `ls -t1 | grep -e "-SECONDARYNAMENODE\$" | head -1`
cp -rp * /etc/hadoop/conf.rollback.secondarynamenode/
rm -rf /etc/hadoop/conf.rollback.secondarynamenode/log4j.properties
cp -rp /etc/hadoop/conf.cloudera.hdfs /log4j.properties /etc/hadoop/conf.rollback.secondarynamenode/

备份 HBase
HBase 元数据存于 Zookeeper 元数据中，备份 Zookeeper 即可。

备份 solr
在控制台停止 Solr 服务，然后点击 Backup Solr Configuration Meta-data for Upgrade 按钮开始备份。
备份前确保 HDFS 存在 /user/solr/upgrade_backup 目录

hdfs dfs -mkdir -p /user/solr/upgrade_backup
hdfs dfs -chown -R solr:solr /user/solr

备份 Hue

cp -rp /opt/cloudera/parcels/CDH/lib/hue/app.reg /opt/cloudera/parcels_backup/app.reg-CM6.0.0-CDH5.12

4、升级 CDH

升级 CDH 集群示意图，按提示升级即可：