0
点赞
收藏
分享

微信扫一扫

如何通过CM将CDSW从1.3升级至1.4

温馨提示:如果使用电脑查看图片不清晰,可以使用手机打开文章单击文中的图片放大查看高清原图。


Fayson的github:

​​https://github.com/fayson/cdhproject​​


提示:代码块部分可以左右滑动查看噢


1.文档编写目的


随着CDSW新版本的发布也提供了更多的新功能,具体参考Fayson前面文章《​​CDSW1.4的新功能​​》,本篇文章Fayson主要介绍如何通过Cloudera Manager升级CDSW至1.4版本。


  • 内容概述

1.升级准备

2.配置CDSW1.4的Parcel库及激活

3.功能验证及总结


  • 测试环境说明

1.CM和CDH版本为5.15

2.CDSW版本为1.3

3.集群未启用Kerberos

4.RedHat7.4


2.升级准备


1.准备CDSW最新的Parcel安装包


http://archive.cloudera.com/cdsw/1/parcels/1.4.0/CDSW-1.4.0.p1.431664-el7.parcel
http://archive.cloudera.com/cdsw/1/parcels/1.4.0/CDSW-1.4.0.p1.431664-el7.parcel.sha
http://archive.cloudera.com/cdsw/1/parcels/1.4.0/manifest.json

(可左右滑动)


如何通过CM将CDSW从1.3升级至1.4_cloudera


2.将下载好的Parcel包部署在本地的apache服务器的/var/www/html/cdsw1.4目录下


[root@cdh05 ~]# cd /var/www/html/cdsw1.4/
[root@cdh05 cdsw1.4]# ll

(可左右滑动)


如何通过CM将CDSW从1.3升级至1.4_cloudera_02


3.验证本地Parcel部署是否成功


如何通过CM将CDSW从1.3升级至1.4_安装包_03


3.CM配置CDSW1.4的Parcel库


1.使用管理员登录Cloudera Manager,进入Pacel主界面


如何通过CM将CDSW从1.3升级至1.4_安装包_04


2.点击“配置”,将cdsw1.4版本的本地Parcel库地址配置到列表中


如何通过CM将CDSW从1.3升级至1.4_安装包_05


3.保存更改后回到Parcel界面查看加载在的CDSW1.4版本


如何通过CM将CDSW从1.3升级至1.4_安装包_06


4.点击“下载”,将cdsw1.4版本下载并分发


如何通过CM将CDSW从1.3升级至1.4_cloudera_07


完成下载


如何通过CM将CDSW从1.3升级至1.4_cloudera_08


5.点击“分配”,完成CDSW安装包分发


如何通过CM将CDSW从1.3升级至1.4_安装包_09


如上步骤完成了CDSW1.4 Parcel的分配


4.CDSW1.4激活


在前面的步骤已完成了CDSW1.4版本安装包的分发,在激活之前先收集下CDSW平台的基本信息及做简单备份。


1.使用管理员登录CDSW平台用户信息查看及备份


如何通过CM将CDSW从1.3升级至1.4_服务器_10


通过“Export Users List”功能将平台的用户导出备份。


2.查看当前用户创建的工程


如何通过CM将CDSW从1.3升级至1.4_cloudera_11


fayson用户下也有创建相应的工程


如何通过CM将CDSW从1.3升级至1.4_服务器_12


以上步骤做了CDSW平台上用户及工程的简单记录,确保在CDSW平台升级后,工程依然存在。


3.登录Cloudera Manager对CDSW1.4版本进行激活


如何通过CM将CDSW从1.3升级至1.4_服务器_13


4.点击“确定”,进行激活并重启CDSW服务,等待命令执行成功


如何通过CM将CDSW从1.3升级至1.4_服务器_14


如下截图显示已激活成功


如何通过CM将CDSW从1.3升级至1.4_服务器_15


5.进入CDSW服务界面显示角色启动异常


如何通过CM将CDSW从1.3升级至1.4_服务器_16


6.查看启动日志发现有如下异常


“ERROR:: Dependency packages [socat.x86_64] are not installed. Please run prepare node step.: 1”

(可左右滑动)


如何通过CM将CDSW从1.3升级至1.4_服务器_17


7.停止CDSW服务,进行如下操作


如何通过CM将CDSW从1.3升级至1.4_服务器_18


服务停止成功后,在操作下选择“Prepare Node”执行


如何通过CM将CDSW从1.3升级至1.4_服务器_19


命令执行成功


如何通过CM将CDSW从1.3升级至1.4_安装包_20


8.通过CM启动CDSW服务


如何通过CM将CDSW从1.3升级至1.4_安装包_21


执行完启动命令后,需要等待一段时间,等待CDSW服务中各个模块正常提供服务。


9.CDSW服务启动成功界面显示如下:


如何通过CM将CDSW从1.3升级至1.4_cloudera_22


同样也可以在CDSW服务器上使用cdsw status命令查看


如何通过CM将CDSW从1.3升级至1.4_服务器_23


5.CDSW验证


验证CDSW服务的可用性以及升级后平台的账号、配置、工程信息未丢失


1.使用管理员账号登录CDSW服务,进入主页面


如何通过CM将CDSW从1.3升级至1.4_服务器_24


可用看到升级后多了Experiments和Models功能,在后面的文章Fayson会介绍这两个功能的详细使用。


2.查看CDSW用户与升级前用户一致


如何通过CM将CDSW从1.3升级至1.4_cloudera_25


3.Project工程存在

admin用户下的test工程存在,与升级前一致


如何通过CM将CDSW从1.3升级至1.4_安装包_26


fayson用户下的fayson-project工程与升级前一致


如何通过CM将CDSW从1.3升级至1.4_安装包_27


4.打开fayson-project工程的Workbench


如何通过CM将CDSW从1.3升级至1.4_cloudera_28


图中显示有新的engine可以使用,点击“Update Version”可以更新到最新的engine使用,相应的还多了一个“Run Experiments”功能。


6.总结


1.本篇文章Fayson将CDSW1.3版本升级至1.4,需要准备CDSW1.4的Parcel包,通过CM将Parcel包分发激活,使CDSW使用最新版本启动并提供服务。


2.在升级的过程中遇到CDSW服务启动失败,是由于新版本的CDSW需要安装OS的依赖包,可以通过“Prepare Node”功能来准备CDSW的服务所需要依赖环境(如:配置、依赖包等)。


3.升级前后不会导致CDSW平台的工程、用户以及配置等信息丢失。


4.CDSW1.4版本后对服务器的要求更高一些,Fayson的服务器是4核16G的服务器,升级后不能打开Session,提示“Unschedulable: No nodes are available that match all of the predicates: Insufficient cpu (1)”


5.对于生产环境的CDSW升级,在升级前有必要通知所有使用用户将自己的工程做相应的备份。


提示:代码块部分可以左右滑动查看噢


为天地立心,为生民立命,为往圣继绝学,为万世开太平。

温馨提示:如果使用电脑查看图片不清晰,可以使用手机打开文章单击文中的图片放大查看高清原图。



推荐关注Hadoop实操,第一时间,分享更多Hadoop干货,欢迎转发和分享。

如何通过CM将CDSW从1.3升级至1.4_服务器_29

原创文章,欢迎转载,转载请注明:转载自微信公众号Hadoop实操


举报

相关推荐

0 条评论