0
点赞
收藏
分享

微信扫一扫

CM部署客户端配置失败异常分析

温馨提示:如果使用电脑查看图片不清晰,可以使用手机打开文章单击文中的图片放大查看高清原图。


Fayson的github:

​​https://github.com/fayson/cdhproject​​


提示:代码块部分可以左右滑动查看噢


1.异常描述


在Cloudera Manager修改了服务的客户端配置后,执行部署客户配置报如下异常:


CM部署客户端配置失败异常分析_客户端

CM部署客户端配置失败异常分析_hadoop_02


无法成功的部署客户端配置到相应的节点上,在有些时候界面看不到任何异常信息,导致很难定位问题。


2.异常分析及处理


1.由于没有日志信息,不好根据异常分析问题,那我们分析部署成功的日志信息是怎么样的,下面以部署Hive客户端配置日志为例


CM部署客户端配置失败异常分析_hadoop_03

CM部署客户端配置失败异常分析_hadoop_04


通过上述两个截图日志可以看到,其实部署客户端的操作就是在部署节点上将/etc/hive/conf.cloudera.hive目录的配置删除,然后将/run/cloudera-scm-agent/process/ccdeploy_hive-conf_xxxx/hive-conf下的配置文件拷贝至/etc/hive/conf.cloudera.hive目录,然后再做授权等操作。


2.通过部署成功的日志,可以得出部署客户端时会在/run/cloudera-scm-agent/process/ccdeploy_*目录下生成客户端临时配置文件


3.登录到部署失败节点(cdh03.fayson.com),进入/run/cloudera-scm-agent/process目录下


CM部署客户端配置失败异常分析_客户端_05


在该目录下有大量的部署客户端配置临时文件,那需要根据我们部署失败的时间点找到相应的部署目录,这里Fayson就查找最近时间的部署目录


[root@cdh03 process]# ll -t |grep ccdeploy_ |more

(可左右滑动)


CM部署客户端配置失败异常分析_客户端_06


进入上图标识的目录下,可以看到该目录下有logs目录,里面记录了部署客户端配置的详细日志


CM部署客户端配置失败异常分析_cloudera_07


进入logs目录下,查看stderr.log日志文件内容


CM部署客户端配置失败异常分析_hadoop_08


在日志的文件末尾看到“/var/lib/alternatives/hadoop-conf empty!”,这里与部署成功的日志有一些区别,因此定位可能是由于该文件为空导致的问题。


4.查看/var/lib/alternatives/hadoop-conf文件


[root@cdh03 alternatives]# ll hadoop-conf
-rw-r--r-- 1 root root 0 Aug 31 09:36 hadoop-conf
[root@cdh03 alternatives]# more hadoop-conf

(可左右滑动)


CM部署客户端配置失败异常分析_hadoop_09


显示hadoop-conf文件大小为0,文件内没有任何内容。


5.在部署正常的节点上,将/var/lib/alternatives/hadoop-conf文件的内容拷贝至该hadoop-conf文件中


[root@cdh03 alternatives]# more hadoop-conf 
auto
/etc/hadoop/conf

/opt/cloudera/parcels/CDH-5.15.0-1.cdh5.15.0.p0.21/etc/hadoop/conf.empty
10
/etc/hadoop/conf.cloudera.yarn
92
/etc/hadoop/conf.cloudera.hdfs
90

(可左右滑动)


CM部署客户端配置失败异常分析_cloudera_10


修改成功后,重启该节点的cloudera-scm-agent服务。


6.在Cloudera Manager再次执行部署客户端配置测试,如下图所示部署成功


CM部署客户端配置失败异常分析_hadoop_11


3.总结


在部署客户端失败且没有日志的情况下,我们可以变通下分析问题的方式,可以通过正常部署的日志信息,推断问题可能会出现在哪里?可以通过正常日志分析部署配置每个阶段的操作,去反推部署异常节点的问题。


在/var/lib/alternatives目录下的文件不存在或做了修改后,需要重启cloudera-scm-agent服务来重新加载该目录下的配置文件。


提示:代码块部分可以左右滑动查看噢


为天地立心,为生民立命,为往圣继绝学,为万世开太平。

温馨提示:如果使用电脑查看图片不清晰,可以使用手机打开文章单击文中的图片放大查看高清原图。



推荐关注Hadoop实操,第一时间,分享更多Hadoop干货,欢迎转发和分享。

CM部署客户端配置失败异常分析_cloudera_12

原创文章,欢迎转载,转载请注明:转载自微信公众号Hadoop实操


举报

相关推荐

0 条评论