技术博文 · 2021-06-29 0

CM+CDH安装大数据服务集合的一些问题

接上篇《CM+Cdh集群构建---大数据平台软件hdfs、hive、hbase、yarn(MapReduce)、kudu、kafka、zook全家桶控制台式安装》

在安装中遇到了一些问题。

本篇就遇到的一些问题做一些解答:

关于安装kerberos

安装kerberos(一般人不需要安这个玩意儿),这个是结合ssl认证来做的,比较麻烦。目前我们在测试环境也没有进行配置。下面是安装方法参考

# 安装kerberos,注意要安装1.15.1-50.el7版本左右的,不能太低,不然CDH开启kerberos报错
# kerberos 1.15.1-50.el7版本在CentOS-7-x86_64-DVD-2009.iso镜像的yum源里就有
# 选择一个节点安装kerberos服务端
yum -y install krb5-server openldap-clients
# 所有节点安装客户端及相关库
yum install -y krb5-workstation krb5-libs
# 所有节点修改krb5.conf
sudo vi /etc/krb5.conf
# krb5.conf示例内容如下:
# Configuration snippets may be placed in this directory as well
includedir /etc/krb5.conf.d/
[logging]
 default = FILE:/var/log/krb5libs.log
 kdc = FILE:/var/log/krb5kdc.log
 admin_server = FILE:/var/log/kadmind.log
[libdefaults]
 dns_lookup_realm = false
 ticket_lifetime = 24h
 renew_lifetime = 7d
 forwardable = true
 rdns = false
 pkinit_anchors = FILE:/etc/pki/tls/certs/ca-bundle.crt
 default_realm = kunlun.test
# default_ccache_name = KEYRING:persistent:%{uid}
[realms]
 kunlun.test = {
  kdc = bjzj1-vbig-tmp02
  admin_server = bjzj1-vbig-tmp02
 }
[domain_realm]
 .bjzj1-vbig-tmp02 = kunlun.test
 bjzj1-vbig-tmp02 = kunlun.test

# kerberos服务节点修改kdc.conf
sudo vi /var/kerberos/krb5kdc/kdc.conf
# kdc.conf示例内容如下:
[kdcdefaults]
 kdc_ports = 88
 kdc_tcp_ports = 88
[realms]
 kunlun.test = {
  #master_key_type = aes256-cts
  max_renewable_life = 7d 0h 0m 0s
  default_principal_flags = +renewable
  acl_file = /var/kerberos/krb5kdc/kadm5.acl
  dict_file = /usr/share/dict/words
  admin_keytab = /var/kerberos/krb5kdc/kadm5.keytab
  supported_enctypes = aes256-cts:normal aes128-cts:normal des3-hmac-sha1:normal arcfour-hmac:normal camellia256-cts:normal camellia128-cts:normal des-hmac-sha1:normal des-cbc-md5:normal des-cbc-crc:normal
 }
  max_life = 24h

# kerberos服务节点修改kadm5.acl
sudo vi /var/kerberos/krb5kdc/kadm5.acl
# kadm5.acl示例内容如下:
*/admin@kunlun.test     *

#创建数据库
kdb5_util create -r kunlun.test -s

# 开启kdc、kadmin服务
sudo systemctl start krb5kdc
sudo systemctl start kadmin
systemctl enable krb5kdc 
systemctl enable kadmin

# 创建管理员账户,用于CDH开启kerberos时自动创建principal
kadmin.local:
              addprinc admin/admin
# 记得创建完后测试下该用户

为CDH开启kerberos

image-20210629154906973

image-20210628181036348

其他的一些问题

安装 6.3.1yum源的时候提示问题,直接引用了官网的源

这里是因为我们在配置yum源仓库的时候需要将baseurl修改为本地的源地址

[cloudera-manager]
name=Cloudera Manager 6.3.1
baseurl=http://kudu001/cloudera-repos/cm6
gpgkey=http://kudu001/cloudera-repos/cm6/RPM-GPG-KEY-cloudera
gpgcheck=1
enabled=1
autorefresh=0
type=rpm-md

image-20210628163944782

安装服务器的时候使用了tsl/ssl配置导致安装不成功

当时第一次安装的时候因为不是特别清楚里面的相关配置,自己胡乱填了一统发现并没有安装成功。

image-20210628184948557

如果使用初始化安装全部需要组件的时候没有成功的话没有关系。进入到集群中找到对应没有安装成功的服务删掉然后重新添加。

image-20210629160821034image-20210629161126656

image-20210629161041458

安装hive的时候提示HiveMetaException: Failed to get schema version, Cause:Table 'metastore.VERSION' doesn't exist

image-20210628204943069

image-20210628204914509

解决办法:

1、可能是应为jdbc的数据源错误,之前安装的时候下载的jdbc-mysql的数据源是8.0.22版本,后来更新为5.1.49版本

2、还一个可能是使用的mysql数据库错误。使用scm初始化数据库的时候没有生成hive数据库。到数据库中

create database hive default character set utf8 default collate utf8_general_ci;

然后安装的时候使用这个数据库进行安装。

image-20210629161647882