Перенос веб интерфейса Cloudera Manager на другой сервер

Например, переносим с master1 на master2:

1. На master1 сервис cloudera-scm-server должен быть остановлен, иначе на втором сервере ничего не запустится.

2. Инсталлируем пакет cloudera manager на master2: yum install cloudera-manager-server

3. Копируем /var/lib/cloudera-scm-server/ с master1 на master2. Выставляем нужные права.

4. Файл /etc/cloudera-scm-server/db.properties у нас с master1, оставляем как есть.

5. На всех нодах кластера правим конфиг агентов, файл /etc/cloudera-scm-agent/config.ini. Изменяем строку server_host=master1.hadoop.stage.int.nic.ru на server_host=master2.hadoop.stage.int.nic.ru и рестартим агенты systemctl restart cloudera-scm-agent

6. Стартуем: systemctl start cloudera-scm-server.

YARN High Availability

YARN High Availability основан на модели Active/Standby. Cloudera менеджер поддерживает automatic failover в ResourceManager. Но не обеспечивает механизм ручного переключения через пользовательский интерфейс Cloudera Manager.

ResourceManager HA требует Zookeeper и HDFS услуги.

Включение High Availability:

1. Идем в YARN service.

2. Затем в Actions->Enable High Availability. На экране показаны хосты, которые имеют право работать в режиме standby. Выбираем хост, где хотим иметь резервный ResourceManager. Cloudera Менеджер переходит к выполнению набора команд, которые останавливают службу YARN, добавляют резервный ResourceManager, инициализирует High Availability состояние ResourceManager в Zookeeper, перезапускает YARN, и перераспределяет соответствующие конфигурации клиента.

ResourceManager HA не влияет на JobHistory Server (JHS). Так что в случае проблем просто присваиваем роль новому хосту.

HIVE High Availability

Документация по Hive http://www.cloudera.com/documentation/enterprise/5-6-x/topics/cdh_ig_hive_installation.html

Архитектура Hive:

Hive High Availability

Для обеспечения высокой доступности и балансировки нагрузки для HiveServer2, Hive предоставляет функцию динамического обнаружения службы, где несколько экземпляров HiveServer2 могут регистрироваться с Zookeeper. Вместо подключения к определенному HiveServer2 напрямую, клиенты подключаются к Zookeeper, который возвращает случайно выбранный зарегистрированный экземпляр HiveServer2.

Подробнее: HIVE High Availability

Настройка отказоустойчивого HDFS

Для настройки отказоустойчивого HDFS необходимо иметь установленный ZooKeeper сервис.

HDFS High availability + Auto Failover

 

Подробнее: Настройка отказоустойчивого HDFS

Настройка SSL для Cloudera Manager интерфейса

1. Создаем openssl сертификаты.

2. Формируем Java KeyStores

openssl pkcs12 -export -in master1.hadoop.int.nic.ru.2017.crt -inkey master1.hadoop.int.nic.ru.2017.key -out master1.hadoop.int.nic.ru.2017.p12 -name master1.hadoop.int.nic.ru.2017 -passin pass:cloudera -passout pass:cloudera

/usr/java/jdk1.7.0_67-cloudera/bin/keytool -importkeystore -srckeystore master1.hadoop.int.nic.ru.2017.p12 -srcstoretype PKCS12 -srcstorepass cloudera -alias master1.hadoop.int.nic.ru.2017 -deststorepass cloudera -destkeypass cloudera -destkeystore /opt/cloudera/security/jks/int.nic.ru.2017.jks

3.

Administration→Settings затем выбираем Category→Security:

включаем Use TLS Encryption for Admin Console

в Cloudera Manager TLS/SSL Server JKS Keystore File Location пишем

/opt/cloudera/security/jks/int.nic.ru.2017.jks

в Cloudera Manager TLS/SSL Server JKS Keystore File Password указываем пароль от хранилища – cloudera

Подробнее: Настройка SSL для Cloudera Manager интерфейса