Zookeeper分布式集群搭建

文中Zookeeper分布式集群搭建在Linux CentOS7系统之上。搭建大数据分布式集群,不建议使用root用户直接操作,故文中使用bigdata用户进行集群的搭建。

一、环境准备

软件 版本
Linux系统 CentOS7
JDK jdk-8u221-linux-x64.tar.gz
Zookeeper zookeeper-3.4.5-cdh5.14.2.tar.gz

二、机器配置

主机名 hadoop01 hadoop02 hadoop03
内存 8G 8G 8G
CPU 4核 4核 4核
硬盘 500G 500G 500G
服务
QuorumPeerMain
QuorumPeerMain
 QuorumPeerMain

 

三、前期准备工作

  1、关闭防火墙(使用root权限,将ip修改成对应的ip地址)

firewall-cmd --state # 查看防火墙状态systemctl stop firewalld.service # 停止防火墙systemctl disable firewalld.service # 禁止开机启动防火墙

  2、配置host主机映射(使用root权限,将ip修改成对应的ip地址)

sudo vi /etc/hostsip1 hadoop01ip2 hadoop02ip3 hadoop03

  3、创建普通用户(bigdata)

useradd bigdata  # 添加普通用户passwd bigdata # 为普通用户设置密码

  4、为bigdata用户配置ssh免密码登陆(具体操作步骤略,执行命令如下)

ssh-keygen -t rsa # 生成密钥对(一路回车即可)ssh-copy-id hadoop01 # 分别拷贝公钥到三台机器上

  5、配置三台机器的时间同步

    待更新

四、Zookeeper分布式集群搭建

  1、安装jdk,将jdk安装在/usr/local目录下, 要求执行用户需要有该目录下的权限

    1.1、解压jdk

tar zxvf jdk-8u221-linux-x64.tar.gz -C /usr/local

    1.2、配置环境变量

vi ~/.bash_profile## 在行末添加以下内容,并保存关闭############# JAVA_HOME  ################export JAVA_HOME=/usr/local/jdk1.8.0_221export PATH=$PATH:$JAVA_HOME/bin

    1.3、生效环境变量

source ~/.bash_profile

    1.4、验证

java -version

  2、搭建zk环境,zk安装在/opt/software目录下,要求执行用户需要有该目录下的权限

    2.1、下载并解压安装包

tar zxvf zookeeper-3.4.5-cdh5.14.2.tar.gz -C /opt/software

    2.2、创建目录

mkdir -p /opt/software/zookeeper-3.4.5-cdh5.14.2/data/zkData

    2.3、修改配置文件

mv zoo_sample.cfg zoo.cfg # 重命名配置文件vi zoo.cfg# 修改dataDir属性dataDir=/opt/software/zookeeper-3.4.5-cdh5.14.2/data/zkData# 添加以下内容server.1=hadoop01:2888:3888server.2=hadoop02:2888:3888server.3=hadoop03:2888:3888

    2.4、向另外两台机器分发

scp -r zookeeper-3.4.5-cdh5.14.2 hadoop02:/opt/softwarescp -r zookeeper-3.4.5-cdh5.14.2 hadoop03:/opt/software

    2.5、分别在三台机器上添加myid文件

# 在hadoop01上执行echo 1 > /opt/software/zookeeper-3.4.5-cdh5.14.2/data/zkData/myid# 在hadoop02上执行echo 2 > /opt/software/zookeeper-3.4.5-cdh5.14.2/data/zkData/myid# 在hadoop03上执行echo 3 > /opt/software/zookeeper-3.4.5-cdh5.14.2/data/zkData/myid

    2.6、分别在三台机器上配置ZK环境变量

vi ~/.bash_profile## 在行末添加以下内容,并保存关闭############# ZK_HOME  ################export ZK_HOME=/opt/software/zookeeper-3.4.5-cdh5.14.2export PATH=$PATH:$ZK_HOME/bin

    2.7、生效环境变量

source ~/.bash_profile

    2.8、分别在三台机器上启动zk

zkServer.sh start # 启动zkzkServer.sh status # 查看zk状态zkServer.sh stop # 停止zk

  至此,zookeeper分布式集群搭建完成,可以通过jps命令查看QuorumPeerMain进程是否存在,或者使用zkCli.sh进入zk客户端,来验证集群是否安装成功。

欢迎大家提出建议或疑问。

(0)

相关推荐

  • 02.Kafka快读入门

    安装部署 先下载zookeeper.kafka zookeeper下载地址:Download kafka下载地址:Download 集群规划 hadoop001 hadoop002 zk zk kaf ...

  • [Hadoop] Zookeeper伪分布式集群部署

    [Hadoop] Zookeeper伪分布式集群部署

  • 阿里云ECS服务器部署HADOOP集群(二):HBase完全分布式集群搭建(使用外置ZooKeeper)

    本篇将在阿里云ECS服务器部署HADOOP集群(一):Hadoop完全分布式集群环境搭建的基础上搭建,多添加了一个 datanode 节点 . 1 节点环境介绍: 1.1 环境介绍: 服务器:三台阿里 ...

  • Zookeeper的安装与集群搭建

    简介 Zookeeper下载 官网地址:点我直达 百度云盘:点我直达 踩坑录 官网下载一定要下载带bin的 要不然zookeeper起不起来,找不到加载类,原来从版本3.5.5开始,带有bin名称的包 ...

  • Zookeeper简介与集群搭建

    Zookeeper简介 Zookeeper是一个高效的分布式协调服务,可以提供配置信息管理.命名.分布式同步.集群管理.数据库切换等服务.它不适合用来存储大量信息,可以用来存储一些配置.发布与订阅等少 ...

  • MySQL主从复制集群搭建—binlog二进制文件方式

    老哥絮叨 上篇文章我们大致介绍了什么是MySQL主从复制,主从复制的几种集群架构图大概都有哪几种,今天我们就来讲讲如何实现MySQL集群的搭建.主从复制有两种方式可以实现,binlog和GTID,这期 ...

  • redis集群搭建

    阅读目录 1. 准备ruby环境 2. 目录 & 配置文件 3. 集群操作 redis 集群 ruby redis版本:redis-4.0.11 os:centos 7 ruby版本:2.3. ...

  • 硬核干货!Redis 分布式集群部署实战

    原理: Redis集群采用一致性哈希槽的方式将集群中每个主节点都分配一定的哈希槽,对写入的数据进行哈希后分配到某个主节点进行存储. 集群使用公式(CRC16 key)& 16384计算键key ...

  • KubeEdge集群搭建

    KubeEdge集群搭建 1. 前言 上一篇文章我把整个KubeEdge的宏观架构设计讲了一遍,今天的内容是实操实践,手把手教你搭建KubeEdge集群. 2. 准备工作 需要两台机器,不管是笔记本也 ...

  • 【学术前沿】清华大学吴文传:主动配电网能量管理与分布式集群控制

    清华大学电机系长聘教授.博士生导师,IET(IEE)Fellow,清华大学电力系统研究所所长.国家杰出青年科学基金与首届中国电机工程杰出青年工程师奖获得者,入选科技部中青年科技创新领军人才和教育部新世 ...