ITPub博客

首页 > 自动化运维 > DevOps > docker笔记39-ceph分布式存储的搭建

docker笔记39-ceph分布式存储的搭建

原创 DevOps 作者:czxin788 时间:2018-10-29 09:40:46 1 删除 编辑

    在kubernetes 中,想实现 pod 数据的持久化。在调研的过程中,发现 ceph 在最近几年发展火热,也有很多案例落地企业。在选型方面,个人更加倾向于社区火热的项目,GlusterFS、Ceph 都在考虑的范围之内,但是由于 GlusterFS 只提供对象存储和文件系统存储,而 Ceph 则提供对象存储、块存储以及文件系统存储。怀着对新事物的向往,果断选择 Ceph 来实现 Ceph 块存储对接 kubernetes 来实现 pod 的数据持久化。

   ceph是无中心化的存储,它没有管理节点、计算节点的之分。

   ceph的文件是被分片的,每一个数据块是 一个对象,对象保存在不同的服务器上。当节点失效,自动迁移数据,重新复制副本。可以动态的添加元数据服务器和存储节点,容量可以动态扩展。

   ceph分为mon监视器节点(至少一个)、osd对象存储节点(至少2个)、mds元数据节点。

    osd 进程负责存储数据、处理数据的复制、恢复、回填、再平衡。并通过其他的osd守护进程的心跳,来向mon提供一些监控信息。当你设置osd有2个副本的时候,至少需要2个osd守护进程才能达到archive+clean的状态,默认有3个副本。

    mon 负责维护集群状态的各种图表,包括监视图和osd图等。

    mds 负责为ceph文件系统存储数据的时候才使用。

    存储的过程 :存储的文件数据归类为对象object;对象放在对应的池子里面(pool);pool由若干个pg组成;pg是由若干个osd组成;osd是由硬盘组成。

环境

 k8s-node1       172.16.1.201    管理节点 数据节点

 k8s-node2       172.16.1.202    数据节点

 k8s-node3       172.16.1.203    数据节点

上述要加入/etc/hosts文件里面。

该实验的操作系统为centos 7,ceph k版本。

 ceph的部署  

1、关闭系统上的防火墙 以及selinux 

2、拷贝管理节点的秘钥到其他节点实现无密码登录

ssh-keygen -t rsa 
ssh-copy-id  root@ceph-node1 .....

3、在各个节点上配置需要的yum源

[Ceph]
name=Ceph packages for $basearch
baseurl=
enabled=1
priority=1
gpgcheck=1
gpgkey=
[Ceph-noarch]
name=Ceph noarch packages
baseurl=
enabled=1
priority=1
gpgcheck=1
gpgkey=
[ceph-source]
name=Ceph source packages
baseurl=
enabled=0
priority=1
gpgcheck=1
gpgkey=

4、管理节点安装ceph-deploy工具 

[root@k8s-node1 yum.repos.d]# yum -y install ceph-deploy

5、管理节点创建工作目录

[root@k8s-node1 ~]#  mkdir -p /etc/ceph

6 、创建两个mon

[root@k8s-node1 ~]# cd /etc/ceph
[root@k8s-node1 ceph]# ls
[root@k8s-node1 ceph]# ceph-deploy new  k8s-node1 k8s-node2 ##这个意思是在k8s-node1和k8s-node2上分别创建一个mon,
[root@k8s-node1 ceph]# ls
ceph.conf  ceph-deploy-ceph.log  ceph.mon.keyring

7、默认情况下最少是需要一个mon、 2个osd 

在配置文件ceph.conf 中加入我们的业务网段配置public network =172.16.22.0/24,结果如下:

[root@k8s-node1 ceph]# vim ceph.conf 
[global]
fsid = 2e6519d9-b733-446f-8a14-8622796f83ef
mon_initial_members = k8s-node1,k8s-node2
mon_host = 172.16.22.201,172.16.22.202
auth_cluster_required = cephx
auth_service_required = cephx
auth_client_required = cephx
public network =172.16.22.0/24

8、 安装ceph 集群

[root@k8s-node1 ceph]# ceph-deploy install  k8s-node1 k8s-node2

9、 初始化mon 并收集所有的秘钥

[root@k8s-node1 ceph]# ceph-deploy mon create-initial
 
[root@k8s-node1 ceph]# ls
ceph.bootstrap-mds.keyring  ceph.bootstrap-osd.keyring  ceph.client.admin.keyring  ceph-deploy-ceph.log  rbdmap
ceph.bootstrap-mgr.keyring  ceph.bootstrap-rgw.keyring  ceph.conf                  ceph.mon.keyring

10、查看创建的集群用户

[root@k8s-node1 ceph]# ceph auth list
installed auth entries:
client.admin
key: AQBavtVb2irGJBAAsbJcna7p5fdAXykjVbxznA==
caps: [mds] allow *
caps: [mgr] allow *
caps: [mon] allow *
caps: [osd] allow *
client.bootstrap-mds
key: AQBavtVbbNgXOxAAkvfj6L49OUfFX5XWd651AQ==
caps: [mon] allow profile bootstrap-mds
client.bootstrap-mgr
key: AQBbvtVbwiRJExAAdsh1uG+nL8l3UECzLT4+vw==
caps: [mon] allow profile bootstrap-mgr
client.bootstrap-osd
key: AQBbvtVbUV0NJxAAJAQ/yBs0c37C7ShBahwzsw==
caps: [mon] allow profile bootstrap-osd
client.bootstrap-rgw
key: AQBbvtVb/h/pOhAAmwK9r8DeqlOpQHxz9F/9eA==
caps: [mon] allow profile bootstrap-rgw
mgr.k8s-node1
key: AQBXvtVbeW/zKBAAfntYBheS7AkCwimr77PqEQ==
caps: [mon] allow *

11、创建osd 

创建osd有两种方式

a、使用系统裸盘,作为存储空间;

b、使用现有文件系统,以目录或分区作为存储空间,官方建议为 OSD 及其日志使用独立硬盘或分区作为存储空间

 1)、使用分区

[root@k8s-node1 ceph]#ceph-deploy disk zap k8s-node1:/dev/sdb k8s-node2:/dev/sdb  ##通过zap命令清除分区及磁盘内容
[root@k8s-node1 ceph]#ceph-deploy osd prepare  k8s-node1:/dev/sdb k8s-node2:/dev/sdb
[root@k8s-node1 ceph]#ceph-deploy osd activate k8s-node1:/dev/sdb k8s-node2:/dev/sdb

 2)、 使用目录

[root@k8s-node1 ceph]#ssh k8s-node1 “mkdir /data/osd0;chown -R ceph:ceph /data/osd0"
[root@k8s-node1 ceph]#ssh k8s-node2 “mkdir /data/osd0;chown -R ceph:ceph /data/osd0
[root@k8s-node1 ceph]# ceph-deploy osd  prepare k8s-node1:/data/osd0 k8s-node2:/data/osd0
[root@k8s-node1 ceph]#  ceph-deploy osd  activate  k8s-node1:/data/osd0 k8s-node2:/data/osd0

12、使用ceph-deploy把配置文件和admin 秘钥下发到所有节点

[root@k8s-node1 ceph]# ceph-deploy admin  k8s-node1 k8s-node2

13 、给每一个节点的keyring 增加 r 权限

chmod +r /etc/ceph/ceph.client.admin.keyring
14、 检查集群的健康状况
[root@k8s-node1 ceph]# ceph -s
    cluster 2e6519d9-b733-446f-8a14-8622796f83ef
     health HEALTH_WARN  #这个警告可以忽略
            64 pgs degraded
            64 pgs stuck unclean
            64 pgs undersized
     monmap e2: 1 mons at {k8s-node1=172.16.22.201:6789/0}
            election epoch 4, quorum 0 k8s-node1
        mgr active: k8s-node1 
     osdmap e9: 2 osds: 2 up, 2 in   ##看这,个数是否对
            flags sortbitwise,require_jewel_osds,require_kraken_osds
      pgmap v21: 64 pgs, 1 pools, 0 bytes data, 0 objects
            22761 MB used, 15722 MB / 38484 MB avail
                  64 active+undersized+degraded
                  
[root@k8s-node1 ceph]# ceph health
HEALTH_WARN 64 pgs degraded; 64 pgs stuck unclean; 64 pgs undersized
[root@k8s-node1 ceph]# ceph osd tree
ID WEIGHT  TYPE NAME          UP/DOWN REWEIGHT PRIMARY-AFFINITY 
-1 0.03677 root default                                         
-2 0.01839     host k8s-node1                                   
 0 0.01839         osd.0           up  1.00000          1.00000 
-3 0.01839     host k8s-node2                                   
 1 0.01839         osd.1           up  1.00000          1.00000
[root@k8s-node1 ceph]# ceph df
GLOBAL:
    SIZE       AVAIL      RAW USED     %RAW USED 
    38484M     15719M       22764M         59.15 
POOLS:
    NAME     ID     USED     %USED     MAX AVAIL     OBJECTS 
    rbd      0         0         0         4570M           0

    这样,我们就搭建完了两个节点的ceph集群,其中1个mon,2个osd。

    下面我们再介绍mon和osd的扩展

ceph集群的扩展

新增一个osd  k8s-node3

1、以下操作,大部分命令是在k8s-node1上执行的(前面我们让k8s-node1充当管理节点)

#切换到k8s-node1的/etc/ceph目录下
[root@k8s-node1 ~]# cd /etc/ceph/
#给k8s-node3上安装ceph-deploy软件,但是如下命令要在k8s-node1上执行
[root@k8s-node1 ceph]# ceph-deploy install  k8s-node3
#下面这个命令在k8s-node3上执行
[root@k8s-node3 ceph]# mkdir /data/osd0 -p
[root@k8s-node3 ceph]# chown -R ceph:ceph /data/osd0
#给k8s-node3创建osd
[root@k8s-node1 ceph]# ceph-deploy osd  prepare k8s-node3:/data/osd0 
[root@k8s-node1 ceph]#  ceph-deploy osd  activate  k8s-node3:/data/osd0
#查看k8s-node3已经被加入集群里面了
[root@k8s-node1 ceph]# ceph -s
    cluster 2e6519d9-b733-446f-8a14-8622796f83ef
     health HEALTH_OK
     monmap e2: 1 mons at {k8s-node1=172.16.22.201:6789/0}
            election epoch 4, quorum 0 k8s-node1
        mgr active: k8s-node1 
     osdmap e14: 3 osds: 3 up, 3 in
            flags sortbitwise,require_jewel_osds,require_kraken_osds
      pgmap v7372: 64 pgs, 1 pools, 0 bytes data, 0 objects
            35875 MB used, 21850 MB / 57726 MB avail
                  64 active+clean
[root@k8s-node1 ceph]# 
[root@k8s-node1 ceph]# 
[root@k8s-node1 ceph]# ceph osd tree
ID WEIGHT  TYPE NAME          UP/DOWN REWEIGHT PRIMARY-AFFINITY 
-1 0.05516 root default                                         
-2 0.01839     host k8s-node1                                   
 0 0.01839         osd.0           up  1.00000          1.00000 
-3 0.01839     host k8s-node2                                   
 1 0.01839         osd.1           up  1.00000          1.00000 
-4 0.01839     host k8s-node3                                   
 2 0.01839         osd.2           up  1.00000          1.00000

增加一个新的mon在k8s-node3 上面

在k8s-node1上执行

[root@k8s-node1 ceph]# ceph-deploy mon add k8s-node3
[root@k8s-node1 ceph]# ceph -s
    cluster 2e6519d9-b733-446f-8a14-8622796f83ef
     health HEALTH_OK
     monmap e4: 3 mons at {k8s-node1=172.16.22.201:6789/0,k8s-node2=172.16.22.202:6789/0,k8s-node3=172.16.22.203:6789/0}
            election epoch 8, quorum 0,1,2 k8s-node1,k8s-node2,k8s-node3
        mgr active: k8s-node1 standbys: k8s-node3, k8s-node2
     osdmap e14: 3 osds: 3 up, 3 in
            flags sortbitwise,require_jewel_osds,require_kraken_osds
      pgmap v7517: 64 pgs, 1 pools, 0 bytes data, 0 objects
            35890 MB used, 21835 MB / 57726 MB avail
                  64 active+clean
[root@k8s-node1 ceph]# ceph mon stat
e4: 3 mons at {k8s-node1=172.16.22.201:6789/0,k8s-node2=172.16.22.202:6789/0,k8s-node3=172.16.22.203:6789/0}, election epoch 10, quorum 0,1,2 k8s-node1,k8s-node2,k8s-node3

在k8s-node1增加一个元数据的角色 

元数据是在文件系统时才有用,而我们用的是块设备,所以就没用了

[root@k8s-node1 ceph]#ceph-deploy mds create k8s-node1







来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/28916011/viewspace-2217817/,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2014-06-03

  • 博文量
    216
  • 访问量
    704384