文章目录
- 概述
- EmptyDir
- HostPath
- NFS
- 高级存储
- PV
- PVC
- 生命周期
概述
- 容器的生命周期可能很短,会被频繁的创建和销毁。那么容器在销毁的时候,保存在容器中的数据也会被清除。这种结果对用户来说,在某些情况下是不乐意看到的。为了持久化保存容器中的数据,kubernetes引入了Volume的概念。
- Volume是Pod中能够被多个容器访问的共享目录,它被定义在Pod上,然后被一个Pod里面的多个容器挂载到具体的文件目录下,kubernetes通过Volume实现同一个Pod中不同容器之间的数据共享以及数据的持久化存储。Volume的生命周期不和Pod中的单个容器的生命周期有关,当容器终止或者重启的时候,Volume中的数据也不会丢失。
- kubernetes的Volume支持多种类型,比较常见的有下面的几个:
○ 简单存储:EmptyDir、HostPath、NFS。
○ 高级存储:PV、PVC。
○ 配置存储:ConfigMap、Secret。
EmptyDir
EmptyDir是最基础的Volume类型,一个EmptyDir就是Host上的一个空目录。
EmptyDir是在Pod被分配到Node时创建的,它的初始内容为空,并且无须指定宿主机上对应的目录文件,因为kubernetes会自动分配一个目录,当Pod销毁时, EmptyDir中的数据也会被永久删除。 EmptyDir用途如下:
临时空间,例如用于某些应用程序运行时所需的临时目录,且无须永久保留
一个容器需要从另一个容器中获取数据的目录(多容器共享目录)
示例:
apiVersion v1
kind Pod
metadata
name volume-emptydir
namespace dev
spec
containers
name nginx
image nginx1.17.1
ports
containerPort80
volumeMounts# 将logs-volume挂在到nginx容器中,对应的目录为 /var/log/nginx
name logs-volume
mountPath /var/log/nginx
name busybox
image busybox1.30
command"/bin/sh""-c""tail -f /logs/access.log" # 初始命令,动态读取指定文件中内容
volumeMounts# 将logs-volume 挂在到busybox容器中,对应的目录为 /logs
name logs-volume
mountPath /logs
volumes# 声明volume, name为logs-volume,类型为emptyDir
name logs-volume
emptyDir
HostPath
EmptyDir中数据不会被持久化,它会随着Pod的结束而销毁,如果想简单的将数据持久化到主机中,可以选择HostPath。
HostPath就是将Node主机中一个实际目录挂在到Pod中,以供容器使用,这样的设计就可以保证Pod销毁了,但是数据依据可以存在于Node主机上。
示例:
apiVersion v1
kind Pod
metadata
name volume-hostpath
namespace dev
spec
containers
name nginx
image nginx1.17.1
ports
containerPort80
volumeMounts
name logs-volume
mountPath /var/log/nginx
name busybox
image busybox1.30
command"/bin/sh""-c""tail -f /logs/access.log"
volumeMounts
name logs-volume
mountPath /logs
volumes
name logs-volume
hostPath
path /root/logs
type DirectoryOrCreate # 目录存在就使用,不存在就先创建后使用
NFS
HostPath可以解决数据持久化的问题,但是一旦Node节点故障了,Pod如果转移到了别的节点,又会出现问题了,此时需要准备单独的网络存储系统,比较常用的用NFS、CIFS。
NFS是一个网络文件存储系统,可以搭建一台NFS服务器,然后将Pod中的存储直接连接到NFS系统上,这样的话,无论Pod在节点上怎么转移,只要Node跟NFS的对接没问题,数据就可以成功访问。
1、要准备 nfs 服务器:
# 在nfs上安装nfs服务
[root@nfs ~]# yum install nfs-utils -y
# 准备一个共享目录
[root@nfs ~]# mkdir /root/data/nfs -pv
# 将共享目录以读写权限暴露给192.168.5.0/24网段中的所有主机
[root@nfs ~]# vim /etc/exports
[root@nfs ~]# more /etc/exports
/root/data/nfs 192.168.5.0/24(rw,no_root_squash)
# 启动nfs服务
[root@nfs ~]# systemctl restart nfs
2、在每个node节点上都安装下nfs,这样的目的是为了node节点可以驱动nfs设备
# 在node上安装nfs服务,注意不需要启动
[root@k8s-master01 ~]# yum install nfs-utils -y
3、编写pod的配置文件了,创建volume-nfs.yaml
apiVersion v1
kind Pod
metadata
name volume-nfs
namespace dev
spec
containers
name nginx
image nginx1.17.1
ports
containerPort80
volumeMounts
name logs-volume
mountPath /var/log/nginx
name busybox
image busybox1.30
command"/bin/sh""-c""tail -f /logs/access.log"
volumeMounts
name logs-volume
mountPath /logs
volumes
name logs-volume
nfs
server 192.168.5.6 #nfs服务器地址
path /root/data/nfs #共享文件路径
4、运行下pod,观察结果
# 创建pod
root@k8s-master01 ~ # kubectl create -f volume-nfs.yaml
pod/volume-nfs created
# 查看pod
root@k8s-master01 ~ # kubectl get pods volume-nfs -n dev
NAME READY STATUS RESTARTS AGE
volume-nfs 2/2 Running 0 2m9s
# 查看nfs服务器上的共享目录,发现已经有文件了
root@k8s-master01 ~ # ls /root/data/
access.log error.log
高级存储
由于kubernetes支持的存储系统有很多,要求客户全都掌握,显然不现实。为了能够屏蔽底层存储实现的细节,方便用户使用, kubernetes引入PV和PVC两种资源对象。
- PV(Persistent Volume)是持久化卷的意思,是对底层的共享存储的一种抽象。一般情况下PV由kubernetes管理员进行创建和配置,它与底层具体的共享存储技术有关,并通过插件完成与共享存储的对接。
- PVC(Persistent Volume Claim)是持久卷声明的意思,是用户对于存储需求的一种声明。换句话说,PVC其实就是用户向kubernetes系统发出的一种资源需求申请。
使用了PV和PVC之后,工作可以得到进一步的细分:
- 存储:存储工程师维护
- PV: kubernetes管理员维护
- PVC:kubernetes用户维护
PV
PV是存储资源的抽象。
apiVersion v1
kind PersistentVolume
metadata
name pv2
spec
nfs# 存储类型,和底层正则的存储对应
path
server
capacity# 存储能力,目前只支持存储空间的设置
storage 2Gi
accessModes# 访问模式
-
storageClassName# 存储类别
persistentVolumeReclaimPolicy# 回收策略
PV 的关键配置参数说明:
- 存储类型
底层实际存储的类型,kubernetes支持多种存储类型,每种存储类型的配置都有所差异
存储能力(capacity)
目前只支持存储空间的设置( storage=1Gi ),不过未来可能会加入IOPS、吞吐量等指标的配置
- 访问模式(accessModes)
用于描述用户应用对存储资源的访问权限,访问权限包括下面几种方式:
ReadWriteOnce(RWO):读写权限,但是只能被单个节点挂载
ReadOnlyMany(ROX): 只读权限,可以被多个节点挂载
ReadWriteMany(RWX):读写权限,可以被多个节点挂载
需要注意的是,底层不同的存储类型可能支持的访问模式不同
- 回收策略(persistentVolumeReclaimPolicy)
当PV不再被使用了之后,对其的处理方式。目前支持三种策略:
Retain (保留) 保留数据,需要管理员手工清理数据
Recycle(回收) 清除 PV 中的数据,效果相当于执行 rm -rf /thevolume/*
Delete (删除) 与 PV 相连的后端存储完成 volume 的删除操作,当然这常见于云服务商的存储服务
需要注意的是,底层不同的存储类型可能支持的回收策略不同
存储类别
PV可以通过storageClassName参数指定一个存储类别
具有特定类别的PV只能与请求了该类别的PVC进行绑定
未设定类别的PV则只能与不请求任何类别的PVC进行绑定
- 状态(status)
一个 PV 的生命周期中,可能会处于4中不同的阶段:
Available(可用): 表示可用状态,还未被任何 PVC 绑定
Bound(已绑定): 表示 PV 已经被 PVC 绑定
Released(已释放): 表示 PVC 被删除,但是资源还未被集群重新声明
Failed(失败): 表示该 PV 的自动回收失败
示例
1、准备环境
# 创建目录
root@nfs ~ # mkdir /root/data/ pv1 pv2 pv3 -pv
# 暴露服务
root@nfs ~ # more /etc/exports
/root/data/pv1 192.168.5.0/24(rw,no_root_squash)
/root/data/pv2 192.168.5.0/24(rw,no_root_squash)
/root/data/pv3 192.168.5.0/24(rw,no_root_squash)
# 重启服务
root@nfs ~ # systemctl restart nfs
2、创建pv.yaml
apiVersion v1
kind PersistentVolume
metadata
name pv1
spec
capacity
storage 1Gi
accessModes
ReadWriteMany
persistentVolumeReclaimPolicy Retain
nfs
path /root/data/pv1
server192.168.5.6
---
apiVersion v1
kind PersistentVolume
metadata
name pv2
spec
capacity
storage 2Gi
accessModes
ReadWriteMany
persistentVolumeReclaimPolicy Retain
nfs
path /root/data/pv2
server192.168.5.6
---
apiVersion v1
kind PersistentVolume
metadata
name pv3
spec
capacity
storage 3Gi
accessModes
ReadWriteMany
persistentVolumeReclaimPolicy Retain
nfs
path /root/data/pv3
server192.168.5.6
PVC
PVC是资源的申请,用来声明对存储空间、访问模式、存储类别需求信息。
apiVersion v1
kind PersistentVolumeClaim
metadata
name pvc
namespace dev
spec
accessModes# 访问模式
selector# 采用标签对PV选择
storageClassName# 存储类别
resources# 请求空间
requests
storage 5Gi
PVC 的关键配置参数说明:
- 访问模式(accessModes)
用于描述用户应用对存储资源的访问权限
- 选择条件(selector)
通过Label Selector的设置,可使PVC对于系统中己存在的PV进行筛选
- 存储类别(storageClassName)
PVC在定义时可以设定需要的后端存储的类别,只有设置了该class的pv才能被系统选出
- 资源请求(Resources )
描述对存储资源的请求
示例:
apiVersion v1
kind Pod
metadata
name pod1
namespace dev
spec
containers
name busybox
image busybox1.30
command"/bin/sh""-c""while true;do echo pod1 >> /root/out.txt; sleep 10; done;"
volumeMounts
name volume
mountPath /root/
volumes
name volume
persistentVolumeClaim
claimName pvc1
readOnlyfalse
---
apiVersion v1
kind Pod
metadata
name pod2
namespace dev
spec
containers
name busybox
image busybox1.30
command"/bin/sh""-c""while true;do echo pod2 >> /root/out.txt; sleep 10; done;"
volumeMounts
name volume
mountPath /root/
volumes
name volume
persistentVolumeClaim
claimName pvc2
readOnlyfalse
生命周期
PVC和PV是一一对应的,PV和PVC之间的相互作用遵循以下生命周期:
- 资源供应:管理员手动创建底层存储和PV
- 资源绑定:用户创建PVC,kubernetes负责根据PVC的声明去寻找PV,并绑定
在用户定义好PVC之后,系统将根据PVC对存储资源的请求在已存在的PV中选择一个满足条件的
一旦找到,就将该PV与用户定义的PVC进行绑定,用户的应用就可以使用这个PVC了
如果找不到,PVC则会无限期处于Pending状态,直到等到系统管理员创建了一个符合其要求的PV
PV一旦绑定到某个PVC上,就会被这个PVC独占,不能再与其他PVC进行绑定了
- 资源使用:用户可在pod中像volume一样使用pvc
Pod使用Volume的定义,将PVC挂载到容器内的某个路径进行使用。 - 资源释放:用户删除pvc来释放pv
当存储资源使用完毕后,用户可以删除PVC,与该PVC绑定的PV将会被标记为“已释放”,但还不能立刻与其他PVC进行绑定。通过之前PVC写入的数据可能还被留在存储设备上,只有在清除之后该PV才能再次使用。
- 资源回收:kubernetes根据pv设置的回收策略进行资源的回收
对于PV,管理员可以设定回收策略,用于设置与之绑定的PVC释放资源之后如何处理遗留数据的问题。只有PV的存储空间完成回收,才能供新的PVC绑定和使用