k8s生产部署（三）：安装NFS
2021-03-09 20:23:03前提条件，先到腾讯云购买一块cfs
这里加上cfs的ip地址为：172.16.0.8
一、挂载cfs
1. 启动 NFS 客户端
yum install nfs-utils
2. 创建待挂载目标目录
mkdir -p /nfs/
3. 挂载文件系统
sudo mount -t nfs -o vers=4.0,noresvport 172.16.0.8:/ /nfs
4. 创建k8s文件夹用于存k8s的文件夹
cd ../nfs
mkdir k8s #这里加上我们把文件都存储在cfs文件系统下的k8s目录下
二、设置开机自动挂载
第一步挂载cfs虽然成功，但当服务器重启时，要重新执行挂载。因此我们要实现开机自动挂载，这里使用autofs来实现
yum install autofs -y
vim /etc/auto.master
/nfs /etc/auto.misc
vim /etc/auto.misc
k8s -rw,soft,intr 172.16.0.8:/k8s
systemctl enable autofs
三、配置授权
# 清理rbac授权
kubectl delete -f nfs-rbac.yaml -n kube-system
# 编写yaml
cat >nfs-rbac.yaml<<-EOF
---
kind: ServiceAccount
apiVersion: v1
metadata:
name: nfs-client-provisioner
---
kind: ClusterRole
apiVersion: rbac.authorization.k8s.io/v1
metadata:
name: nfs-client-provisioner-runner
rules:
- apiGroups: [""]
resources: ["persistentvolumes"]
verbs: ["get", "list", "watch", "create", "delete"]
- apiGroups: [""]
resources: ["persistentvolumeclaims"]
verbs: ["get", "list", "watch", "update"]
- apiGroups: ["storage.k8s.io"]
resources: ["storageclasses"]
verbs: ["get", "list", "watch"]
- apiGroups: [""]
resources: ["events"]
verbs: ["create", "update", "patch"]
---
kind: ClusterRoleBinding
apiVersion: rbac.authorization.k8s.io/v1
metadata:
name: run-nfs-client-provisioner
subjects:
- kind: ServiceAccount
name: nfs-client-provisioner
namespace: kube-system
roleRef:
kind: ClusterRole
name: nfs-client-provisioner-runner
apiGroup: rbac.authorization.k8s.io
---
kind: Role
apiVersion: rbac.authorization.k8s.io/v1
metadata:
name: leader-locking-nfs-client-provisioner
rules:
- apiGroups: [""]
resources: ["endpoints"]
verbs: ["get", "list", "watch", "create", "update", "patch"]
---
kind: RoleBinding
apiVersion: rbac.authorization.k8s.io/v1
metadata:
name: leader-locking-nfs-client-provisioner
subjects:
- kind: ServiceAccount
name: nfs-client-provisioner
# replace with namespace where provisioner is deployed
namespace: kube-system
roleRef:
kind: Role
name: leader-locking-nfs-client-provisioner
apiGroup: rbac.authorization.k8s.io
EOF
# 应用授权
kubectl apply -f nfs-rbac.yaml -n kube-system
四、部署 NFS Provisioner
# 清理NFS Provisioner资源
kubectl delete -f nfs-provisioner-deploy.yaml -n kube-system
# 编写deployment.yaml
cat >nfs-provisioner-deploy.yaml<<-EOF
---
kind: Deployment
apiVersion: apps/v1
metadata:
name: nfs-client-provisioner
spec:
replicas: 1
selector:
matchLabels:
app: nfs-client-provisioner
strategy:
type: Recreate #---设置升级策略为删除再创建(默认为滚动更新)
template:
metadata:
labels:
app: nfs-client-provisioner
spec:
serviceAccountName: nfs-client-provisioner
containers:
- name: nfs-client-provisioner
#---由于quay.io仓库国内被墙，所以替换成七牛云的仓库
#image: quay-mirror.qiniu.com/external_storage/nfs-client-provisioner:latest
image: registry.cn-hangzhou.aliyuncs.com/open-ali/nfs-client-provisioner:latest
volumeMounts:
- name: nfs-client-root
mountPath: /persistentvolumes
env:
- name: PROVISIONER_NAME
value: nfs-client #---nfs-provisioner的名称，以后设置的storageclass要和这个保持一致
- name: NFS_SERVER
value: 172.16.0.8 #---NFS服务器地址，和 valumes 保持一致
- name: NFS_PATH
value: /k8s #---NFS服务器目录，和 valumes 保持一致
volumes:
- name: nfs-client-root
nfs:
server: 172.16.0.8 #---NFS服务器地址
path: /k8s #---NFS服务器目录
EOF
# 部署deployment.yaml
kubectl apply -f nfs-provisioner-deploy.yaml -n kube-system
# 查看创建的pod
kubectl get pod -o wide -n kube-system|grep nfs-client
# 查看pod日志
kubectl logs -f `kubectl get pod -o wide -n kube-system|grep nfs-client|awk '{print $1}'` -n kube-system
五、创建 StorageClass
注意storageClass没有命名空间，它可以被所有命名空间使用
# 清理storageclass资源
kubectl delete -f nfs-storage.yaml
# 编写yaml
cat >nfs-storage.yaml<<-EOF
apiVersion: storage.k8s.io/v1
kind: StorageClass
metadata:
name: nfs-storage
annotations:
storageclass.kubernetes.io/is-default-class: "true" #---设置为默认的storageclass
provisioner: nfs-client #---动态卷分配者名称，必须和上面创建的"PROVISIONER_NAME"变量中设置的Name一致
parameters:
archiveOnDelete: "true" #---设置为"false"时删除PVC不会保留数据,"true"则保留数据
mountOptions:
- hard #指定为硬挂载方式
- nfsvers=4 #指定NFS版本，这个需要根据 NFS Server 版本号设置
EOF
#部署class.yaml
kubectl apply -f nfs-storage.yaml
#查看创建的storageclass(这里可以看到nfs-storage已经变为默认的storageclass了)
kubectl get sc
NAME PROVISIONER AGE
nfs-storage (default) nfs-client 3m38s
六、创建 PVC 和 Pod 进行测试
1、创建测试 PVC
# 删除命令空间
kubectl delete ns kube-public
# 创建命名空间
kubectl create ns kube-public
# 清理pvc
kubectl delete -f test-claim.yaml -n kube-public
# 编写yaml
cat >test-claim.yaml<<EOF
kind: PersistentVolumeClaim
apiVersion: v1
metadata:
name: test-claim
spec:
storageClassName: nfs-storage #---需要与上面创建的storageclass的名称一致
accessModes:
- ReadWriteMany
resources:
requests:
storage: 100Gi
EOF
#创建PVC
kubectl apply -f test-claim.yaml -n kube-public
#查看创建的PV和PVC，查看 STATUS 状态是否为 “Bound”
kubectl get pvc -n kube-public
NAME STATUS VOLUME CAPACITY ACCESS MODES STORAGECLASS AGE
test-claim Bound pvc-593f241f-a75f-459a-af18-a672e5090921 100Gi RWX nfs-storage 3s
kubectl get pv
#然后，我们进入到NFS的export目录，可以看到对应该volume name的目录已经创建出来了。其中volume的名字是namespace，PVC name以及uuid的组合：
#注意，出现pvc在pending的原因可能为nfs-client-provisioner pod 出现了问题，删除重建的时候会出现镜像问题
2、创建测试 Pod 并绑定 PVC
# 清理资源
kubectl delete -f test-pod.yaml -n kube-public
# 编写yaml
cat > test-pod.yaml <<EOF
kind: Pod
apiVersion: v1
metadata:
name: test-pod
spec:
containers:
- name: test-pod
image: busybox:latest
command:
- "/bin/sh"
args:
- "-c"
- "touch /mnt/SUCCESS && exit 0 || exit 1"
volumeMounts:
- name: nfs-pvc
mountPath: "/mnt"
restartPolicy: "Never"
volumes:
- name: nfs-pvc
persistentVolumeClaim:
claimName: test-claim
EOF
#创建pod
kubectl apply -f test-pod.yaml -n kube-public
#查看创建的pod
kubectl get pod -o wide -n kube-public
3、进入 NFS Server 服务器验证是否创建对应文件
$ cd /nfs/k8s
$ ls
# 可以看到已经生成 SUCCESS 该文件，并且可知通过 NFS Provisioner 创建的目录命名方式为 “namespace名称-pvc名称-pv名称”，pv 名称是随机字符串，所以每次只要不删除 PVC，那么 Kubernetes 中的与存储绑定将不会丢失，要是删除 PVC 也就意味着删除了绑定的文件夹，下次就算重新创建相同名称的 PVC，生成的文件夹名称也不会一致，因为 PV 名是随机生成的字符串，而文件夹命名又跟 PV 有关,所以删除 PVC 需谨慎。
