Kubernetes环境搭建

• • 安装方式
  • 环境：
  • 安装docker
  • 安装kubernetes组件
  • • 准备集群镜像
    • 集群初始化
    • 安装网络
  • 服务部署

kubernetes有多种部署方式，目前主流的方式有kubeadm、minikube、二进制包

• minikube：一个用于快速搭建单节点kubernetes的工具
• kubeadm：一个用于快速搭建kubernetes集群的工具
• 二进制包 ：从官网下载每个组件的二进制包，依次去安装，此方式对于理解kubernetes组件更加有效

说明：现在需要安装kubernetes的集群环境，但是又不想过于麻烦，所以选择使用kubeadm方式

三台ubuntu 20.04服务器（一主两从），这篇博文除非特别说明，都是在三台机子相同操作。

1. CPU：2核 内存：2G 硬盘：50G

2. 设置主机名：master，node1，node2

   为了方便后面集群节点间的直接调用，在这配置一下主机名解析，企业中推荐使用内部DNS服务器

   同时在/etc/hosts文件下，配置主机名解析：

   192.168.120.100  master
   192.168.120.101  node1
   192.168.120.102  node2
   

3. 时间设置自动获取时间。（从网络同步时间）

4. 关闭firewalld服务和iptables服务（ubuntu20.04没有，所以就没有关闭）

5. 禁用selinux（ubuntu20.04没有config文件）

6. 禁用swap分区

   swap分区指的是虚拟内存分区，它的作用是在物理内存使用完之后，将磁盘空间虚拟成内存来使用

   启用swap设备会对系统的性能产生非常负面的影响，因此kubernetes要求每个节点都要禁用swap设备

   但是如果因为某些原因确实不能关闭swap分区，就需要在集群安装过程中通过明确的参数进行配置说明

   注释掉/etc/fstab最后一行关于swap就可以了

7. 修改linux的内核参数

   # 修改linux的内核参数，添加网桥过滤和地址转发功能
   # 编辑/etc/sysctl.d/kubernetes.conf文件，添加如下配置:
   net.bridge.bridge-nf-call-ip6tables = 1
   net.bridge.bridge-nf-call-iptables = 1
   net.ipv4.ip_forward = 1
   
   # 重新加载配置
   [root@master ~]# sysctl -p
   
   # 加载网桥过滤模块
   [root@master ~]# modprobe br_netfilter
   
   # 查看网桥过滤模块是否加载成功
   [root@master ~]# lsmod | grep br_netfilter
   

8. 配置ipvs功能模块

   # 1 安装ipset和ipvsadm
   [root@master ~]# apt-get install ipset ipvsadmin -y
   
   # 2 添加需要加载的模块写入脚本文件
   [root@master ~]# cat <  /etc/sysconfig/modules/ipvs.modules
   #!/bin/bash
   modprobe -- ip_vs
   modprobe -- ip_vs_rr
   modprobe -- ip_vs_wrr
   modprobe -- ip_vs_sh
   modprobe -- nf_conntrack
   EOF
   
   # 3 为脚本文件添加执行权限
   [root@master ~]# chmod +x /etc/sysconfig/modules/ipvs.modules
   
   # 4 执行脚本文件
   [root@master ~]# /bin/bash /etc/sysconfig/modules/ipvs.modules
   
   # 5 查看对应的模块是否加载成功
   [root@master ~]# lsmod | grep -e ip_vs -e nf_conntrack
   

9. 重启服务器

   上面步骤完成之后，需要重新启动linux系统

   [root@master ~]# reboot
   

1. 卸载旧版本

   apt-get remove docker 
   	docker-engine 
   	docker.io
   

2. 可选内核模块

   apt-get update
   apt-get install 
   	linux-image-extra-$(uname -r) 
   	linux-image-extra-virtual
   

3. 使用APT安装

   由于 apt 源使用 HTTPS 以确保软件下载过程中不被篡改。 因此， 我们首先需要添加使用HTTPS 传输的软件包以及 CA 证书。

   apt-get update
   apt-get install 
   	apt-transport-https 
   	ca-certificates 
   	curl 
   	software-properties-common
   

   为了确认所下载软件包的合法性， 需要添加软件源的 GPG 密钥。

   curl -fsSL https://mirrors.ustc.edu.cn/docker-ce/linux/ubuntu/gpg | sudo apt-key add -
   

   然后， 需要向 source.list 中添加 Docker 软件源

   add-apt-repository 
   	"deb [arch=amd64] https://mirrors.ustc.edu.cn/docker-ce/linux/ubuntu 
   	$(lsb_release -cs) 
   	stable"
   

4. 安装docker-CE

   apt-get update
   apt-get install docker-ce
   

5. 添加一个配置文件

  # Docker在默认情况下使用的Cgroup Driver为cgroupfs，而kubernetes推荐使用systemd来代替cgroupfs
  mkdir /etc/docker
  cat <  /etc/docker/daemon.json
  {
    "exec-opts": ["native.cgroupdriver=systemd"],
    "registry-mirrors": ["https://kn0t2bca.mirror.aliyuncs.com"]
  }
  EOF

6. 启动docker

   systemctl enable docker
   systemctl start docker
   

7. 检查docker状态和版本

 docker version

apt-get update && apt-get install -y apt-transport-https

curl https://mirrors.aliyun.com/kubernetes/apt/doc/apt-key.gpg | apt-key add - 

cat </etc/apt/sources.list.d/kubernetes.list
deb https://mirrors.aliyun.com/kubernetes/apt/ kubernetes-xenial main
EOF

apt-get update

apt-get install -y kubelet kubeadm kubectl


# 配置kubelet的cgroup
# 编辑/etc/sysconfig/kubelet，添加下面的配置
KUBELET_CGROUP_ARGS="--cgroup-driver=systemd"
KUBE_PROXY_MODE="ipvs"

# 4 设置kubelet开机自启
[root@master ~]# systemctl enable kubelet

# 在安装kubernetes集群之前，必须要提前准备好集群需要的镜像，所需镜像可以通过下面命令查看
[root@master ~]# kubeadm config images list

# 下载镜像
# 此镜像在kubernetes的仓库中,由于网络原因,无法连接，下面提供了一种替代方案
images=(
    kube-apiserver:v1.23.6
    kube-controller-manager:v1.23.6
    kube-scheduler:v1.23.6
    kube-proxy:v1.23.6
    pause:3.6
    etcd:3.5.1-0
    coedns:1.8.6
)

for imageName in ${images[@]} ; do
	docker pull registry.cn-hangzhou.aliyuncs.com/google_containers/$imageName
	docker tag registry.cn-hangzhou.aliyuncs.com/google_containers/$imageName 		k8s.gcr.io/$imageName
	docker rmi registry.cn-hangzhou.aliyuncs.com/google_containers/$imageName
done

# 注意，在镜像拉去后，需要将coredns的tag给改成k8s.gcr.io/coredns/coredns

下面开始对集群进行初始化，并将node节点加入到集群中

下面的操作只需要在master节点上执行即可

# 创建集群
kubeadm init 
	--kubernetes-version=v1.23..4 
    --pod-network-cidr=10.244.0.0/16 
    --service-cidr=10.96.0.0/12 
    --apiserver-advertise-address=192.168.120.100

# 创建必要文件
mkdir -p $HOME/.kube
sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
sudo chown $(id -u):$(id -g) $HOME/.kube/config

下面的操作只需要在node节点上执行即可

# 将node节点加入集群
kubeadm join 192.168.109.100:6443  
	--token 8507uc.o0knircuri8etnw2 
	--discovery-token-ca-cert-hash 
	sha256:acc37967fb5b0acf39d7598f8a439cc7dc88f439a3f4d0c9cae88e7901b9d3f
	
# 查看集群状态 此时的集群状态为NotReady，这是因为还没有配置网络插件
[root@master ~]# kubectl get nodes
NAME     STATUS     ROLES    AGE     VERSION
master   NotReady   master   6m43s   v1.23.6
node1    NotReady      22s     v1.23.6
node2    NotReady      19s     v1.23.6

# 获取fannel的配置文件
wget https://raw.githubusercontent.com/coreos/flannel/master/Documentation/kube-flannel.yml

# 使用配置文件启动fannel
[root@master ~]# kubectl apply -f kube-flannel.yml

# 稍等片刻，再次查看集群节点的状态
[root@master ~]# kubectl get nodes
NAME     STATUS   ROLES    AGE     VERSION
master   Ready    master   15m     v1.23.6
node1    Ready       8m53s   v1.23.6
node2    Ready       8m50s   v1.23.6

至此，kubernetes的集群环境搭建完成。

接下来在kubernetes集群中部署一个nginx程序，测试下集群是否在正常工作。

# 部署nginx
kubectl create deployment nginx --image=nginx:1.14-alpine

# 暴露端口
kubectl expose deployment nginx --port=80 --type=NodePort

# 查看服务状态
kubectl get pods,service
NAME                         READY   STATUS    RESTARTS   AGE
pod/nginx-86c57db685-fdc2k   1/1     Running   0          18m

NAME                 TYPE        CLUSTER-IP      EXTERNAL-IP   PORT(S)        AGE
service/kubernetes   ClusterIP   10.96.0.1               443/TCP        82m
service/nginx        NodePort    10.104.121.45           80:30073/TCP   17m

# 4 最后在电脑上访问下部署的nginx服务