La Wikipedida define Kubernetes como (referido en inglés comúnmente como “K8s”) un sistema de código libre para la automatización del despliegue, ajuste de escala y manejo de aplicaciones en contenedores .

A esta clase de software se la conoce como orquestadores, existen varios y cada uno tienen sus propias características

Vamos a crear un cluster con almenos tres nodos , 1 manager y 2 workers (utilizar siempre un número impar de nodos) con unos requisitos mínimos de 2vCPUs y 2 GB de memoria por cada nodo.

Además necesitaremos conectividad de red entre todos los nodos

Vamos a realizar los siguientes pasos tanto en el manager como en el resto de nodos Lo primero será deshabilitar la swap

• temporalmente (hasta que reiniciemos )con el comando swapoff -a
• Definitivamente editando el fichero /etc/fstab y comentando la línea de la partición del swap
• Permitimos a iptable ver el trafico en modo bridge . Para ello tenemos que cargar el módulo

  modprobe br_netfilter

  y activarlo al arrancar con

  echo '1' > /proc/sys/net/bridge/bridge-nf-call-iptables

  o bien creamos un fichero de configuración para que se cargue en /etc/sysctl.d incluido el manager

cat <<EOF >  /etc/sysctl.d/k8s.conf
net.bridge.bridge-nf-call-ip6tables = 1
net.bridge.bridge-nf-call-iptables = 1
EOF

y aplicamos los cambios con

sysctl --system

• deshabilitamos SElinux

  sudo setenforce 0
  sudo sed -i 's/^SELINUX=enforcing$/SELINUX=permissive/' /etc/selinux/config

• instalamos los requisitos para instalar docker

  yum install -y yum-utils device-mapper-persistent-data lvm2

• añadimos el repositorio e instalamos docker

  yum-config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo

sudo yum update -y && sudo yum install -y  containerd.io-1.2.13  docker-ce-19.03.11  docker-ce-cli-19.03.11

• Creamos el directorio /etc/docker

  sudo mkdir /etc/docker

• Declaramos el demonio para docker

  cat <<EOF | sudo tee /etc/docker/daemon.json
  {
    "exec-opts": ["native.cgroupdriver=systemd"],
    "log-driver": "json-file",
    "log-opts": {
      "max-size": "100m"
    },
    "storage-driver": "overlay2",
    "storage-opts": [
      "overlay2.override_kernel_check=true"
    ]
  }
  EOF

• creamos el directorio del servicio

  sudo mkdir -p /etc/systemd/system/docker.service.d

• Recargamos

  systemctl daemon-reload && sudo systemctl restart docker

• Lo ponemos para que arranque al inicio

  systemctl enable docker && systemctl start docker

cat <<EOF > /etc/yum.repos.d/kubernetes.repo
[kubernetes]
name=Kubernetes
baseurl=https://packages.cloud.google.com/yum/repos/kubernetes-el7-x86_64
enabled=1
gpgcheck=1
repo_gpgcheck=1
gpgkey=https://packages.cloud.google.com/yum/doc/yum-key.gpg https://packages.cloud.google.com/yum/doc/rpm-package-key.gpg
EOF

Instalamos los paquetes

yum update
yum install -y kubelet kubeadm kubectl

• Lo ponemos para que arranque al inicio

systemctl enable kubelet && systemctl start kubelet

Comprobamos que kubernetes y docker están en el mismo grupo de control ( cgroup)

Para verificar el cgroup de docker

docker info | grep -i cgroup

Para añadir kubernetes al mismo cgroup

sed -i 's/cgroup-driver=systemd/cgroup-driver=cgroupfs/g' /etc/systemd/system/kubelet.service.d/10-kubeadm.conf

sed -i 's/cgroup-driver=systemd/cgroup-driver=cgroupfs/g' /usr/lib/systemd/system/kubelet.service.d/10-kubeadm.conf

Reiniciamos los servicios

systemctl daemon-reload
systemctl restart kubelet

Como el Firewalld está habilitado en CentOS de manera predeterminada, tenemos que abrir los siguientes puertos para permitir la comunicación con los nodos

firewall-cmd --permanent --add-port=6443/tcp
firewall-cmd --permanent --add-port=2379-2380/tcp
firewall-cmd --permanent --add-port=10250/tcp
firewall-cmd --permanent --add-port=10251/tcp
firewall-cmd --permanent --add-port=10252/tcp
firewall-cmd --permanent --add-port=10255/tcp
firewall-cmd –-reload

Iniciamos el cluster

kubeadm init  --pod-network-cidr=10.244.0.0/16  --apiserver-advertise-address=<ip_del_nodo_manager> 

Cuando este comando termina nos aparecerá un comando con el token y el hash para unir los nodos. Este comando deberemos de guardarlos para añadir los nodos.

Antes de usar Kubernetes deberemos de ejecutar los siguientes comandos para terminar la configuración.

• Si kubernetes lo vamos a lanzar como root sólo debemos ejecutar el siguiente comando

  export KUBECONFIG=/etc/kubernetes/admin.conf

• Si lo vamos a lanzar como otro usuario deberemos de crear un directorio para la configuración, copiar los archivos necesarios y darle permisos sobre dichos archivos

  mkdir -p $HOME/.kube
  sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
  sudo chown $(id -u):$(id -g) $HOME/.kube/config
  

Ahora debemos de definir el modelo de red que queremos usar en kubernetes , hay varias aproximaciones cada una con distitas características (https://kubernetes.io/docs/concepts/cluster-administration/networking/)

Si por ejemplo vamos a usar flannel ejecutariamos en el manager

kubectl apply -f https://raw.githubusercontent.com/coreos/flannel/master/Documentation/kube-flannel.yml

Si usamos weave el comando sería

 kubectl apply -f "https://cloud.weave.works/k8s/net?k8s-version=$(kubectl version | base64 | tr -d '\n')"

Si queremos comprobar si se ha instalado correctamente podemos ejecutar

kubectl  get pods --all-namespaces

Abrimos los puertos para la comunicación con el resto de nodos

firewall-cmd --permanent --add-port=10251/tcp
firewall-cmd --permanent --add-port=10255/tcp
firewall-cmd –-reload

Como último punto tenemos que añadir los nodos al manager. Para ello usaremos el comando que habiamos guardado cuando iniciamos el cluster y lo ejecutamos en los nodos que vamos a unir al cluster

kubeadm join ipmanager:6443 --token MITOKEN --discovery-token-ca-cert-hash MIDISCOVERY_TOKEN

Para ver que todo está funcionando y los nodos están registrados ejecutamos en el manager

kubectl get nodes

Editar el fichero /usr/lib/systemd/system/docker.service y cambiar la línea

ExecStart=/usr/bin/dockerd \
          --exec-opt native.cgroupdriver=systemd

https://github.com/flannel-io/flannel/blob/master/Documentation/troubleshooting.md

Si tenemos este problema con el driver kube-flannel es debido a que al ejecutar kubeadm init no especificamos la opción –pod-network-cidr=<red para pods>. Para comprobar si está definida ejecutamos para cada nodo

kubectl get nodes -o jsonpath='{.items[*].spec.podCIDR}'

Para definir el PodCIDR en un nodo

kubectl patch node <NODE_NAME> -p '{"spec":{"podCIDR":"<SUBNET>"}}' 

Por ejemplo

kubectl patch node slave1 -p '{"spec":{"podCIDR":"10.244.0.0/16"}}'"

• https://kubernetes.io/docs/setup/production-environment/tools/kubeadm/install-kubeadm/
• https://www.techrepublic.com/article/how-to-deploy-nginx-on-a-kubernetes-cluster/
• https://www.techrepublic.com/article/how-to-install-a-kubernetes-cluster-on-centos-7/
• https://computingforgeeks.com/install-kubernetes-cluster-on-centos-with-kubeadm/
• https://www.doblefactor.com/devops/como-instalar-un-cluster-de-kubernetes-en-centos-7/
• https://phoenixnap.com/kb/how-to-install-kubernetes-on-centos
• https://medium.com/liveness-y-readiness-probe/instalaci%C3%B3n-de-kubernetes-onpremise-638609f2bb1e
• https://blog.mauriciovillagran.uy/2019/Kubernetes-Lab/
• https://rescalante.com/blog/view/f08ff837-5fcf-4b3c-81ac-0592014c6631