Aller au contenu

Lab 06 : Autoscaling d'un NodePool OKS

À l’issue de ce lab, vous serez capable de :

  • créer un NodePool avec autoscaling, borné par un nombre minimal et maximal de nœuds ;
  • placer une charge de travail sur ce NodePool avec un label de nœud et un nodeSelector ;
  • déclencher l’ajout de nœuds (scale-up) avec des Pods qui ne trouvent pas de place ;
  • observer la suppression automatique des nœuds inutiles (scale-down).

Dans ce lab, vous travaillez dans le cluster oks-lab01-cluster créé au Lab 01.

Vous ajoutez le NodePool oks-lab06-nodepool, dans la Sous-région eu-west-2a, avec l’autoscaling activé : il compte au minimum 2 nœuds et au maximum 4. Ses nœuds portent le label lab=oks-lab06.

Vous déployez ensuite dans le namespace oks-lab06 le Deployment oks-lab06-stress, dont les Pods ne peuvent s’exécuter que sur les nœuds de ce NodePool. Chaque Pod réserve 1,5 vCPU : un nœud de 2 vCPUs n’en accueille qu’un seul.

L’autoscaler d’OKS ne surveille pas la consommation réelle de CPU : il réagit aux Pods à l’état Pending, que le scheduler de Kubernetes ne peut placer sur aucun nœud faute de ressources réservables. Il ajoute alors des nœuds, dans la limite du maximum. Quand des nœuds n’ont plus de Pods à exécuter, il les supprime, dans la limite du minimum.

Avant de commencer, vous devez disposer :

  • du cluster oks-lab01-cluster à l’état ready, créé dans le Lab 01 ;
  • du fichier oks-lab01-kubeconfig.yaml récupéré dans le Lab 01 ;
  • de kubectl et octl installés et configurés (Lab 01) ;
  • de la possibilité d’ajouter jusqu’à 4 nœuds de type tinav7.c2r4p1 au cluster.

Le lab utilise la région eu-west-2.

Important :

  • l’autoscaling n’est pris en charge que pour les NodePools déployés dans une seule Sous-région ;
  • les nœuds qui portent des volumes locaux (par exemple montés avec hostPath) sont exclus de l’autoscaling et des mises à jour, pour éviter toute perte de données.
  1. Placez-vous dans le répertoire qui contient le fichier oks-lab01-kubeconfig.yaml, puis indiquez à kubectl de l’utiliser :

    Terminal window
    export KUBECONFIG=$PWD/oks-lab01-kubeconfig.yaml

    Remarque : si vous avez supprimé ce fichier, récupérez-le de nouveau :

    Terminal window
    (umask 077; octl kube cluster kubeconfig oks-lab01-cluster --project oks-lab01-project > oks-lab01-kubeconfig.yaml)
  2. Vérifiez l’accès au cluster :

    Terminal window
    kubectl get nodes
Terminal window
kubectl create namespace oks-lab06
  1. Créez un fichier oks-lab06-nodepool.yaml avec le contenu suivant :

    apiVersion: oks.dev/v1beta2
    kind: NodePool
    metadata:
    name: oks-lab06-nodepool
    spec:
    autoscaling: true
    desiredNodes: 2
    minNodes: 2
    maxNodes: 4
    nodeType: tinav7.c2r4p1
    zones:
    - eu-west-2a
    nodeLabels:
    lab: oks-lab06
    upgradeStrategy:
    maxUnavailable: 1
    maxSurge: 0
    autoUpgradeEnabled: true
    autoUpgradeMaintenance:
    durationHours: 1
    startHour: 12
    weekDay: Tue
    autoHealing: true
    • autoscaling: true : active l’autoscaling du NodePool.
    • minNodes et maxNodes : bornes du nombre de nœuds. L’autoscaler ne descend jamais sous minNodes et ne dépasse jamais maxNodes.
    • desiredNodes : nombre de nœuds à la création.
    • nodeType: tinav7.c2r4p1 : des VMs de 2 vCPUs et 4 Gio de mémoire.
    • zones : une seule Sous-région, condition de l’autoscaling.
    • nodeLabels : label ajouté à chaque nœud du NodePool, utilisé à l’étape 3 pour y placer les Pods.
  1. Appliquez le manifeste :

    Terminal window
    kubectl apply -f oks-lab06-nodepool.yaml
  2. Suivez la création du NodePool :

    Terminal window
    kubectl get nodepool oks-lab06-nodepool -w

    Exemple de sortie :

    NAME TYPE DESIRED NODES ATTACHED READY RUNNING PENDING CURRENT PROCESSING PHASE
    oks-lab06-nodepool tinav7.c2r4p1 2 0 0 0 0 creation
    oks-lab06-nodepool tinav7.c2r4p1 2 0 0 1 1 creation
    oks-lab06-nodepool tinav7.c2r4p1 2 0 0 2 0 idle

    Les colonnes correspondent aux étapes de la vie d’un nœud : RUNNING (la VM est démarrée), ATTACHED (le nœud s’est enregistré dans le cluster) et READY (le nœud peut recevoir des Pods). La phase idle signifie que les VMs ont été créées, pas que les nœuds sont prêts.

    Appuyez sur Ctrl+C, puis relancez kubectl get nodepool oks-lab06-nodepool jusqu’à ce que les colonnes ATTACHED et READY affichent 2 (une à deux minutes) :

    NAME TYPE DESIRED NODES ATTACHED READY RUNNING PENDING CURRENT PROCESSING PHASE
    oks-lab06-nodepool tinav7.c2r4p1 2 2 2 2 0 idle
  3. Listez les nœuds qui portent le label lab=oks-lab06 :

    Terminal window
    kubectl get nodes -l lab=oks-lab06

    Exemple de sortie :

    NAME STATUS ROLES AGE VERSION
    ip-10-50-34-159 Ready <none> 3m v1.35.6
    ip-10-50-42-1 Ready <none> 3m v1.35.6

    Seuls les deux nœuds du NodePool oks-lab06-nodepool s’affichent. Les nœuds des NodePools du Lab 01 n’ont pas ce label.

  1. Créez un fichier oks-lab06-stress.yaml avec le contenu suivant :

    apiVersion: apps/v1
    kind: Deployment
    metadata:
    name: oks-lab06-stress
    namespace: oks-lab06
    spec:
    replicas: 7
    selector:
    matchLabels:
    app: oks-lab06-stress
    template:
    metadata:
    labels:
    app: oks-lab06-stress
    spec:
    nodeSelector:
    lab: oks-lab06
    containers:
    - name: stress
    image: vish/stress
    args: ["-cpus", "1"]
    resources:
    requests:
    cpu: "1500m"
    memory: "512Mi"
    limits:
    cpu: "2000m"
    memory: "1Gi"
    • nodeSelector : les Pods ne peuvent s’exécuter que sur les nœuds qui portent le label lab=oks-lab06, c’est-à-dire ceux du NodePool oks-lab06-nodepool.
    • requests.cpu: "1500m" : chaque Pod réserve 1,5 vCPU. C’est cette réservation, et non la consommation réelle, que le scheduler et l’autoscaler prennent en compte.
    • replicas: 7 : 7 Pods demandent 10,5 vCPUs, soit plus que la capacité maximale du NodePool (4 nœuds).
  2. Appliquez le manifeste :

    Terminal window
    kubectl apply -f oks-lab06-stress.yaml
  1. Affichez les Pods et le nœud de chacun :

    Terminal window
    kubectl get pods -n oks-lab06 -o wide

    Exemple de sortie :

    NAME READY STATUS RESTARTS AGE IP NODE
    oks-lab06-stress-7dc77b76f5-22phs 1/1 Running 0 30s 10.91.3.12 ip-10-50-34-159
    oks-lab06-stress-7dc77b76f5-gvqjc 1/1 Running 0 30s 10.91.4.7 ip-10-50-42-1
    oks-lab06-stress-7dc77b76f5-d96bc 0/1 Pending 0 30s <none> <none>
    oks-lab06-stress-7dc77b76f5-nwbwp 0/1 Pending 0 30s <none> <none>
    oks-lab06-stress-7dc77b76f5-p9lsw 0/1 Pending 0 30s <none> <none>
    oks-lab06-stress-7dc77b76f5-qg9lf 0/1 Pending 0 30s <none> <none>
    oks-lab06-stress-7dc77b76f5-tls8c 0/1 Pending 0 30s <none> <none>

    Deux Pods s’exécutent, un par nœud. Les cinq autres sont à l’état Pending.

  2. Affichez la raison de l’attente des Pods Pending, dans les événements du namespace :

    Terminal window
    kubectl get events -n oks-lab06 --field-selector reason=FailedScheduling

    Exemple de sortie (extrait) :

    LAST SEEN TYPE REASON OBJECT MESSAGE
    83s Warning FailedScheduling pod/oks-lab06-stress-599fd5c5b5-692cl 0/4 nodes are available: 2 Insufficient cpu, 2 node(s) didn't match Pod's node affinity/selector. ...

    Le message résume la décision du scheduler pour les 4 nœuds du cluster :

    • 2 Insufficient cpu : les 2 nœuds portant le label lab=oks-lab06 n’ont plus assez de CPU réservable ;
    • 2 node(s) didn't match Pod's node affinity/selector : les 2 nœuds du NodePool du Lab 01 sont écartés par le nodeSelector.
  1. Suivez l’évolution du NodePool. Appuyez sur Ctrl+C quand la colonne READY affiche 4 (quelques minutes) :

    Terminal window
    kubectl get nodepool oks-lab06-nodepool -w

    Exemple de sortie :

    NAME TYPE DESIRED NODES ATTACHED READY RUNNING PENDING CURRENT PROCESSING PHASE
    oks-lab06-nodepool tinav7.c2r4p1 4 2 2 4 0 reconciliation
    oks-lab06-nodepool tinav7.c2r4p1 4 3 2 4 0 reconciliation
    oks-lab06-nodepool tinav7.c2r4p1 4 3 3 4 0 reconciliation
    oks-lab06-nodepool tinav7.c2r4p1 4 4 4 4 0 reconciliation
    oks-lab06-nodepool tinav7.c2r4p1 4 4 4 4 0 idle

    L’autoscaler a passé le nombre de nœuds souhaité (DESIRED NODES) de 2 à 4 : la valeur de maxNodes.

  2. Affichez de nouveau les Pods :

    Terminal window
    kubectl get pods -n oks-lab06 -o wide

    Quatre Pods s’exécutent, un sur chaque nœud. Trois Pods restent à l’état Pending : le NodePool a atteint maxNodes et ne peut plus grandir.

  1. Supprimez le Deployment pour retirer la charge :

    Terminal window
    kubectl delete -f oks-lab06-stress.yaml
  2. Suivez les nœuds du NodePool :

    Terminal window
    kubectl get nodes -l lab=oks-lab06 -w

    Après une dizaine de minutes sans Pod à exécuter, l’autoscaler supprime deux nœuds. Le NodePool revient à 2 nœuds, la valeur de minNodes. Appuyez sur Ctrl+C pour arrêter la surveillance.

    Exemple de sortie finale :

    NAME STATUS ROLES AGE VERSION
    ip-10-50-34-159 Ready <none> 25m v1.35.6
    ip-10-50-57-106 Ready <none> 14m v1.35.6

    Les nœuds conservés ne sont pas forcément les nœuds d’origine.

Pour valider votre lab, vérifiez les points suivants :

  • kubectl get nodepool oks-lab06-nodepool affiche le NodePool, de type tinav7.c2r4p1.
  • Pendant la charge, des Pods oks-lab06-stress étaient à l’état Pending avec le motif Insufficient cpu.
  • Pendant la charge, kubectl get nodes -l lab=oks-lab06 affichait 4 nœuds, la valeur de maxNodes.
  • Après la suppression du Deployment, kubectl get nodes -l lab=oks-lab06 affiche 2 nœuds, la valeur de minNodes.
  1. Relancez le Deployment oks-lab06-stress, puis passez-le à 3 réplicas : combien de nœuds le NodePool conserve-t-il au bout d’une dizaine de minutes ?
  2. Modifiez le manifeste du NodePool pour passer maxNodes à 3, appliquez-le, puis relancez le Deployment à 7 réplicas.

Question : Chaque Pod oks-lab06-stress consomme réellement 1 vCPU. L’autoscaler aurait-il ajouté des nœuds si les Pods avaient réservé seulement 100m de CPU chacun ?

💡 Correction — Passage à 3 réplicas
Terminal window
kubectl apply -f oks-lab06-stress.yaml
kubectl scale deployment oks-lab06-stress -n oks-lab06 --replicas=3
kubectl get nodes -l lab=oks-lab06 -w

Le NodePool conserve 3 nœuds : un par Pod, puisque chaque nœud n’accueille qu’un Pod de 1,5 vCPU. Le quatrième nœud, vide, est supprimé.

💡 Correction — Passage de `maxNodes` à 3

Modifiez la ligne maxNodes: 3 dans oks-lab06-nodepool.yaml, puis :

Terminal window
kubectl apply -f oks-lab06-nodepool.yaml
kubectl scale deployment oks-lab06-stress -n oks-lab06 --replicas=7
kubectl get pods -n oks-lab06

Trois Pods s’exécutent et quatre restent à l’état Pending : maxNodes limite à la fois la capacité et le coût du NodePool.

💡 Correction — Question du challenge

Non. Avec 100m réservés par Pod, les sept Pods (0,7 vCPU au total) sont tous placés sur les deux nœuds existants : aucun Pod n’est Pending, donc l’autoscaler n’ajoute aucun nœud, alors que les Pods consomment 7 vCPUs pour 4 vCPUs disponibles. Les nœuds sont saturés et les Pods ralentis. Des requests réalistes sont indispensables au bon fonctionnement de l’autoscaling.

Attention : avant de supprimer une ressource, vérifiez qu’elle n’est pas utilisée par d’autres labs.

Si vous prévoyez de continuer avec le Lab 07, ne supprimez pas les ressources du Lab 01 :

  • le cluster OKS oks-lab01-cluster et ses NodePools oks-lab01-nodepool-cli et oks-lab01-nodepool-yaml ;
  • le fichier kubeconfig oks-lab01-kubeconfig.yaml.

Supprimez les ressources suivantes, qui ne seront pas réutilisées :

  1. Supprimer le namespace, avec le Deployment s’il existe encore :

    Terminal window
    kubectl delete namespace oks-lab06
  2. Supprimer le NodePool. OKS supprime ses VMs :

    Terminal window
    kubectl delete nodepool oks-lab06-nodepool
  3. Vérifiez qu’il ne reste aucun nœud du NodePool :

    Terminal window
    kubectl get nodes -l lab=oks-lab06