Kubernetes Workload Rightsizing

Zodra je op een (multi-tenant) Kubernetes cluster met quotas gaat werken wordt het gebruik van requests en/of limits verplicht voor alle workloads. Vooral met requests komt het regelmatig voor dat applicatieteams per container veel meer resources aanvragen dan ze echt nodig hebben en gebruiken. Dit zorgt ervoor dat clusters moeten groeien met extra nodes, want gereserveerde resources kunnen niet door anderen gereserveerd worden, en in het geval van geheugen zelfs niet gebruikt.

Om te zorgen dat de kosten niet te hard stijgen, en dat resources efficiënter worden gebruikt, is de taak aan alle gebruikers, en d beheerders, om te gaan “rightsizen”, het goed instellen van de requests en limits aan de hand van het echte (verwachte) gebruik om verspilling tegen te gaan.

Openshift Vertical Pod Autoscalers

Één van de uitdagingen die wij vaak zien bij klanten op het gebied van platform management is het “right-sizen” van applicaties; Het goed zetten van de requests en limits voor applicaties zodat ze altijd aan resources kunnen gebruiken wat ze nodig hebben, maar niet onnodig veel aanvragen dat niet door de rest van de applicaties op het cluster gebruikt kan worden.

Naast educatie van applicatie teams, een belangrijke stap, kan het ook handig zijn om teams (geautomatiseerde) adviezen te geven over de “juiste” instellingen voor hun applicaties. Een tool die daarbij kan helpen is de Vertical Pod Autoscaler van OpenShift.