Kubernetes è una piattaforma open source per l'orchestrazione dei container. Nato nel 2013 e chiamato con un termine greco per "pilota", Kubernetes è utilizzato per automatizzare vari processi software come la gestione, l'implementazione e la scalabilità.
In un Kubernetes Service, uno o più computer (che possono essere macchine virtuali o bare metal server) sono collegati in un cluster, dove possono essere eseguiti workload di container di varie dimensioni e tipi. Kubernetes viene spesso implementato con i grafici Helm, che sono raccolte di file che lavorano per descrivere le varie risorse di un cluster Kubernetes e quindi confezionare queste risorse combinate, sotto forma di app.
Kubernetes semplifica l'uso di app di ML in container, così come la scalabilità, e supporta framework e strumenti di ML. Kubernetes può essere utilizzato anche come piattaforma per i workload di addestramento dell'AI.
Docker e Kubernetes sono simili sotto molti aspetti, tuttavia differiscono nella portata di ognuno, poiché Docker è, fondamentalmente, un container runtime, mentre Kubernetes è una piattaforma completa progettata per consentire l'esecuzione e la gestione di container da più container runtime. Per capire la differenza tra i due, si può pensare che Kubernetes è abbastanza grande da consentire a Docker di essere solo uno dei diversi container supportati da Kubernetes.