vLLM Kubernetes référence de configuration

Tableaux de référence concernant les values.yaml marqueurs de position, les paramètres d'intervalle de collecte et les étapes de dépannage à suivre lors de la surveillance de vLLM sur Kubernetes à l'aide de Instana.

Référence des variables de configuration

Le tableau suivant récapitule tous les espaces réservés du values.yaml modèle et explique comment obtenir leur valeur :

Marque de réservation Où le trouver? Exemple
<vllm-namespace-name> Namespace: dans kubectl describe pod text-generation
<component-label-value> Labels: component= dans kubectl describe pod huggingface-vllm
<vllm-metrics-port> Port: sous la rubrique « Conteneurs » dans kubectl describe pod 8000
<cluster-name> kubectl config current-context prod-cluster-01
<cluster-distribution> Votre type de cluster openshift, eks, gke, aks, ou kubernetes
<cluster-managed-by> L'équipe de votre plateforme CNF, EKS, GKE, AKS
<cluster-short-name> Nom abrégé du cluster prod-01
<cluster-full-name> Nom complet du cluster prod-cluster-01.example.com
<cluster-version> kubectl version --short v1.29.0
<cluster-uid> kubectl get namespace kube-system -o jsonpath='{.metadata.uid}' 15a3639a-17b7-4f16-9c82-35967f73430d
<otlp-endpoint> Instana point de terminaison de l' OTLP du backend https://otlp-grpc-<tenant>-saas.instana.io:4318
<your-instana-agent-key> Instana Interface utilisateur : Plus > Agents > Installer des agents abc123…

Pour les points de terminaison backend Instana, voir Points de terminaison auto-hébergés ou Points de terminaison SaaS.

Réglage des intervalles de collecte

Modifiez les champs suivants dans values.yaml afin de trouver un juste équilibre entre la fraîcheur des métriques et la charge sur les ressources :

Paramètre Chemin d'accès dans « values.yaml » Valeur recommandée
Prometheus intervalle de collecte config.receivers.prometheus.config.scrape_configs[0].scrape_interval 10s (en temps réel), 30s (production)
Métriques des clusters Kubernetes config.receivers.k8s_cluster.collection_interval 10s (développement), 30s60s (production)
Statistiques Kubelet config.receivers.kubeletstats.collection_interval 10s (développement), 30s60s (production)