Este documento presenta una arquitectura de referencia validada que combina NVIDIA Dynamo para la gestión distribuida de caché KV, IBM Storage Scale Erasure Coding Edition (ECE) como nivel de almacenamiento compartido de alto rendimiento, servidores Supermicro Petascale y NVIDIA Spectrum-X Ethernet para abordar el desafío crítico de infraestructura de la gestión de caché clave-valor (KV) en despliegues a gran escala de inferencia de IA generativa e IA agéntica. El documento proporciona opciones de dimensionamiento de despliegue que van desde pequeños entornos de prueba de concepto hasta fábricas de IA para grandes empresas, lo que demuestra que la infraestructura de caché KV basada en almacenamiento compartido proporciona una ruta escalable y rentable hacia el despliegue de inferencia a gran escala.