Este artículo presenta una arquitectura de referencia validada que combina NVIDIA Dynamo para la gestión distribuida de cachés clave-valor (KV), IBM® Storage Scale Erasure Coding Edition (ECE) como nivel de almacenamiento compartido de alto rendimiento, servidores Supermicro Petascale y NVIDIA Spectrum-X Ethernet para abordar el reto crítico de infraestructura que supone la gestión de cachés clave-valor (KV) en implementaciones a gran escala de IA generativa e inferencia de IA agéntica. El documento ofrece opciones de dimensionamiento de la implementación que van desde pequeños entornos de prueba de concepto hasta grandes "fábricas de IA" empresariales, y demuestra que la infraestructura de caché KV basada en almacenamiento compartido es una opción escalable y rentable para la implementación de inferencia a gran escala.