حسّن أحمال تشغيل الذكاء الاصطناعي على السحابة وفي البيئات المحلية والحاويات باستخدام Turbonomic. أتمت قرارات الموارد لضمان أداء نماذج الذكاء الاصطناعي ووحدات معالجة الرسومات.
الفوائد
عزز كفاءة وحدات معالجة الرسومات لديك وأداءها
تتطلب أحمال تشغيل الذكاء الاصطناعي التوليدي موارد هائلة من وحدة معالجة الرسومات. تعمل Turbonomic على تحسين تخصيص أحمال تشغيل وحدات معالجة الرسومات عبر Kubernetes وRed Hat® OpenShift® لضمان تلبية أحمال تشغيل الاستدلال في النماذج اللغوية الكبرى المدعومة بالذكاء الاصطناعي التوليدي للأهداف المحددة على مستوى الخدمة (SLO) ومعايير الأداء، مع زيادة الاستفادة من وحدة معالجة الرسومات وكفاءتها وتقليل تكلفتها.
تطبق Turbonomic التحليلات المراعية لوحدة معالجة الرسومات لتوزيع وتحسين الأجهزة الافتراضية التي تتطلب تسريع GPU بشكل ديناميكي. ومن خلال التعرف على تكوينات وحدة معالجة الرسومات الافتراضية (vGPU) وتكوينات العبور المباشر، تضمن تشغيل أحمال التشغيل على المضيفين المتوافقين ذوي السعة الكافية فقط. وهذا يمنع الاضطرابات، ويحافظ على أداء التطبيقات، ويسمح للمؤسسات بزيادة كثافة أحمال التشغيل من دون التضحية بالموثوقية.
تتطلب أحمال تشغيل الذكاء الاصطناعي التوليدي موارد هائلة من وحدة معالجة الرسومات. تعمل Turbonomic على تحسين تخصيص أحمال تشغيل وحدات معالجة الرسومات عبر Kubernetes وRed Hat® OpenShift® لضمان تلبية أحمال تشغيل الاستدلال في النماذج اللغوية الكبرى المدعومة بالذكاء الاصطناعي التوليدي للأهداف المحددة على مستوى الخدمة (SLO) ومعايير الأداء، مع زيادة الاستفادة من وحدة معالجة الرسومات وكفاءتها وتقليل تكلفتها.
تطبق Turbonomic التحليلات المراعية لوحدة معالجة الرسومات لتوزيع وتحسين الأجهزة الافتراضية التي تتطلب تسريع GPU بشكل ديناميكي. ومن خلال التعرف على تكوينات وحدة معالجة الرسومات الافتراضية (vGPU) وتكوينات العبور المباشر، تضمن تشغيل أحمال التشغيل على المضيفين المتوافقين ذوي السعة الكافية فقط. وهذا يمنع الاضطرابات، ويحافظ على أداء التطبيقات، ويسمح للمؤسسات بزيادة كثافة أحمال التشغيل من دون التضحية بالموثوقية.
زيادة في توافر موارد وحدة معالجة الرسومات غير المستغلة. تعرف على كيفية مضاعفة IBM BAM لإنتاجية وحدة معالجة الرسومات والتقليل من احتياجات الأجهزة باستخدام الأتمتة الذكية.
الموارد
تألقت منصة Turbonomic في برنامج "Inside the Blueprint" الذي يُعرض على Bloomberg و FOX Business.
إنها القدرة على مواءمة موارد وحدة معالجة الرسومات تلقائيًا مع طلب أحمال التشغيل عبر البيئات المحلية، والسحابة، والحاويات. وهذا يضمن عمل تطبيقات الذكاء الاصطناعي لديك دائمًا، مع إبقاء التكاليف تحت السيطرة.
تحلل Turbonomic باستمرار الطلب على وحدة معالجة الرسومات ووحدة المعالجة المركزية والذاكرة عبر مراكز البيانات والسحابة وKubernetes. وتؤتمت التوزيع والتوسيع والتحجيم بحيث تحقق أحمال تشغيل الذكاء الاصطناعي أهداف الأداء من دون الإفراط في توفير الموارد.
تعمل Turbonomic على توزيع أحمال تشغيل وحدة معالجة الرسومات على الأجهزة المضيفة المتوافقة ذات السعة الكافية فقط. وهذا يمنع حدوث مشكلات الأداء ويساعدك على الحصول على قيمة أكبر من الأجهزة الموجودة.
في AWS وAzure، تعمل Turbonomic باستمرار على تحديد حجم مثيلات GPU بشكل صحيح بحيث تدفع فقط مقابل ما تستخدمه. كما أنها تقضي على الهدر من خلال تقليل أحمال التشغيل أو نقلها من مثيلات GPU غير المستغلة.
نعم، تعمل Turbonomic على تحسين استدلال الذكاء الاصطناعي التوليدي في Kubernetes وOpenShift من خلال توسيع نطاق الخدمات بناءً على مقاييس وحدة معالجة الرسومات والتطبيقات. وتضمن تحقيق أهداف زمن الانتقال والإنتاجية، مع تحسين استخدام GPU.
تراقب Turbonomic موارد GPU على مستوى الأجهزة الافتراضية والعُقد والحاويات. وتؤتمت التوزيع الآمن للأجهزة الافتراضية في البيئات المحلية وتوسع نطاق أحمال تشغيل الاستدلال في Kubernetes، ما يحسن الكفاءة عبر البيئات الهجينة ومتعددة السحابات.
نعم، تعمل Turbonomic على تحديد الحجم المناسب لمثيلات GPU على السحابة العامة، وتوزيع أحمال تشغيل وحدة معالجة الرسومات ودمجها بأمان في مراكز البيانات، وتوسيع نطاق أحمال تشغيل الاستدلال على Kubernetes بناءً على SLOs. ومن خلال مواءمة العرض مع الطلب، تقلل من الإنفاق غير الضروري، مع الحفاظ على أداء أحمال تشغيل الذكاء الاصطناعي.
عزز فريق Big AI Models من IBM توافر وحدات معالجة الرسومات غير المستغلة بمقدار 5.3 أضعاف وضاعف الإنتاجية، مع الحفاظ على أهداف زمن الانتقال. وهذا يعني ابتكارًا أسرع بتكلفة أقل.