Organisasi Chief Information Officer IBM mengoptimalkan model AI-nya dengan bantuan watsonx
Platform hybrid cloud IBM menghadapi tantangan yang rumit: meng-hosting aplikasi kecerdasan buatan (AI) baru bersama hampir 2.000 beban kerja internal yang sudah ada yang mencakup operasi bisnis di IBM.1 Saat meng-hosting aplikasi AI pada platform hybrid cloud, persyaratan berikut perlu dipertimbangkan:
- Aplikasi AI harus mematuhi persyaratan kekayaan intelektual (IP) perusahaan.
- Alat bantu pengembang harus sederhana dan mendorong produktivitas saat digunakan untuk membuat aplikasi yang memanfaatkan konten generatif AI.
- Data sensitif harus dikelola dengan aman selama penyimpanan dan penggunaan.
- Lingkungan hosting harus hemat biaya dalam hal sumber daya perangkat keras, pengembangan dan operasi.
- Beberapa beban kerja AI perlu dihosting secara lokal dan memerlukan dukungan untuk lingkungan AI yang sama pada perangkat keras lokal.
Awalnya, organisasi Chief Information Officer (CIO) IBM meng-hosting basis data vektor dan model AI generatif yang menggunakan unit pemrosesan grafis (GPU) berbiaya tinggi yang disediakan. Meski pilihan ini efektif, tetapi ini tidaklah optimal. Selama jam sibuk, persaingan sumber daya antara tim Pengembangan dan Produksi mengakibatkan penambahan GPU, yang ternyata tidak digunakan selama jam non-sibuk.
Selain itu, lingkungan yang kompleks ini mengharuskan tim operasi untuk mendedikasikan waktu ekstra untuk mengelola kluster AI. Ini melibatkan pengadaan sumber daya, penambalan, dan pengelolaan ketahanan.
1Data aplikasi IBM Hybrid Cloud diperoleh melalui Superset IBM Application Portfolio Management (APM) ServiceNow Dashboard pada tanggal 30 September 2024.
Kebutuhan untuk menyederhanakan lingkungan organisasi CIO jelas terlihat. Jadi, model AI dan manajemen data, pengembangan, dan beban kerja produksi dipindahkan ke IBM watsonx sebagai Layanan di IBM Cloud.
Sekarang, alat dan sumber daya yang dibutuhkan oleh tim aplikasi untuk mendukung pengembangan dan pelatihan model AI didukung oleh watsonx. Penerapan model AI untuk inferensi aplikasi ditangani oleh lingkungan terintegrasi watsonx.
Integrasi dengan IBM watsonx.data dan IBM watsonx.ai pada IBM Cloud memungkinkan organisasi CIO untuk mengelola data spesifik domain dan layanan AI secara efisien.
Ini juga memberikan serangkaian keuntungan yang penting bagi bisnis:
- Model penetapan harga berbasis konsumsi didasarkan pada sumber daya yang digunakan.
- Lonjakan penggunaan GPU ditangani oleh elastisitas watsonx sebagai Layanan di IBM Cloud, dengan tim operasi tidak perlu lagi mengelola sumber daya GPU.
- Alat yang dibutuhkan untuk pengembangan.
- Penerapan model yang aman.
- Lingkungan watsonx tersedia di Red Hat OpenShift, yang memungkinkan fleksibilitas, termasuk penempatan beban kerja on premises.
- Ketika digabungkan dengan watsonx.governance, dalam beberapa skenario, IBM telah menawarkan ganti rugi kekayaan intelektual untuk output yang dihasilkan oleh model yang tercakup, termasuk model yang dikembangkan IBM dan beberapa model dasar pihak ketiga yang tersedia dari watsonx.ai.
Aplikasi AI merevolusi cara IBM beroperasi dengan mengintegrasikan AI ke dalam sistem dan prosesnya. Aplikasi seperti AskIBM, asisten digital yang didukung AI yang mengotomatiskan tugas bisnis sehari-hari, sedang dalam produksi. Dengan memanfaatkan penawaran platform IBM Cloud, organisasi CIO memiliki kemampuan untuk menskalakan solusi sesuai dengan kebutuhan spesifiknya.
Organisasi Chief Information Officer (CIO) IBM memimpin strategi IT internal IBM dan bertanggung jawab untuk memberikan, mengamankan, memodernisasi, dan mendukung solusi IT yang digunakan oleh para karyawan IBM, klien, dan mitra untuk melakukan pekerjaan mereka setiap hari. Strategi organisasi CIO mencakup menciptakan platform TI adaptif yang membuat alat, aplikasi, dan sistem TI lebih mudah diakses di seluruh perusahaan, mempercepat pemecahan masalah dan berfungsi sebagai mesin inovasi untuk IBM, mengkatalisasi pertumbuhan bisnis.
Hukum
© Hak Cipta IBM Corporation 2024. IBM, logo IBM, Granite, IBM Cloud, IBM watsonx, watsonx.ai, dan watsonx.data adalah merek dagang atau merek dagang terdaftar dari IBM Corp., di AS dan/atau negara lain Ini adalah dokumen terbaru pada tanggal awal publikasi dan dapat diubah oleh IBM kapan saja. Tidak semua penawaran tersedia di setiap negara tempat IBM beroperasi.
Red Hat dan OpenShift adalah merek dagang atau merek dagang terdaftar dari Red Hat, Inc. atau anak perusahaannya di Amerika Serikat dan negara lain.
Contoh klien disajikan sebagai ilustrasi tentang cara klien tersebut menggunakan produk IBM dan hasil yang mungkin telah mereka capai. Kinerja aktual, biaya, penghematan atau hasil lainnya di lingkungan operasi lain mungkin berbeda.