Akses model apa pun, di mana saja di watsonx.ai
Kami sangat senang mengumumkan watsonx.ai Model Gateway yang akan datang di Pratinjau Publik, solusi perusahaan baru yang merampingkan akses ke model dasar AI terkemuka melalui antarmuka terpadu.
Dengan Model Gateway, organisasi dapat mengintegrasikan model Granite IBM bersama model dasar industri terkemuka dari OpenAI, Anthropic, NVIDIA, Cerebras, dan lainnya tanpa vendor lock-in. Pendekatan yang tidak terikat AI tertentu ini memungkinkan bisnis untuk mempertahankan kontrol, meningkatkan fleksibilitas, dan mengoptimalkan biaya, terlepas dari lokasi model dihosting.
Model Gateway adalah pilar terakhir di strategi multi-model watsonx.ai, yang memberi pelanggan pilihan utama dalam menggunakan model yang dihosting pihak ketiga di platform. Pengguna dapat memanfaatkan model pihak ketiga untuk mengembangkan agen menggunakan templat OOTB apa pun, dan dengan cepat menerapkan sebagai layanan AI.
Model Gateway watsonx.ai memungkinkan:
- Pilihan Model: Akses ke +1000 model SOTA, baik yang dihosting di watsonx.ai atau di lingkungan pihak ketiga lainnya
- Mekanisme Keikutsertaan: Akses model melalui Gateway harus disediakan, sehingga semua koneksi harus diikutsertakan untuk mempertahankan akses yang tepat
- Penerapan Fleksibilitas: Model Gateway akan tersedia on premises setelah tersedia secara umum, memungkinkan perusahaan untuk memiliki koneksi ke model yang tidak dihosting
Seiring dengan meningkatnya adopsi AI di kalangan bisnis, banyak perusahaan memanfaatkan model dasar di lingkungan cloud, on premises, dan hybrid. Mengelola kompleksitas ini menghadirkan tantangan dalam tata kelola, efisiensi biaya, dan pengawasan operasional. Perusahaan membutuhkan bidang kontrol AI terpusat yang menyederhanakan orkestrasi model, memberlakukan kebijakan, mengoptimalkan biaya, dan memberikan visibilitas nyaris seketika.
Selama beberapa bulan mendatang, pengembang akan dapat memanfaatkan alat Developer Playground seperti Prompt Lab untuk bereksperimen dengan model dasar apa pun dan menerapkan aplikasi AI secara efisien, mengembangkan solusi RAG menggunakan AutoAI RAG, dan integrasi dengan produk tambahan dalam keluarga watsonx. Fitur tambahan akan diaktifkan dalam beberapa minggu mendatang juga untuk menegakkan lebih banyak kontrol bagi pengembang.
Dengan pendekatan API yang seragam menggunakan API yang kompatibel dengan OpenAI, bisnis dapat dengan lancar beralih antar model tanpa perlu konfigurasi ulang yang mahal.
Sebagai bagian dari misi kami untuk memberikan lebih banyak opsi bagi pengguna kami untuk melayani model dasar, watsonx.ai Model Gateway juga terhubung ke Cerebras, penyedia inferensi cepat terkemuka menggunakan chip skala wafer mereka sendiri.
"Kami sangat senang membawa kemampuan inferensi AI terbaik Cerebras ke watsonx.ai Model Gateway IBM,” kata Alan Chhabra, EVP, Worldwide Partners, dari Cerebras. “Kolaborasi ini secara langsung mengatasi permintaan yang terus meningkat akan AI berkinerja tinggi, memungkinkan perusahaan untuk menerapkan model dasar yang kuat untuk penalaran mendalam dan AI agen tanpa hambatan latensi. Ini adalah perubahan besar bagi bisnis yang ingin mengoperasionalkan inisiatif AI mereka yang paling ambisius dalam skala besar. "
Kami sangat senang untuk berbagi fitur ini dengan Anda dan berharap dapat menerima masukan Anda untuk membantu kami dalam iterasi.
Coba watsonx.ai gratis hari ini
Pernyataan mengenai arah dan maksud IBM pada masa depan dapat berubah atau dibatalkan tanpa pemberitahuan, dan hanya menggambarkan tujuan dan sasaran.