Apa yang harus dipertimbangkan CIO dan CTO sebelum mengadopsi AI generatif untuk modernisasi aplikasi

Menerapkan AI generatif mungkin tampak seperti pertanyaan teka-teki ayam dan telur. Dalam survei IBM Institute for Business Value terkini, 64% CEO mengatakan mereka perlu memodernisasi aplikasi sebelum mereka dapat menggunakan AI generatif. Namun secara bersamaan, AI generatif memiliki kekuatan untuk mengubah proses modernisasi aplikasi melalui rekayasa balik kode, pembuatan kode, konversi kode dari satu bahasa ke bahasa lain, mendefinisikan alur kerja modernisasi, dan proses otomatis lainnya. Beginilah cara CTO dan CIO dapat mengevaluasi teknologi dan data mereka, menilai peluang, dan memetakan jalan ke depan.

CIO dan CTO perlu:

• Mengevaluasi tingkat penguasaan hybrid cloud organisasi mereka sebagai strategi dasar untuk implementasi AI generatif yang efektif
• Menilai hambatan organisasi dan biaya implementasi dan mempertahankan status quo
• Mempertimbangkan biaya dan manfaat menggunakan model besar serba guna versus menyetel model yang lebih kecil
• Menilai faktor dan biaya yang terkait dengan ketersediaan data, tata kelola, keamanan, dan keberlanjutan
• Bekerja dengan SDM untuk menempatkan orang di pusat strategi AI generatif Anda

Selama satu dekade terakhir, IBM telah mengusung strategi hybrid cloud untuk mendukung inovasi yang berbasis AI, produktivitas dan efisiensi yang dapat diskalakan. Dari sudut pandang kami, perdebatan tentang arsitektur sudah berakhir. Organisasi yang telah menguasai hybrid cloud memiliki posisi yang tepat untuk menerapkan AI generatif di seluruh organisasi. Hybrid cloud memungkinkan mereka memanfaatkan model bahasa besar sumber terbuka yang tangguh, menggunakan data publik dan sumber daya komputasi untuk melatih model mereka sendiri, dan menyempurnakan model mereka dengan aman sambil menjaga insight kepemilikan mereka tetap pribadi. Selain menambah nilai yang sangat besar bagi pengalaman pelanggan dan karyawan, fungsi HR dan layanan pelanggan, AI generatif pada hybrid cloud memberikan ketangkasan yang luar biasa bagi CIO dan CTO untuk mengotomatisasi operasi TI dan memodernisasi aplikasi, sehingga berpotensi menghilangkan utang teknis dan memungkinkan modernisasi yang benar-benar berkelanjutan.

Bahkan bagi CIO dan CTO yang telah berkomitmen pada hybrid cloud, hambatan organisasi untuk modernisasi tetap ada. Pertama, para pemimpin teknologi perlu memperkirakan dampak keuangan penuh dari modernisasi (versus biaya tidak memodernisasi) di seluruh organisasi. Mereka perlu memperjuangkan modernisasi sebagai inisiatif bisnis, bukan proyek TI. Para pemimpin juga harus mengatasi kesenjangan keahlian dengan memprioritaskan pengembangan talenta dan mendapatkan dukungan budaya pada modernisasi sebagai investasi bisnis yang strategis dan tahan masa depan daripada permainan teknologi operasional.

Selanjutnya, para pemimpin perlu memahami nilai bisnis yang dapat dihasilkan oleh AI generatif untuk modernisasi guna memahami di mana mereka harus berinvestasi. Dalam pengalaman tim IBM Consulting kami, organisasi yang baru memulai perjalanan modernisasi membutuhkan perspektif tentang “seni yang mungkin” dalam hal memahami manfaat dan nilai otomatisasi yang berbasis AI. Organisasi yang lebih di depan dalam perjalanan mereka mencari kejelasan seputar contoh penggunaan di industri mereka dan bantuan untuk menangani peluang unik.

Dalam operasi TI, contoh penggunaan AI generatif termasuk triaging otomatis sistem untuk mematuhi sasaran tingkat layanan; mengelola, berkomunikasi, memberikan bantuan, dan menyelesaikan pertanyaan dan tiket; dan deteksi dan manajemen peristiwa dan anomali. Hal ini dapat meningkatkan otomatisasi TI dengan membangun dan menjalankan runbook serta membantu pengguna bertransisi ke basis pengetahuan dan perangkat lunak baru. Ini juga dapat membantu dalam rekayasa platform, misalnya dengan menghasilkan pipeline DevOps dan skrip otomatisasi middleware.

Masih banyak lagi yang bisa dikatakan tentang operasi TI sebagai fondasi modernisasi. Di sini, kami akan memprioritaskan diskusi tentang empat alur kerja di mana AI generatif dapat diterapkan.

• Perencanaan transformasi: AI Generatif dapat membantu menentukan alur kerja modernisasi Anda melalui rangkuman, pembuatan rencana, dan menghasilkan arsitektur referensi seperti Terraform.
• Rekayasa balik kode: AI generatif memfasilitasi rekayasa balik dengan menganalisis kode untuk mengekstrak aturan bisnis dan model domain, menghasilkan rekomendasi untuk pindah aplikasi dari arsitektur monolitik ke layanan mikro, dan mengidentifikasi peluang refactoring dan kontainerisasi serta menghasilkan kode yang telah di-refactoring.
• Pembuatan kode: Pembuatan kode membantu para pemimpin TI mengatasi tantangan yang terkait dengan bandwidth pengembang dan mengoptimalkan keterampilan dari kumpulan talenta yang terbatas. Tugas-tugas yang sangat berulang dan manual dapat ditangani oleh kode cloud-native, mulai dari cuplikan pendek hingga fungsi penuh. Kode dapat dibuat untuk desain UI, infrastruktur, konfigurasi platform kontainer (seperti Red Hat OpenShift) dan kerangka kerja tanpa server (seperti Knative).
• Konversi kode: Konversi kode sangat penting untuk mempertahankan dan memperbarui aplikasi lama yang sangat penting. AI generatif memungkinkan otomatisasi proses ini, misalnya dari COBOL ke Java, SOAP ke REST, serta bahasa dan lingkungan lainnya.

CTO/CIO harus mempertimbangkan kemenangan cepat menggunakan AI generatif dalam fungsi-fungsi ini. Cari peluang yang relatif terpisah dan berisiko rendah untuk Jelajahi implementasi proof-of-concept. Mulailah dari yang kecil, uji, dan skalakan.

Memilih model dasar yang tepat di awal dapat membantu Anda memberikan hasil yang lebih akurat dan efisien untuk perusahaan Anda.

Arsitektur transformer lebih menyukai ukuran: model yang lebih besar menghasilkan hasil yang lebih baik. Jadi, ada perlombaan dalam AI generatif untuk membangun model dasar yang lebih besar untuk aplikasi yang lebih luas. Namun, meskipun model terbesar sangatlah tangguh, model multibillion-parameter yang berat mungkin tidak selalu menjadi pilihan terbaik untuk perusahaan. Model yang lebih kecil yang sudah disetel dengan baik untuk suatu tugas, sering kali bisa mengungguli model besar yang belum disetel dengan baik untuk tugas tersebut. Model-model ini dapat berjalan di atas LLM tujuan umum dengan sedikit penyetelan jika model yang mendasarinya sesuai untuk penggunaan perusahaan. Misalnya, model dasar Granite dengan parameter 13 miliar dari IBM, yang tersedia dalam rilis watsonx.ai yang akan datang, jauh lebih kecil daripada LLM terbesar (yang berisi ratusan miliar parameter), tetapi berkinerja baik pada tugas-tugas khusus bisnis seperti peringkasan, menjawab pertanyaan, dan klasifikasi, sekaligus jauh lebih efisien.

Model dasar fit-for-purpose juga memungkinkan organisasi untuk mengotomatiskan dan mempercepat modernisasi dengan menghasilkan cuplikan kode dan komponen aplikasi, serta mengotomatisasi pengujian aplikasi. Menggunakan model kode yang dibangun di dalam watsonx.ai, IBM watsonx Code Assistant juga dapat digunakan untuk mengonversi kode, misalnya dari COBOL ke Java. Dalam Watsonx Code Assistant, pengembang dari semua tingkat pengalaman dapat mengungkapkan permintaan dalam bahasa sederhana dan mendapatkan rekomendasi buatan AI, atau menghasilkan kode berdasarkan kode sumber yang ada. watsonx.ai juga mencakup akses ke StarCoder LLM, dilatih pada data berlisensi terbuka dari GitHub. Pengembang dapat memanfaatkan StarCoder untuk mempercepat pembuatan kode dan meningkatkan produktivitas untuk modernisasi aplikasi dan modernisasi TI.

Di luar ukuran, saat memilih model dasar, CTO juga harus mempertimbangkan bahasa alami dan bahasa pemrograman yang didukung model dan jumlah penyempurnaan yang dibutuhkan model.

Dalam AI generatif, metode penghitungan ROI belum matang atau terstandardisasi, dan tolok ukur komparatif juga sering kali tidak tersedia. Untuk aplikasi perusahaan, penyetelan yang baik, rekayasa prompt, dan menjalankan beban kerja yang intensif memerlukan investasi yang signifikan.

Ada empat faktor utama yang perlu dipertimbangkan ketika memilih dan menerapkan model, yang akan bervariasi berdasarkan domain, industri, dan contoh penggunaan. Faktor biaya pertama adalah metode penetapan harga atau lisensi. Hal ini dievaluasi berdasarkan penggunaan API pada cloud publik dan terkelola, serta biaya hosting dan komputasi pada cloud hybrid dan privat. Faktor biaya kedua adalah upaya pengembangan, yang lebih tinggi pada cloud hybrid dan privat dan sangat erat kaitannya dengan faktor ketiga, yaitu keamanan data perusahaan. Terakhir, pertimbangkan dampak potensial dari risiko IP dan keamanan, yang keduanya berkurang pada skala hibrida dan privat.

Ketersediaan data dan faktor tata kelola juga menjadi pertimbangan saat menilai ROI. Melalui portofolio produk AI watsonx, IBM membuat langkah signifikan dalam memberikan model dasar yang ditargetkan untuk kebutuhan pengguna bisnis: penyimpanan data yang sesuai dengan tujuan yang disediakan di watsonx.data, yang dibangun di atas arsitektur lakehouse terbuka, memungkinkan perusahaan untuk mempersonalisasi model mereka di mana pun beban kerja mereka berada. Alat di watsonx.governance juga akan membantu organisasi secara efisien mendorong alur kerja yang bertanggung jawab, transparan, dan dapat dijelaskan di seluruh bisnis.

Seiring dengan semakin cepatnya kemampuan dan penggunaan AI generatif, menghitung besaran manfaat dari perhitungan ROI bisa menjadi tantangan tersendiri. Namun, masuk akal bagi para CIO dan CTO untuk menelaah berbagai cara organisasi menciptakan nilai bisnis dari AI tradisional sebagai titik awal, dan memperkirakan nilai potensial dari kasus uji coba AI generatif dan kemenangan cepat mereka.

Baik sebagai bagian dari program ESG formal maupun misi perusahaan, keberlanjutan lebih dari sekadar etika yang baik—keberlanjutan makin diakui sebagai bisnis yang lebih baik. Perusahaan dengan upaya keberlanjutan yang berkomitmen dan efektif dapat meningkatkan nilai bisnis dengan peningkatan pengembalian pemegang saham, pertumbuhan pendapatan, dan profitabilitas. Oleh karena itu, ada baiknya bagi para CTO untuk mempertimbangkan keberlanjutan dalam kalkulasi adopsi AI generatif mereka.

Melatih, menyetel, dan menjalankan model AI dapat meninggalkan jejak karbon yang sangat besar. Itulah sebabnya IBM membantu menyesuaikan AI generatif untuk perusahaan dengan model dasar yang dapat dipercaya, portabel, dan hemat energi. Membuat model yang lebih kecil dan menggunakan sumber daya komputer secara lebih efisien dapat sangat mengurangi biaya dan emisi karbon. IBM Research juga mengembangkan teknologi pelatihan model yang lebih efisien, seperti algoritma LiGo yang mendaur ulang model kecil dan membangunnya menjadi yang lebih besar, menghemat hingga 70% dari waktu, biaya, dan output.

Terakhir, penerapan AI generatif secara efektif bergantung pada orang-orang yang terampil dan antusias. Dengan demikian, departemen sumber daya manusia harus menjadi pusat strategi organisasi Anda. Mulailah dengan melatih kembali profesional SDM itu sendiri, yang kemungkinan sudah menggunakan alat perekrutan yang berbasis AI. Selanjutnya, kembangkan inisiatif manajemen formal untuk mengomunikasikan di mana pengujian dan adopsi AI generatif sedang berlangsung dan memberikan masukan.