Masa depan AI pada mainframe: 4 jalur untuk inovasi AI yang digerakkan oleh mainframe

Ketika kebanyakan orang mendengar istilah "mainframe", mereka mungkin tidak menyadari kontribusi pentingnya terhadap inovasi dalam bisnis perusahaan. Di tengah kehebohan seputar AI generatif, mudah untuk berasumsi bahwa infrastruktur TI lama, seperti mainframe, belum diperhitungkan.

Yang benar adalah bahwa mainframe siap untuk memainkan peran penting dalam mendorong inovasi dengan mengintegrasikan teknologi akselerasi AI generasi berikutnya dengan ekosistem yang dioptimalkan untuk meningkatkan kemampuan bisnis dan teknologi.

Ketika kita melihat ke belakang, jelaslah bahwa mainframe sebenarnya telah mendorong inovasi berkelanjutan selama lebih dari 60 tahun. Menurut laporan IBM Institute for Business Value baru-baru ini , 43 dari 50 bank teratas dunia dan 8 dari 10 perusahaan pembayaran teratas memanfaatkan mainframe sebagai platform inti mereka.

Untuk industri yang menangani sejumlah besar data—seperti keuangan, perawatan kesehatan, dan pemerintah—mainframe telah mendapatkan lebih banyak relevansi untuk strategi kecerdasan buatan (AI). Faktanya, laporan IBV yang sama menunjukkan bahwa 79% eksekutif TI percaya mainframe sangat penting untuk memungkinkan inovasi berbasis AI dan penciptaan nilai.

Pada saat yang sama, para pemimpin bisnis ini juga ingin mengintegrasikan AI ke dalam mainframe untuk memanfaatkan insight, mengotomatiskan tugas, dan meningkatkan efisiensi sambil mempertahankan infrastruktur strategis mereka. Pendekatan ini memaksimalkan nilai sistem lama sambil memperkenalkan kemampuan baru melalui analitik dan otomatisasi berbasis AI.

Banyak penerapan AI saat ini mengharuskan organisasi untuk memindahkan data mereka ke cloud. Namun, untuk industri yang mengandalkan pemrosesan data berkecepatan tinggi untuk menangani data yang sangat sensitif, menjaga kemampuan AI lebih dekat ke tempat data berada memberikan keuntungan bisnis yang substansif.

"Ini tentang membawa AI ke tempat musik diputar, dan ini terjadi di 2 area utama," kata Khadija Souissi, Arsitek Solusi Utama, AI di IBM Z dan LinuxONE dan Spesialis Teknis Terkemuka di IBM.

"Kami menanamkan AI ke dalam beban kerja transaksional untuk mendapatkan insight real-time ke dalam aplikasi bisnis untuk pengambilan keputusan yang lebih cepat dan memungkinkan klien untuk secara berkelanjutan membuat aplikasi cerdas yang merangkul solusi AI generatif sambil menjaga data sensitif. Selain itu, kami membangun infrastruktur cerdas, menggunakan AI untuk sistem operasi mainframe dan subsistem. Ini dapat membantu memprediksi beban kerja yang akan datang untuk secara proaktif mempersiapkan sumber daya yang diperlukan dan juga mendeteksi anomali operasi sistem yang dapat membantu memprediksi pemadaman dan mengekstraksi insight yang dapat ditindaklanjuti terkait dengan kinerja sistem."

Mainframe menangani hampir 70% beban kerja TI produksi dunia dan diandalkan untuk stabilitas, keamanan tinggi, dan skalabilitas. Saat ini, akselerator AI on-chip dapat menskalakan dan memproses jutaan permintaan inferensi per detik pada tingkat latensi yang sangat rendah. Kemampuan ini memungkinkan organisasi untuk menggunakan data dan gravitasi transaksional dengan secara strategis menempatkan kumpulan data besar, AI, dan aplikasi bisnis penting. Di masa mendatang, akselerator generasi berikutnya akan membuka peluang baru untuk memperluas kemampuan AI dan contoh penggunaan saat kebutuhan organisasi tumbuh.

AI tradisional dan model AI generatif (gen AI) membantu mendefinisikan dan membentuk perusahaan modern. Contoh penggunaan yang sangat penting dan transaksional memerlukan machine learning, pembelajaran mendalam, dan kemampuan gen AI, terkadang bekerja sama dalam arsitektur ensambel untuk mencapai hasil bisnis yang lebih baik dan lebih baik.

Di mainframe, arsitektur model ganda menggunakan kekuatan masing-masing model yang beragam ini, memungkinkan pengambilan keputusan yang lebih kuat, tepat dan fleksibel.

Jika kita lihat AI tradisional, model-model ini umumnya menerapkan aturan-aturan yang telah ditetapkan sebelumnya untuk menganalisis data dan mengambil keputusan berdasarkan berbagai pola tertentu. Contohnya mencakup forecasting untuk manajemen inventaris atau keputusan kredit berdasarkan data historis pelanggan.

Evolusi AI telah ditandai oleh konsep-konsep baru seperti model bahasa besar (LLM)— model AI canggih yang dilatih pada sejumlah besar data yang dapat memahami bahasa alami, menghasilkan teks seperti manusia, menerjemahkan bahasa, menjawab pertanyaan, menulis kode, dan bahkan melakukan percakapan.

LLM yang menghasilkan konten biasanya disebut sebagai model dekoder dan digunakan dalam AI generatif. Kemampuan ini dapat dilihat di chatbot yang memberikan balasan layanan pelanggan yang dipersonalisasi berdasarkan pertanyaan dan konteks pengguna. 

Model encoder adalah jenis LLM lain yang unggul dalam memahami bahasa alami dan memproses teks yang tidak terstruktur, dengan fokus pada penggalian informasi utama. Model decoder berbagi kemampuan ini tetapi juga unggul dalam menghasilkan konten baru.

Arsitektur model jamak merupakan konsep hybrid yang memadukan berbagai teknologi AI, seperti model AI tradisional dan encoder LLM, untuk menghasilkan hasil yang lebih cepat dan akurat daripada yang dapat dicapai oleh satu model saja, memanfaatkan daya pemrosesan besar dan kemampuan penyimpanan data di mainframe.

Dalam pemrosesan klaim asuransi, misalnya, AI tradisional dapat melakukan analisis awal dari data terstruktur, sementara LLM encoder dapat menangani data tidak terstruktur yang lebih kompleks untuk mendapatkan insight yang lebih terperinci dan menangani klaim sebagaimana mestinya.

Mengambil klaim kecelakaan mobil. AI tradisional menyediakan pemrosesan otomatis untuk data terstruktur (misalnya, laporan polisi, SIM, dan informasi registrasi). Gen AI melangkah lebih jauh untuk mengekstrak insight dari data tidak terstruktur (misalnya, teks dan gambar yang terkait dengan cedera dan kerusakan kendaraan) untuk membantu memprioritaskan dan memenuhi urgensi klaim tersebut.

Baru-baru ini, IBM mengumumkan IBM Telum II Processor dan IBM Spyre Accelerator yang akan datang. Teknologi ini dirancang untuk membantu bisnis meningkatkan kapasitas pemrosesan di seluruh sistem IBM Z dan mempercepat penggunaan model AI tradisional, model AI bahasa besar, dan arsitektur model ganda.

Kartu Spyre Accelerator akan memungkinkan sistem IBM Z dan LinuxONE untuk melakukan inferensi AI untuk LLM dan gen AI pada skala yang lebih besar daripada yang tersedia sebelumnya.

Berikut adalah 4 contoh penggunaan yang menunjukkan bagaimana organisasi dapat menggunakan teknologi AI ini untuk mendorong inovasi, meningkatkan operasi, dan mempercepat beban kerja AI generatif.

Kerugian finansial dari transaksi kartu kredit palsu menyebabkan kerusakan finansial dan reputasi. Menurut Nilson Report, kerugian kartu kredit di seluruh dunia diperkirakan akan mencapai USD 43 miliar pada tahun 2026.¹ 

Sebuah studi kasus internal IBM menunjukkan bahwa bank besar Amerika Utara telah mengembangkan model penilaian kredit didukung AI dan menerapkannya pada platform cloud lokal untuk membantu memerangi penipuan. Namun, hanya 20% dari transaksi kartu kredit yang dapat dinilai secara real-time. Bank memutuskan untuk pindah alat pendeteksi penipuan yang kompleks ke mainframe.

Setelah implementasi mainframe, bank mulai mencetak 100% transaksi kartu kredit secara real-time, dengan 15.000 transaksi per detik, memberikan deteksi penipuan yang signifikan.

Selain itu, setiap transaksi biasanya membutuhkan waktu penyelesaian selama 80 milidetik. Dengan pengurangan latensi yang disediakan oleh mainframe, waktu respons sekarang terjadi dalam 2 milidetik atau kurang. Pindah ke mainframe ini juga telah menghemat bank lebih dari USD 20 juta dalam pengeluaran pencegahan penipuan tahunan tanpa memengaruhi perjanjian tingkat layanan.

Mainframe sangat penting dalam transaksi kartu kredit, menangani 90% transaksi di seluruh dunia.² Sekarang, organisasi keuangan dapat Lanjutkan mengandalkan mainframe dan secara bersamaan mengintegrasikan AI untuk mendeteksi penipuan sebelum transaksi ditutup, mengandalkan sejumlah besar data transaksi yang sudah disimpan di sana, bukan memindahkannya ke pengaturan cloud.

Menurut Forbes, biaya rata-rata waktu henti TI dapat mencapai USD 9.000 per menit untuk organisasi besar dan lebih dari USD 5 juta per jam untuk perusahaan yang berisiko lebih tinggi.³

Untungnya, organisasi sekarang dapat menggunakan AI untuk secara proaktif mencegah atau bahkan memprediksi pemadaman yang disebabkan oleh kegagalan peralatan. Dengan menerapkan mekanisme AI, organisasi dapat mendeteksi anomali di tingkat transaksi, aplikasi, subsistem, dan sistem. Misalnya, sensor dapat menganalisis data dari komponen mainframe untuk memprediksi potensi kegagalan perangkat keras dan memungkinkan pemeliharaan preventif.

Mengintegrasikan mainframe dengan teknologi baru, seperti cloud dan sistem terdistribusi, dapat menciptakan kompleksitas untuk infrastruktur TI dan tim aplikasi. Organisasi semakin beralih ke kecerdasan buatan untuk operasi TI (AIOps)—aplikasi kemampuan AI untuk mengotomatiskan, merampingkan, dan mengoptimalkan infrastruktur TI dan alur kerja operasional. AIOps memungkinkan tim operasi TI merespons dengan cepat terhadap perlambatan dan pemadaman, memberikan visibilitas dan konteks yang lebih baik.

Privasi data sangat penting bagi organisasi yang menangani data sensitif. Ini adalah alasan utama mengapa industri, seperti layanan kesehatan untuk terus mengandalkan fitur keamanan mainframe yang kuat, termasuk isolasi beban kerja, enkripsi data lanjutan, dan protokol komunikasi yang aman.

Memproses dokumen pada mainframe membantu merampingkan dan memberikan ekstraksi data yang akurat dalam pengaturan yang sangat aman. Organisasi dapat menggunakan gen AI untuk meringkas dokumen keuangan dan laporan bisnis, mengekstrak titik data utama (misalnya, metrik keuangan dan indikator kinerja) dan mengidentifikasi informasi penting untuk proses kepatuhan (misalnya, audit keuangan).

Sebagai contoh lain, pemerintah dapat menggunakan gen AI untuk meningkatkan penyaringan pabean untuk kargo yang mencurigakan melalui teknik pemrosesan gambar yang canggih dan analisis deskripsi tekstual yang terkait dengan setiap pengiriman.

Salah satu tantangan terbesar pada mainframe adalah memigrasikan aplikasi lama yang ditulis dalam COBOL ke bahasa pemrograman yang lebih modern. Mengapa? Hal ini terutama disebabkan oleh pergeseran generasi dalam tenaga kerja teknologi, di mana pengembang baru telah memperoleh keterampilan dalam bahasa seperti Java dan Python selama pendidikan mereka, sementara banyak profesional berpengalaman masih berpengalaman dalam teknologi yang lebih tua.

COBOL tidak akan pergi dalam waktu dekat—COBOL masih mendukung banyak sistem bisnis yang penting di sektor seperti perbankan dan pemerintah. Menurut Reuters, 43% sistem perbankan dibangun di atas COBOL, dan 220 miliar baris COBOL digunakan saat ini.⁴

Asisten virtual di mainframe membantu menjembatani kesenjangan keterampilan pengembang. Alat bantu, seperti IBM watsonx Code Assistant for Z, menggunakan AI generatif untuk menganalisis, memahami, dan memodernisasi aplikasi COBOL yang ada. Kemampuan ini memungkinkan pengembang untuk menerjemahkan kode COBOL ke dalam bahasa seperti Java. Solusi ini juga mempercepat modernisasi aplikasi sambil mempertahankan fungsionalitas sistem COBOL lama.

Fitur watsonx Code Assistant for Z mencakup penjelasan kode, refactoring otomatis, dan saran pengoptimalan kode sehingga memudahkan pengembang untuk memelihara dan memperbarui aplikasi COBOL lama.

Selama beberapa dekade, mainframe telah berkembang, dan terus berkembang seiring waktu untuk menyambut peluang yang disajikan oleh AI. Pengenalan prosesor Telum II dan kartu Spyre Accelerator memberikan kesempatan bagi organisasi untuk buka nilai bisnis dan menciptakan keunggulan kompetitif yang baru.

"Saat ini, mainframe bukan hanya platform transaksional tetapi platform AI yang berkembang yang akan memberikan nilai yang berarti saat bisnis memulai perjalanan AI mereka," kata Khadija Souissi.