Di luar RFP dan chatbot: Cara AI mengoptimalkan infrastruktur dan operasi TI

Saat ini, sebagian besar berita besar dalam kecerdasan buatan (AI) adalah seputar pengembangan aplikasi AI generatif (gen AI) baru yang canggih. Mulai dari membantu siswa menulis makalah, mengisi RFP dalam hitungan detik, hingga (dengan buruk) mempersiapkan kasus hukum, keberhasilan dan kegagalannya telah didokumentasikan dengan baik.

Tapi bagaimana dengan tugas yang lebih membosankan? Beberapa organisasi sedang bereksperimen dengan menerapkan AI untuk mengotomatiskan aspek infrastruktur dan operasi TI, yang memungkinkan keahlian manusia yang berharga untuk didedikasikan khusus di tempat lain.

“AI generatif adalah inti dari berapa banyak perusahaan modern membangun produk digital baru untuk menghasilkan uang,” kata Richard Warrick, Pemimpin Riset Global di IBM Institute for Business Value. “Namun, bagaimana jika teknologi yang sama dapat secara radikal mengubah proses bisnis yang diperlukan untuk merancang, menerapkan, mengelola, dan mengamati aplikasi-aplikasi tersebut?”

Dari mengotomatiskan proses padat sumber daya seperti penyediaan pusat data dan DevOps hingga mengganti personel keamanan di tempat, inilah cara otomatisasi AI cerdas mengubah infrastruktur dan operasi TI. 

Ketika AI pertama kali dieksplorasi untuk tujuan bisnis, kemampuannya untuk mengotomatiskan tugas berulang yang sebelumnya membutuhkan input manusia dianggap sebagai aplikasi yang paling berharga. Dengan munculnya AI generatif dan kemampuan-kemampuannya, gagasan itu sekarang tampak kuno; tetapi sementara sifat tugas yang dapat diotomatisasi oleh AI mungkin telah berubah, nilai fundamental dari otomatisasi itu sendiri tidak.

Menurut studi terkini oleh IBV, 80% eksekutif mengotomatiskan operasi jaringan TI mereka selama 3 tahun ke depan, sementara 76% menerapkan keterampilan AI yang sama pada operasi TI selama periode tersebut.

“Alur kerja cerdas yang didukung AI dan peralatan otomatisasi TI membantu para pemimpin bisnis menemukan keunggulan kompetitif, dalam hal kinerja, yang sebelumnya sulit mereka dapatkan,” kata Warrick.

Sepuluh tahun yang lalu, AI digunakan untuk mengeksekusi proses sederhana berbasis aturan, keterampilan yang dikenal sebagai otomatisasi berbasis aturan. Contoh AI berbasis aturan awal termasuk operasi lengan robot dan jalur perakitan pabrik. Sementara alat AI berbasis aturan efektif di area tertentu, mereka tidak memiliki fleksibilitas dan skalabilitas untuk diterapkan pada masalah bisnis yang lebih luas. Sistem berbasis aturan bergantung pada seperangkat aturan yang telah ditentukan sebelumnya, dan seiring dengan meningkatnya kompleksitas tugas yang harus mereka lakukan, begitu pula jumlah aturan yang diperlukan agar sistem dapat berfungsi, yang pada akhirnya menciptakan sistem yang tidak dapat diskalakan.

Pada tahun 1990-an, para ilmuwan mulai mengembangkan program komputer yang dapat “belajar” cara menarik kesimpulan dengan cara yang mirip dengan otak manusia dengan menggunakan sejumlah besar data. Cabang AI ini, yang dikenal sebagai machine learning (ML), memungkinkan teknologi untuk menangani tugas-tugas yang semakin kompleks, seperti pengenalan ucapan dan tulisan tangan, permainan yang kompleks, dan bahkan kemampuan untuk membantu diagnosis medis.

Pembelajaran mendalam, bagian dari machine learning yang mendapatkan popularitas di tahun 2010-an, membawa tingkat kompleksitas yang dapat ditangani oleh sistem AI ke tingkat yang sama sekali baru. Pelatihan tentang neural networks berlapis-lapis, program pembelajaran mendalam menyimulasikan cara-cara kompleks dan bernuansa di mana otak manusia membuat pengambilan keputusan, memungkinkan AI untuk membangun aplikasi, menafsirkan gambar dan video bahkan merespons voice dan text prompt seperti yang dilakukan manusia.

Saat ini, berkat ML dan pembelajaran mendalam, otomatisasi AI telah berevolusi dari proses sederhana berbasis aturan menjadi model yang kaya dan canggih yang dilatih pada kumpulan data besar yang dapat melakukan banyak tugas yang sama seperti rekan manusia mereka. Gelombang baru alat AI ini—dikenal sebagai “otomatisasi cerdas”—membantu organisasi meningkatkan infrastruktur dan operasi TI mereka dengan merampingkan operasi bisnis, menganalisis data, dan menyelesaikan masalah kompleks yang sebelumnya membutuhkan perhatian manusia.

Perusahaan modern membutuhkan pikiran mereka yang paling cemerlang dan berfokus pada teknologi yang terkonsentrasi pada inisiatif yang memiliki potensi untuk memberikan nilai bisnis paling banyak, dan saat ini, itu berarti mengembangkan aplikasi AI gen. Menurut studi IBV lain, 64% CEO melaporkan merasakan tekanan dari investor, kreditor, dan pemberi pinjaman untuk mempercepat adopsi gen AI, dan lebih dari setengahnya mengatakan mereka merasakan tekanan yang sama dari karyawan mereka. 

Tetapi aplikasi gen AI memerlukan dukungan infrastruktur yang kompleks untuk memfasilitasi pengumpulan, pemrosesan, dan penyimpanan data dalam volume besar yang aman. Sebelumnya, tanggung jawab tersebut dibebankan kepada tim manajer TI, insinyur, dan ilmuwan data, tetapi bagaimana jika hal tersebut dapat dilakukan oleh AI?

Otomatisasi AI cerdas memanfaatkan kekuatan keterampilan khusus seperti visi komputer, pemrosesan bahasa alami (NLP) dan teknologi AI canggih lainnya untuk memecahkan masalah bisnis yang sangat kompleks. Model AI yang dilatih pada kumpulan data besar menggunakan machine learning (ML) dan pembelajaran mendalam dapat menganalisis data dari aplikasi dan sistem, dengan cepat mengidentifikasi pola dan menyesuaikan sumber daya dan proses yang sesuai sebelum masalah terjadi.

Visi komputer adalah AI yang menafsirkan gambar dan video seperti otak manusia. Model AI menggunakan ML dan pembelajaran mendalam untuk menganalisis data secara berulang-ulang, yang pada akhirnya mengidentifikasi perbedaan yang relevan dalam gambar dan video. Misalnya, model AI yang dilatih untuk mengamankan rumah perlu dilatih dengan ribuan jam rekaman keamanan rumah sehingga dapat belajar mengenali kemungkinan penyusup.

Dalam infrastruktur TI, visi komputer digunakan untuk berbagai tugas yang sebelumnya membutuhkan input manusia, termasuk pemeliharaan prediktif, pemantauan sistem, pemrosesan aliran data dan banyak lagi:

• Pemeliharaan prediktif: Sistem visi komputer yang terlatih khusus menggunakan algoritma pengenalan gambar untuk mendeteksi masalah pada komponen fisik seperti kabel dan server sebelum mengakibatkan waktu henti jaringan.

• Pemantauan sistem: Visi komputer dapat secara akurat menganalisis data dalam jumlah besar dari berbagai sumber yang beragam jauh lebih cepat daripada yang dapat dilakukan oleh manusia. Memeriksa sudut kamera terowongan kereta bawah tanah, jalan raya, dan bangunan akan memakan waktu berjam-jam bagi manusia, tetapi sistem visi komputer dapat melakukannya secara real-time.

• Pemrosesan aliran data: Sistem visi komputer memproses dan menganalisis data dalam jumlah besar yang dikirimkan dari sensor fisik yang melacak metrik utama seperti suhu, kelembapan, kecepatan udara, dan lainnya. Mengandalkan visi komputer untuk mendeteksi perubahan kondisi yang tiba-tiba sering mengingatkan organisasi tentang masalah dengan segera.

Pemrosesan bahasa alami (NLP) adalah bidang AI yang berfokus pada bagaimana komputer dapat dilatih untuk memahami dan berkomunikasi menggunakan bahasa manusia. NLP membantu sistem mengenali dan memahami ucapan manusia dan menghasilkan teks sebagai respons terhadap prompt.

Baru-baru ini, NLP penting dalam pengembangan dan peluncuran ChatGPT, chatbot inovatif yang dapat memahami dan menghasilkan teks seperti manusia sebagai tanggapan atas pertanyaan dan prompt.

Dalam infrastruktur dan operasi, NLP membantu organisasi dengan berbagai tugas yang sebelumnya membutuhkan input, seperti meningkatkan pengalaman pengguna, resolusi tiket, dan analisis sentimen:

• Pengalaman pengguna: NLP memungkinkan pengguna untuk mengajukan pertanyaan tentang masalah TI yang kompleks dengan cara yang sama seperti mereka berbicara dengan perwakilan layanan pelanggan dan menerima jawaban yang bermanfaat. Chatbot yang dilatih dengan pengetahuan teknis yang luas dan dilengkapi dengan keterampilan NLP dapat menggantikan perwakilan layanan pelanggan dengan pengetahuan teknis yang diperoleh selama bertahun-tahun.

• Resolusi tiket: AI Sistem NLP dapat menganalisis tiket yang masuk dan secara akurat memprioritaskan dan mengkategorikannya berdasarkan kepentingan dan jenisnya. Sistem AI bahkan dapat dilatih untuk menyelesaikan masalahnya sendiri, meminta campur tangan manusia saat dibutuhkan, atau mengambil tindakan lain yang sesuai.

• Analisis sentimen: Sistem NLP dapat melakukan analisis sentimen pada masukan pengguna, survei, dan bahkan posting media sosial, secara akurat mengukur emosi di balik respons dan mengidentifikasi area untuk perbaikan. Selain itu, sistem NLP dapat membantu mengatur informasi teknis khusus, meningkatkan dokumentasi, dan berbagi pengetahuan TI di seluruh organisasi.

Menerapkan otomatisasi AI cerdas ke infrastruktur dan operasi TI mengubah cara manajer TI memantau dan mengoptimalkan sistem mereka dan mengalokasikan sumber daya penting. Berikut adalah empat contoh area di mana Teknologi membantu mengubah proses, mengurangi biaya, dan mengidentifikasi insight ke dalam bisnis inti.

AI sangat mahir dalam menemukan pola dalam data, membuatnya sangat cocok untuk menganalisis sejumlah besar data yang mengalir melalui pusat data perusahaan setiap hari. Operator pusat data telah mulai menggunakan AI untuk membantu mereka menemukan pola dalam data dan mengidentifikasi peluang untuk otomatisasi dan perampingan proses, bagian penting dalam peningkatan laba atas investasi (ROI) untuk inisiatif transformasi digital.

Salah satu area di mana AI sudah meningkatkan operasi pusat data adalah dalam penggunaan energi. Sistem AI dapat memantau dan menyesuaikan sistem pendingin secara dinamis dan mengelola konsumsi daya yang membantu perusahaan menghemat jutaan—dalam satu kasus, menurunkan tagihan energi pusat data sebesar 40%.

AI semakin banyak digunakan untuk mengotomatiskan aspek tata kelola data, proses menjaga integritas dan keamanan data saat dikumpulkan, disimpan, dan diproses. Dengan munculnya AI generatif, bisnis menemukan bahwa mereka perlu mengumpulkan dan mengelola lebih banyak data dibandingkan sebelumnya. Karena data yang mereka butuhkan sering kali dikumpulkan di satu tempat dan disimpan serta diproses di tempat lain, maka untuk tetap mematuhi undang-undang kepatuhan yang berlaku bisa menjadi tantangan tersendiri. Sistem AI mengotomatiskan aspek-aspek tertentu dari proses kepatuhan, memperbarui berdasarkan undang-undang dan peraturan tanpa input, membuat seluruh proses lebih efisien dan aman.

AI memainkan peran yang semakin penting dalam observabilitas, aspek operasi TI yang membantu organisasi memahami kondisi sistem kompleks berdasarkan output sistem tersebut. Observabilitas dapat diterapkan pada berbagai komponen infrastruktur, termasuk server, aplikasi, perangkat jaringan, dan lainnya.

Model AI yang dilatih untuk tujuan pengamatan memantau data dari sistem ini dan menganalisisnya untuk mencari kesalahan dan ketidakefisienan. Menggunakan otomatisasi AI canggih, beberapa sistem AI bahkan dapat menentukan akar penyebab masalah tertentu dan mengambil tindakan yang tepat sebelum berdampak pada ketersediaan, kinerja, atau keamanan aplikasi.

Selain memantau kinerja dan ketersediaan sistem dan aplikasi, AI juga mengubah penyediaan, proses pembuatan sumber daya perangkat keras dan perangkat lunak tersedia untuk sistem dan pengguna. Saat ini, sistem AI canggih mengotomatiskan penyediaan, membantu perusahaan mengalokasikan sumber daya komputasi cloud dengan lebih efisien sehingga mesin tidak diam dan kinerja keseluruhan tidak turun. Peluang pasar untuk otomatisasi AI cerdas dalam proses penyediaan sangat signifikan: Menurut laporan industri oleh Flexera, lebih dari 32% pengeluaran cloud terbuang untuk penyediaan yang buruk.¹

Sistem AI digunakan untuk meningkatkan DevOps, sebuah metode pengembangan perangkat lunak yang menjembatani kesenjangan antara pembuat kode dan operasi TI. Beberapa perusahaan telah menggunakan AI untuk mengotomatiskan pengujian perangkat lunak, yang mengarah pada pengembangan yang lebih cepat. Yang lain telah menerapkan algoritma AI untuk menganalisis data pipeline dan meningkatkan alokasi sumber daya. Perusahaan lain semakin mengandalkan AI generatif untuk menulis kode, mengujinya, mengidentifikasi bug, dan bahkan menyarankan perbaikan potensial.

Menurut IBM Fellow Kyle Brown, AI tidak hanya digunakan untuk mengotomatiskan berbagai aspek tertentu dari DevOps, tetapi seluruh platform. “Saat ini, Anda bisa mengimplementasikan platform AI DevOps umum yang sepenuhnya digerakkan oleh konfigurasi dan otomatis,” katanya. “Apa pun yang sedang dikerjakan oleh tim pengembang, jika mereka membangunnya di salah satu platform ini, mereka akan mematuhi pedoman yang telah ditetapkan perusahaan.” 

Meskipun AI generatif dan potensinya untuk aplikasi bisnis mungkin masih menjadi berita utama, organisasi yang menerapkan AI pada sistem dan proses yang menopang TI menemukan cara-cara baru untuk mengurangi biaya dan mengubah sistem dan proses yang sudah ketinggalan zaman. Dari mengotomatiskan tugas-tugas intensif sumber daya seperti penyediaan, kepatuhan, dan pengujian perangkat lunak, hingga memantau sistem kompleks untuk intrusi dan menjelajahi kumpulan data besar untuk insight secara real-time, potensi inovasi di ruang ini tidak terbatas.

Solusi infrastruktur dan operasi TI AI modern (solusi AIOps) menghadirkan seperangkat alat didukung AI yang lengkap dan terintegrasi penuh yang mengotomatiskan proses dan memberikan insight yang kuat tentang kinerja dan kesehatan sistem dan aplikasi. “Alat modern ini adalah anugerah bagi tim operasi TI,” kata Brown. “Ambil satu area saja—perencanaan, misalnya—dan kami telah melihat otomatisasi AI yang cerdas memangkas pengeluaran yang direncanakan untuk perangkat keras dan sumber daya tambahan menjadi dua.,”