Mempersiapkan organisasi Anda untuk menskalakan AI agen yang bertanggung jawab

Dalam tata kelola AI, Anda tidak bisa mengatur sesuatu yang tidak dapat Anda lihat. Namun, visibilitas saja tidak cukup berarti tanpa pemahaman yang jelas mengenai risiko di dalam model dan sistem kecerdasan buatan (AI) Anda.

Hal ini terutama berlaku untuk teknologi baru seperti AI agen. Agen AI dapat meningkatkan efisiensi dan produktivitas, namun memahami seluruh spektrum risiko yang mereka bawa menjadi lebih menantang. “Risiko terkait AI generatif dan machine learning bisa signifikan sejak awal, terutama untuk contoh penggunaan tertentu,” tulis Manish Bhide, Heather Gentile, dan Jordan Byrd dari IBM®. “Tambahkan agen AI, dan risikonya pun semakin meningkat.” 

Dokumen white paper kami, “Agen AI: peluang, risiko, dan mitigasi,” menyajikan analisis mendalam terhadap risiko AI agen, mengeksplorasi penguatan risiko AI yang sudah dikenal serta munculnya tantangan baru yang unik.

Berdasarkan penelitian kami sebelumnya dalam mengidentifikasi risiko dan mitigasi untuk model dasar, makalah ini membekali praktisi dengan pengetahuan dasar yang diperlukan untuk memahami, mengenali, dan mengurangi risiko. Ini merupakan langkah awal yang krusial menuju penerapan AI agen secara bertanggung jawab dalam skala besar.

Agen AI bersifat sangat otonom, mampu menyelesaikan berbagai tugas tanpa memerlukan pengawasan manusia secara berkelanjutan. Mereka juga memiliki empat karakteristik yang dapat menimbulkan risiko:

·      Keburaman: Visibilitas yang terbatas terhadap cara kerja dan interaksi internal agen AI dapat menghambat pemahaman atas tindakan yang mereka ambil.

·      Keterbukaan: Agen AI dapat memilih sendiri sumber daya, alat, dan bahkan agen AI lain untuk menyelesaikan tugas, sehingga meningkatkan kemungkinan munculnya tindakan yang tidak terduga. 

·      Kompleksitas: Seiring agen AI belajar dan beradaptasi, cara kerjanya menjadi semakin kompleks, membuat proses analisis kian menantang.

·      Non-reversibilitas: Bertindak tanpa pengawasan manusia yang berkelanjutan, agen AI memiliki peluang yang meningkat untuk mengambil tindakan ireversibel dengan konsekuensi nyata baik di ranah digital maupun fisik.

Otonomi dan karakteristik agen AI menghadirkan potensi risiko, tantangan, dan dampak sosial yang perlu dipahami para praktisi agar dapat menskalakan AI agentic secara bertanggung jawab.

Agentic AI menghadirkan risiko dan tantangan baru dalam lingkungan kecerdasan buatan, yang kerap luput dari pertimbangan para praktisi saat merancang, mengembangkan, mengadopsi, atau mengatur sistem AI sebelumnya.

Salah satu contohnya adalah risiko terkait bias data: agen AI dapat memodifikasi kumpulan data atau database dengan cara yang justru menambah bias. Dalam situasi ini, agen AI mengambil tindakan yang berdampak langsung pada dunia nyata, dan perubahan tersebut bisa bersifat ireversibel jika skala bias yang muncul tidak terdeteksi sejak awal.

Agentic AI juga memperkuat sejumlah area risiko yang sudah dikenal, termasuk tantangan dalam mengevaluasi sistem serta potensi munculnya tindakan yang sulit dijelaskan atau dilacak. Praktisi perlu meninjau kembali area-area ini saat bekerja dengan agen AI.

Misalnya, agen AI yang memiliki akses tanpa batas ke sumber daya, database, atau alat meningkatkan risiko berbagi informasi sensitif atau rahasia dengan pengguna. Tanpa batasan yang tepat, agen tersebut dapat secara tidak sengaja menyimpan dan membocorkan informasi pribadi, kekayaan intelektual, atau data rahasia lainnya kepada pengguna sistem. White paper ini merinci risiko dan tantangan tersebut, serta menjelaskan asal-usul dan dampak potensialnya.

Mengatasi risiko dan tantangan unik dari AI agentic memerlukan pendekatan end-to-end untuk mitigasi risiko, yang dijalankan melalui tata kelola AI. Namun, seperti yang baru-baru ini dijelaskan oleh Phaedra Boinodiris dan Jon Parker dari IBM®, “Agentic AI berkembang begitu cepat sehingga organisasi bisa kesulitan menemukan preseden atau praktik terbaik untuk meminimalkan potensi bahaya.”

Untungnya, banyak strategi yang selama ini digunakan untuk mengurangi risiko pada jenis AI lain, seperti AI generatif dan machine learning, juga dapat diterapkan untuk memitigasi risiko pada AI agentic. Salah satu contohnya adalah memasukkan manusia ke dalam loop, sebuah praktik terbaik dalam penerapan AI yang bertanggung jawab di berbagai bentuk. Dengan mengaktifkan validasi dan masukan manusia terhadap tindakan yang dilakukan agen AI, organisasi dapat memastikan akurasi, relevansi, serta menjaga keselarasan dengan nilai-nilai yang mereka junjung. 

Memahami risiko unik dari AI agentic adalah langkah awal yang penting untuk menskalakannya secara bertanggung jawab di seluruh perusahaan dan mewujudkan pengembalian investasi (ROI) AI yang bertanggung jawab. Laporan “Agen AI: Peluang, Risiko, dan Mitigasi” membantu Anda memetakan lingkungan risiko AI agentic dengan lebih jelas sekaligus mempertimbangkan bagaimana organisasi Anda dapat memanfaatkan peluang besar yang dihadirkan agen AI secara bijak dan bertanggung jawab.

Baca Agen AI: Peluang, risiko, dan mitigasi

Pelajari lebih lanjut tentang pendekatan IBM terhadap AI yang bertanggung jawab