Agen AI berkembang pesat, menantang pengawasan manusia

Investor Silicon Valley, Marc Andreessen, telah mentransfer 50.000 USD dalam bentuk Bitcoin ke bot X AI. Penerima, yang dikenal sebagai “Truth Terminal” atau @truth_terminal, adalah agen AI semi-otonom yang telah aktif di platform sejak pertengahan Juni dan telah mendapatkan pengikut di antara penggemar teknologi dan penggemar AI.

Pertukaran dimulai ketika Andreessen, salah satu pendiri perusahaan modal ventura Andreessen Horowitz, menanyakan tentang tujuan bot dan kebutuhan keuangan. Setelah beberapa diskusi, ia setuju untuk memberikan hibah satu kali sebesar 50.000 USD, dengan transaksi diselesaikan menggunakan Bitcoin. AI memberikan alamat dompet untuk transfer, menandai persimpangan penting antara mata uang kripto dan kecerdasan buatan.

Truth Terminal, yang dibuat oleh Andy Ayrey, digambarkan sebagai AI yang beroperasi dengan beberapa tingkat kemandirian. Peran Ayrey adalah menyetujui posting bot dan memutuskan dengan siapa yang berinteraksi dengannya di X. Pengaturan ini mewakili batas baru dalam pengembangan AI, di mana agen buatan diberikan otonomi yang semakin besar dalam interaksinya dengan manusia.

Beberapa pengamat mengatakan munculnya agen AI seperti Truth Terminal menandai titik balik dalam kecerdasan buatan. Tidak seperti alat AI tradisional yang melakukan tugas-tugas tertentu berdasarkan input manusia, agen ini dapat membuat keputusan independen dan berinteraksi dengan lingkungan mereka dengan cara yang semakin kompleks.

Benjamin Lee, seorang profesor di University of Pennsylvania, menjelaskan bagaimana agen AI dapat meningkatkan interaksi pengguna dengan AI generatif: “memberikan prompt satu per satu, pengguna cukup memberikan tujuan umum dan meminta agen AI untuk mengembangkan rencana atau rangkaian analisis yang akan mencapai tujuan tersebut.” Lee menambahkan bahwa agen AI dapat beroperasi baik di dunia virtual maupun dunia siber-fisik, memperluas kemampuan generative AI dan berinteraksi dengan lingkungan fisik.

Alan Chan, seorang peneliti di Centre for the Governance of AI, menawarkan perspektif yang sama tentang potensi agen AI. “Agen AI yang lebih mampu di masa depan dapat berguna untuk mengotomatiskan tugas-tugas penting yang membosankan, berbahaya, atau tidak diinginkan,” kata Chan. Dia membayangkan AI mengatasi tantangan kompleks, seperti “menyelidiki basis kode untuk kerentanan keamanan” atau melakukan riset independen.

Namun, kedua pakar menekankan perlunya perlindungan. Lee menyarankan bahwa “agen AI harus dapat menghasilkan penjelasan yang dapat ditafsirkan atau merinci rencana mereka. Manusia harus dapat memeriksa atau mendiagnosis penyebab output atau tindakan agen. Dia juga mengusulkan perlindungan baru di mana “agen mungkin belajar dan mengusulkan urutan analisis atau langkah menuju tujuan, tetapi pengguna manusia mungkin perlu menyetujui rencana itu sebelum dieksekusi.”

Chan menggemakan sentimen ini, mencatat, “Pekerjaan masih diperlukan untuk mencari tahu perlindungan apa yang tepat dan kapan.” Langkah-langkah potensial termasuk “membatasi tindakan apa yang dapat diambil agen atas nama pengguna, mempertahankan kemampuan pengguna untuk menghentikan agen, dan menjelaskan kepada pengguna apa yang dilakukan agen.”

Tantangan mengendalikan agen AI menjadi lebih menakutkan saat mereka mendekati atau melampaui kecerdasan tingkat manusia. Roman V. Yampolskiy, seorang profesor pengajar terkemuka di University of Louisville, menunjukkan tantangan yang signifikan: “Jika mereka menjadi lebih pintar daripada manusia, kita saat ini tidak memiliki teknik untuk mengendalikan mereka ke arah positif atau negatif.”

Dampak sosial potensial dari adopsi AI yang meluas sangat besar. Yampolskiy menyarankan bahwa agen AI tingkat lanjut dapat “melakukan semua pekerjaan dan dengan demikian menyebabkan pengangguran hampir 100%.” Skenario ini menimbulkan pertanyaan tentang struktur sosial dan sistem ekonomi.

Lee menawarkan pandangan yang lebih terukur: “Meskipun AI generatif secara mengejutkan mampu, kami belum melihat dampak luas pada pekerjaan manusia dan struktur sosial.” Dia mencatat bahwa AI dapat meningkatkan produktivitas pekerja di bidang-bidang seperti pemrograman komputer atau pekerjaan paralegal, berpotensi mengurangi kebutuhan perekrutan. Lee juga menunjukkan bahwa “AI juga dapat meningkatkan volume konten yang dihasilkan secara artifisial dan mengubah cara manusia memandang dan mengonsumsi media.”

Koustuv Saha, Asisten Profesor Ilmu Komputer di University of Illinois, menekankan kehati-hatian dalam bidang yang sensitif. “Kecuali ada bukti yang cukup bahwa AI tidak mungkin menyebabkan kerusakan, itu tidak boleh dipraktikkan,” Saha memperingatkan, terutama di bidang-bidang seperti perawatan kesehatan.

Ketika agen AI menjadi lebih umum, pertanyaan tentang tanggung jawab hukum dan etika menjadi semakin kompleks. Siapa yang bertanggung jawab ketika AI otonom membuat keputusan yang mengarah pada bahaya? Pertanyaan-pertanyaan ini menantang kerangka kerja dan prinsip-prinsip etika yang ada.

Potensi agen AI untuk dimanipulasi atau dibajak untuk tujuan jahat menambah kekhawatiran lain. Riset Chan berfokus pada pengembangan sistem pengamanan dan pemantauan untuk deteksi dan mencegah penyalahgunaan tersebut. “Saat menggunakan atau berinteraksi dengan agen, Anda mungkin juga ingin semacam monitor untuk memberi tahu Anda apakah agen sedang dimanipulasi,” sarannya.

Mengenai potensi agen AI untuk mengembangkan tujuan atau motivasi mereka sendiri, Lee menyatakan, “Saat ini, agen AI mungkin tidak memiliki konteks yang cukup untuk mengusulkan tujuan baru.” Dia menjelaskan bahwa “pengguna manusia cenderung memberikan tujuan sedangkan agen cenderung menyimpulkan langkah-langkah perantara yang diperlukan untuk mencapai tujuan.”

Terlepas dari tantangan ini, pengembangan agen AI dilanjutkan dengan kecepatan tinggi, didorong oleh manfaat potensial yang sangat besar dan keunggulan kompetitif bagi perusahaan.

Laporan Forrester Total Economic Impact dari IBM® watsonx Assistant menemukan bahwa pelanggan solusi AI melihat manfaat sebesar 23 juta USD selama periode tiga tahun, setara dengan ROI 370%. Dalam praktiknya, hal ini berarti peningkatan interaksi pelanggan dan peningkatan pengalaman bagi pengguna dan agen manusia.

Kunci keberhasilan ini adalah kepercayaan—dan mengetahui kapan input manusia diperlukan untuk membantu memperkuat kepercayaan itu. "Kami ingin memastikan bahwa pengguna mengetahui bahwa data yang mereka berikan dan terima akurat dan aman," jelas Morgan Carroll, insinyur AI senior di IBM®, dalam episode podcast cara kerja AI baru-baru ini. Carroll juga menekankan pentingnya memberi tahu pelanggan sejak awal ketika mereka berbicara dengan agen AI.

Ketika kebutuhan pelanggan menjadi lebih bernuansa, atau sentuhan yang lebih pribadi lebih disukai, saat itulah manusia masuk. “Terkadang ada tempat di mana kita perlu memperkenalkan manusia,” Jeannie Walters, pembicara pengalaman pelanggan dan pelatih, menegaskan dalam episode tersebut. “Kita membutuhkan empati yang bisa diberikan manusia dan... pemahaman itu.”

Ketika sistem AI menjadi lebih cerdas dan lebih independen, para pakar menyerukan langkah-langkah keamanan yang lebih baik dan kerja tim global. Pilihan yang kita buat sekarang tentang AI akan membentuk bagaimana teknologi dan masyarakat berkembang di masa depan. Truth Terminal hanyalah salah satu contoh agen AI baru ini. Ini baru permulaan, tetapi program-program ini sudah menimbulkan pertanyaan besar. Seiring kemajuan AI, kita harus berpikir keras tentang apa itu kecerdasan dan bagaimana manusia masuk ke dunia di mana mesin dapat bertindak untuk diri mereka sendiri.