Cara meningkatkan skala AI generatif yang siap berbisnis secara bertanggung jawab

Bayangkan kemungkinan untuk menyediakan kueri berbasis teks dan membuka dunia pengetahuan untuk meningkatkan pembelajaran dan produktivitas. Kemungkinan berkembang yang mencakup membantu dalam menulis artikel, esai, atau email; mengakses riset yang diringkas; menghasilkan dan melakukan curah pendapat ide; pencarian dinamis dengan rekomendasi yang dipersonalisasi untuk retail dan perjalanan; dan menjelaskan topik rumit untuk pendidikan dan pelatihan. Dengan AI generatif, pencarian menjadi sangat berbeda. Alih-alih memberikan tautan ke beberapa artikel, pengguna akan menerima jawaban langsung yang digabungkan dari berbagai data. Ini seperti berbicara dengan mesin yang sangat pintar.

AI generatif menggunakan bentuk canggih dari algoritma machine learning yang mengambil prompt pengguna dan menggunakan pemrosesan bahasa alami (NLP) untuk menghasilkan jawaban atas hampir semua pertanyaan yang diajukan. Sistem ini menggunakan data internet dalam jumlah besar, prapelatihan berskala besar, dan pembelajaran yang diperkuat untuk memungkinkan transaksi yang mirip dengan manusia. Pembelajaran penguatan dari masukan manusia (RLHF) digunakan, beradaptasi dengan konteks dan situasi yang berbeda, menjadi lebih akurat dan alami dari waktu ke waktu. AI generatif sedang dianalisis untuk berbagai contoh penggunaan termasuk pemasaran, layanan pelanggan, retail, dan pendidikan.

ChatGPT menggunakan arsitektur pembelajaran mendalam yang disebut Transformator dan mewakili kemajuan signifikan di bidang NLP. Meskipun OpenAI yang mengawali, persaingan terus berkembang. Menurut Precedence Research, ukuran pasar AI generatif global senilai USD 10,79 pada tahun 2022 dan diperkirakan akan mencapai sekitar USD 118,06 pada tahun 2032 dengan CAGR 27,02% antara tahun 2023 dan 2032. Ini semua sangat mengesankan, tetapi bukan tanpa peringatan.

Ada beberapa masalah mendasar saat menggunakan model generatif dibangun sebelumnya. Setiap organisasi harus menyeimbangkan peluang untuk penciptaan nilai dengan risiko yang terlibat. Tergantung pada bisnis dan contoh penggunaan, jika toleransi terhadap risiko rendah, organisasi akan menemukan bahwa baik membangun secara internal atau bekerja dengan mitra tepercaya akan membuahkan hasil yang lebih baik.

Kekhawatiran yang perlu dipertimbangkan dengan model AI generatif yang tidak disesuaikan meliputi:

Data internet tidak selalu adil dan akurat

Sejumlah besar data dari berbagai sumber seperti Wikipedia, situs web, artikel, file gambar, atau audio, dll. merupakan inti dari data AI generatif saat ini. Model generatif mencocokkan pola dalam data yang mendasarinya untuk membuat konten dan tanpa kontrol mungkin ada niat jahat yang ingin menyebarkan informasi yang salah, bias, dan pelecehan online. Karena teknologi ini masih sangat baru, terkadang terdapat kekurangan akuntabilitas, peningkatan paparan pada risiko reputasi dan peraturan yang berkaitan dengan berbagai hal seperti hak cipta dan royalti.

Mungkin ada hubungan yang terputus antara pengembang model dan semua contoh penggunaan model

Pengembang hilir model generatif mungkin tidak melihat sepenuhnya bagaimana model tersebut akan digunakan dan diadaptasi untuk tujuan lain. Hal ini dapat mengakibatkan asumsi dan hasil yang salah yang tidak terlalu penting ketika kesalahan melibatkan keputusan yang tidak terlalu penting, seperti memilih produk atau layanan, tetapi menjadi penting ketika memengaruhi keputusan bisnis yang penting, yang dapat membuat organisasi dituduh melakukan perilaku tidak etis, termasuk bias, atau masalah kepatuhan terhadap peraturan yang dapat menyebabkan audit atau denda.

Litigasi dan regulasi berdampak pada penggunaan

Kekhawatiran atas litigasi dan peraturan pada awalnya akan membatasi sejauh apa organisasi menggunakan AI generatif. Hal ini terutama berlaku di industri yang sangat diatur seperti jasa keuangan dan perawatan kesehatan di mana toleransi sangat rendah untuk keputusan yang tidak etis dan bias berdasarkan data dan model yang tidak lengkap atau tidak akurat dapat memiliki dampak yang merugikan.

Pada akhirnya, lingkungan peraturan untuk model generatif akan mengimbangi, tetapi perusahaan harus proaktif dalam mematuhinya untuk menghindari pelanggaran kepatuhan, kerusakan reputasi perusahaan, audit, dan denda.

Karena hasil insight AI menjadi lebih penting bagi bisnis dan pilihan teknologi terus berkembang, Anda memerlukan jaminan bahwa model Anda beroperasi secara bertanggung jawab dengan proses yang transparan dan hasil yang dapat dijelaskan. Organisasi yang secara proaktif menanamkan tata kelola ke dalam inisiatif AI mereka dapat mendeteksi dan mengurangi risiko model dengan lebih baik seraya memperkuat kemampuan mereka untuk memenuhi prinsip-prinsip etika dan peraturan pemerintah.

Yang paling penting adalah menyelaraskan teknologi tepercaya dengan kemampuan perusahaan. Anda dapat memulai dengan mempelajari lebih lanjut tentang kemajuan yang dibuat IBM dalam model AI generatif baru dengan watsonx.ai dan secara proaktif menerapkan watsonx.governance untuk mendorong alur kerja AI yang bertanggung jawab, transparan, dan dapat dijelaskan, kini dan untuk masa depan.

watsonx.governance menyediakan kit alat tata kelola, risiko, dan kepatuhan (GRC) yang kuat yang dibangun untuk menerapkan alur kerja siklus hidup AI, secara proaktif mendeteksi dan mengurangi risiko, dan untuk meningkatkan kepatuhan terhadap persyaratan hukum, etika, dan peraturan yang terus berkembang dan berubah. Laporan, dasbor, dan alat kolaboratif yang dapat disesuaikan menghubungkan tim terdistribusi, meningkatkan efisiensi, produktivitas, dan akuntabilitas pemangku kepentingan. Pengambilan metadata dan fakta model secara otomatis memberikan dukungan audit sekaligus mendorong hasil model yang transparan dan dapat dijelaskan.

Percepat tata kelola dan sederhanakan manajemen risiko di seluruh organisasi Anda dengan IBM OpenPages, solusi tata kelola, risiko, dan kepatuhan (GRC) terpadu untuk membantu mengelola, memantau, dan melaporkan risiko dan kepatuhan. Pelajari lebih lanjut tentang bagaimana watsonx.governance mendorong alur kerja AI yang bertanggung jawab, transparan, dan dapat dijelaskan serta peningkatan mendatang pada masa depan.