Model Kemampuan AI Generatif

Kemampuan Enterprise, penting untuk mencapai tujuan strategis dan persyaratan operasi, diuraikan dalam model kemampuan Arsitektur AI Generatif. Model ini mencakup enam kategori utama yang menampilkan kemampuan unik serta kemampuan pendukung yang diperlukan untuk implementasi AI generatif yang efektif, dengan dokumentasi komprehensif yang tersedia pada arsitektur lainnya.

• Operasi Gen AI adalah kemampuan yang diperlukan untuk mengelola, menerapkan, dan menyesuaikan model AI generatif agar dapat digunakan dalam perusahaan. Termasuk dalam kategori ini adalah kemampuan untuk melatih dan menyetel model, mengelola siklus hidup model setelah digunakan, serta mengelola model dan kumpulan data yang tersedia bagi pengguna di dalam perusahaan.

• Penerapan Aplikasi Gen AI adalah kemampuan yang diperlukan untuk melakukan tuning pada model dasar agar dapat digunakan dalam solusi perusahaan dan domain spesifik, serta untuk mengembangkan aplikasi AI generatif yang memiliki fitur lengkap. Ini mencakup kemampuan yang diperlukan untuk membuat dan menerapkan aplikasi AI agen, serta untuk melakukan pengujian dan tuning prompt.

• Tata Kelola Gen AI adalah rangkaian kemampuan yang diperlukan untuk memantau dan mengelola model yang digunakan dalam produksi secara efektif. Hal ini mencakup kemampuan untuk memantau respons model agar tetap akurat dan tepat secara berkelanjutan, kemampuan untuk melindungi model dari input yang tidak tepat dan/atau berbahaya, serta kemampuan tata kelola untuk mengelola risiko perusahaan dan membantu kepatuhan terhadap peraturan serta persyaratan pelaporan.

• Manajemen Keamanan Gen AI berfokus pada kemampuan yang diperlukan untuk melindungi sistem AI dan memastikan penerapannya secara etis serta bertanggung jawab. Ini mencakup pengamanan seluruh tumpukan AI, melindungi model dan penggunaannya, serta data yang menjadi dasar operasionalnya.

Kelompok kemampuan yang tersisa merupakan kemampuan pendukung bagi AI generatif. Kemampuan ini tidak bersifat unik untuk AI generatif, tetapi harus tersedia untuk mendukungnya sebagai kemampuan perusahaan. Kelompok-kelompok ini adalah:

• Manajemen Data adalah sekumpulan kemampuan untuk menyimpan, mengelola, dan mengubah data ke dalam bentuk yang membuatnya sesuai untuk penyetelan dan pelatihan model AI generatif. Termasuk juga dalam kategori ini kemampuan untuk mencatat dan menilai respons model untuk tujuan audit, serta sebagai input bagi penyetelan dan penyempurnaan model lebih lanjut.
   

• Kemampuan Pendukung adalah pengelompokan seluruh kemampuan aplikasi, integrasi, dan operasi yang diperlukan untuk berhasil menerapkan serta mengelola solusi AI generatif di dalam perusahaan.
   

• Sumber daya Gen AI mencakup kemampuan perangkat keras dan platform yang diperlukan untuk mengembangkan, menyetel, menerapkan, serta mengelola model dan solusi AI generatif secara efisien dan efektif.

Setiap kategori kemampuan terdiri dari satu atau lebih kelompok kemampuan. Bagian ini menyoroti kelompok serta kemampuan kunci AI generatif.

Grup kemampuan Hub Model merangkum kemampuan yang diperlukan untuk mengelola model yang diimpor serta model yang disetel atau dilatih oleh perusahaan. Kemampuan ini memungkinkan perusahaan mengelola model dan kumpulan data yang tersedia untuk digunakan di dalam perusahaan, serta membatasi akses ke model dan kumpulan data bagi pengguna atau grup tertentu dalam perusahaan. Mengimpor model dan Mengimpor data merupakan kemampuan utama bagi perusahaan untuk mengatur pemasukan model dari repositori model publik yang terus berkembang, seperti Hugging Face.

Hosting Model menawarkan kemampuan untuk menerapkan model umum maupun model yang telah disetel sebagai layanan berkemampuan API di dalam perusahaan, mengoptimalkan pemanfaatan sumber daya, memungkinkan penyempurnaan dan penggantian secara independen, serta menyederhanakan tata kelola. Kunci dari hal ini adalah Manajemen Kebijakan Akses Model, yang memastikan akses ke model dibatasi hanya untuk pengguna dan grup yang berwenang, sehingga mencegah penggunaan yang tidak sah.

Kustomisasi Model adalah sekumpulan kemampuan yang memungkinkan perusahaan menyesuaikan dan melatih model AI generatif untuk kebutuhan bisnis tertentu. Biasanya, kemampuan ini direalisasikan menggunakan platform cloud karena model pay-as-you-go pada cloud sangat sesuai dengan sifat kebutuhan sumber daya penyetelan dan pelatihan yang bersifat 'meledak-ledak'.

Model dan Tata Kelola Data adalah sekumpulan kemampuan penting bagi perusahaan untuk memanfaatkan model AI generatif dalam skala luas. Secara khusus, kemampuan ini memberikan insight yang dibutuhkan perusahaan untuk memantau dan mengelola risiko model, seperti mengidentifikasi bias dalam respons model, serta membantu memenuhi persyaratan regulasi dan kepatuhan terkait transparansi dan keadilan model.

Pemantauan Model merupakan analog operasional dari Tata Kelola Model; jika Model Governance berkaitan dengan manajemen model jangka panjang dan pengelolaan risiko, maka kemampuan dalam Pemantauan Model memungkinkan perusahaan memantau dan mengelola operasi model secara real time. Pemantauan Model terdiri atas beberapa kemampuan utama, termasuk:

• Deteksi Bias kemampuan untuk mendeteksi dan menandai ketika respons model menyimpang dari respons yang tetapan/ideal dan mulai mendukung serangkaian hasil daripada yang lain.

• Deteksi Kebencian, Kasar, dan Tidak senonoh (HAP) adalah kemampuan untuk mendeteksi dan menyaring ujaran kebencian, penyalahgunaan, dan kata-kata tidak pantas dalam prompt yang dikirimkan oleh pengguna serta dalam respons yang dihasilkan oleh model. Ini dianggap sebagai kemampuan 'dasar'; perusahaan sering memilih untuk memperluas daftar topik yang difilter agar mencakup topik yang tidak sesuai dengan bisnis, mis. topik yang bersifat sugestif seksual di lingkungan kantor pemberi pinjaman, atau untuk menyesuaikan dengan norma sosial audiens target.

• Pemantauan dan Keamanan Prompt adalah kemampuan yang sedang berkembang yang diperlukan untuk melindungi model yang digunakan dari serangan, seperti injeksi prompt, yang dirancang untuk merusak model atau menghindari kontrol model yang telah ditetapkan oleh perusahaan.
  
  

Manajemen Kepatuhan Gen AI adalah kategori kemampuan tentang mengaktifkan kontrol yang diperlukan untuk “mengamankan penggunaan” AI melalui tumpukan aplikasi dan “mengamankan aplikasi” itu sendiri. Mengikuti standar dan pedoman etika untuk memastikan bahwa sistem AI menghormati nilai-nilai dan hak asasi manusia.

• Kepatuhan Aplikasi AI. Kemampuan untuk memungkinkan kepatuhan aplikasi AI terhadap pedoman, peraturan, dan standar yang telah ditetapkan. Menyediakan kemampuan untuk mengaktifkan kontrol seperti: Manajemen Postur dan Kepatuhan Aplikasi AI, serta melakukan pengujian Sistem AI Tepercaya.

• Kepatuhan Model AI adalah kemampuan untuk memungkinkan pengelolaan dan kepatuhan model AI terhadap pedoman, peraturan, dan standar yang telah ditetapkan. Ini memungkinkan kontrol utama seperti: Pelacakan Drift Model. Manajemen Postur dan Kepatuhan Model.

• Manajemen Hukum dan Kepatuhan. Memastikan organisasi tetap mengikuti perkembangan lingkungan regulasi (pengawasan regulasi) dan mematuhi persyaratan hukum, aturan, serta standar yang mengatur pengembangan, penerapan, pemantauan, dan penggunaan AI (mis. Kepatuhan Berkelanjutan dan Pengawasan Regulasi)
   

Manajemen Keamanan Aplikasi AI. Kategori kemampuan ini berfokus pada pengaktifan kontrol yang diperlukan untuk “mengamankan penggunaan” AI di seluruh tumpukan aplikasi serta “mengamankan aplikasi” itu sendiri. Mematuhi standar dan pedoman etika untuk memastikan bahwa sistem AI menghormati nilai dan hak asasi manusia.

• Manajemen Ancaman dan Perlindungan Aplikasi AI adalah kemampuan untuk mengidentifikasi, menilai, dan mengurangi potensi risiko serta kerentanan yang dapat memengaruhi keamanan, fungsionalitas, atau keandalan aplikasi AI. Kemampuan ini juga memastikan sistem dapat beradaptasi, memulihkan diri, dan terus berfungsi secara efektif bahkan ketika menghadapi peristiwa, kegagalan, atau gangguan yang tidak terduga. Selain itu, kemampuan ini memastikan ketahanan, keamanan, dan keandalan sistem AI sepanjang siklus hidupnya.

• Keselamatan dan Keamanan Interaksi Aplikasi AI adalah mekanisme untuk memastikan bahwa interaksi antara sistem AI dengan penggunanya, sistem lain, serta lingkungannya berlangsung secara aman dan terlindungi. (mis. Manipulasi Input, Pembatasan Kueri Berlebihan, serta Pencegahan Hasil yang Merugikan)

• Keamanan Aplikasi AI. Kemampuan dan praktik untuk memastikan operasi sistem AI yang aman dan andal. Ini mencakup strategi untuk mencegah konsekuensi yang tidak diinginkan, kesalahan, dan kerusakan yang disebabkan oleh aplikasi AI (mis. Dokumentasi Upaya AI Tepercaya serta Penilaian Keadilan).
   

Manajemen Keamanan Model AI. Kategori kemampuan ini berfokus pada pengaktifan kontrol yang diperlukan untuk “mengamankan lapisan model” serta mengamankan penggunaan model. Ini mencakup penerapan praktik terbaik dalam pelatihan, validasi, dan evaluasi model untuk meningkatkan kinerja serta keandalannya.

• Keselamatan&Keamanan Prompt adalah kemampuan untuk memastikan bahwa prompt input yang diberikan ke model AI aman, tidak berbahaya, dan selaras dengan perilaku model yang dimaksudkan, sekaligus melindungi model dari akses tidak sah, gangguan, atau serangan. Kemampuan ini juga memeriksa apakah prompt aman dan terlindungi dari konten yang mungkin secara tidak sengaja mengungkapkan informasi sensitif seperti PII (mis. Perlindungan Terhadap Injeksi Prompt, Pencegahan Serangan Inferensi/Meminimalkan Respons Kueri, serta Pencegahan Hasil yang Merugikan)

• Deteksi Ancaman Model AI adalah kemampuan untuk mengidentifikasi dan mengurangi potensi risiko atau kerentanan yang dapat membahayakan integritas, keamanan, atau kinerja model AI serta interaksinya dengan model tersebut (mis. Pengujian Keamanan Model, Mitigasi Kerentanan Model)

• Manajemen Akses Model AI. Membatasi akses ke model Gen AI, parameter model, data pelatihan, dan API untuk mencegah potensi penyalahgunaan serta vektor serangan. Kemampuan ini menetapkan kontrol akses di sekitar model yang diekspos untuk penggunaan perusahaan, termasuk untuk aplikasi AI; mengamankan registri model internal dan membatasi akses internal ke model produksi. Kontrol akses tersebut harus mencakup kebijakan kontekstual yang mempertimbangkan siapa, apa, kapan, dan dari mana.
   

Manajemen Keamanan Data AI. Kategori kemampuan ini memungkinkan penerapan kontrol untuk “mengamankan lapisan data”. Menetapkan pedoman yang jelas untuk pengumpulan, penyimpanan, dan penggunaan data guna memastikan kualitas data serta mengurangi bias. Meskipun keamanan data tidak unik untuk Gen AI, pembahasan ini berfokus pada area di mana Gen AI memerlukan perhatian khusus dari sudut pandang data.

• Privasi dan Kerahasiaan Data adalah kemampuan untuk melindungi informasi sensitif, memastikan bahwa informasi tersebut ditangani dengan tepat, tetap bersifat pribadi, dan hanya dapat diakses oleh pengguna sistem yang berwenang (mis. Perlindungan Privasi, Keamanan Data Sensitif, Kerahasiaan Data)
   

AI Agen adalah sekumpulan kemampuan yang diperlukan untuk membuat dan menerapkan aplikasi AI agen. Ini termasuk kemampuan inti seperti Routing dan Orkestrasi, serta Manajemen Alat dan Pemanggilan Alat.

Penyetelan Gen AI adalah sekumpulan kemampuan yang diperlukan untuk “menyesuaikan” model generatif umum dengan kebutuhan perusahaan. Model dilatih pada basis pengetahuan yang luas dan biasanya tidak memiliki pengetahuan tentang jargon serta proses industri tertentu. Oleh karena itu, sebagian besar perusahaan perlu menggunakan kemampuan seperti Rekayasa prompt, Penyetelan Prompt, dan Penyelarasan Model untuk membangun model yang memahami persyaratan serta proses bisnis perusahaan.

Kemampuan Aplikasi Gen AI memungkinkan perusahaan untuk mengembangkan aplikasi AI generatif canggih. Kemampuan Aplikasi Gen AI memungkinkan perusahaan untuk mengembangkan aplikasi AI generatif canggih. Kemampuan mencakup kemampuan untuk menghasilkan fungsi secara dinamis untuk menanggapi permintaan pengguna; memori percakapan, yang memungkinkan aplikasi AI generatif untuk mempertahankan dan mereferensikan interaksi sebelumnya dengan cara percakapan; dan perutean model, yang memungkinkan aplikasi merutekan kueri secara dinamis ke model yang paling cocok untuk merespons.