Deepseek-R1 adalah pengingat tentang pentingnya tata kelola AI

Model dasar sumber terbuka, seperti DeepSeek-R1 yang banyak dibahas, dapat memberi perusahaan awal yang lebih baik saat membuat model kustom mereka sendiri dan karenanya dapat meningkatkan ROI. Namun yang kurang dibahas adalah peran tata kelola AI. Tata kelola diperlukan untuk semua bentuk AI dan ML, tetapi ada pertimbangan unik untuk model sumber terbuka dari penyedia pihak ketiga. Jika Anda ingin penggunaan AI oleh organisasi Anda aman, transparan, dan bertanggung jawab, tata kelola AI sangat penting.

Mengingat perkembangan ini, mari kita bahas bagaimana Anda dapat memanfaatkan model sumber terbuka seperti DeepSeek, sambil mengidentifikasi bagaimana tata kelola AI dapat mengurangi beberapa tantangan utama.

Sebuah studi IBM menemukan bahwa 51% bisnis yang menggunakan alat sumber terbuka mendapatkan ROI positif, dibandingkan dengan hanya 41% yang tidak menggunakannya. Model sumber terbuka yang baru muncul ini memperkuat sikap IBM tentang masa depan AI yang terbuka, yang akan membantu bisnis mewujudkan manfaat AI dengan cara yang menyeimbangkan efisiensi dengan kepercayaan dan keamanan. Sementara banyak pemimpin teknologi terkejut dan prihatin dengan implikasi DeepSeek, IBM telah lama menjadi pendukung pendekatan yang lebih terbuka. “Model yang lebih kecil dan efisien dapat memberikan hasil nyata tanpa sistem kepemilikan eksklusif yang besar,” kata CEO IBM Arvind Krishna baru-baru ini dalam sebuah artikel yang diterbitkan di Fortune.

Dengan menggunakan model dasar sumber terbuka, tata kelola AI sangat penting di seluruh siklus hidup model. Dimulai dengan penilaian risiko, organisasi harus terlebih dahulu memutuskan apakah model tersebut aman untuk digunakan. Apa yang dianggap aman untuk tujuan umum atau penggunaan individu mungkin tidak cocok untuk contoh penggunaan perusahaan.

Dalam kasus Deepseek-R1, organisasi mungkin memutuskan bahwa menghosting sendiri model atau menjalankannya melalui produk studio AI seperti IBM® watsonx.ai relatif aman. Namun, menggunakan aplikasi DeepSeek mungkin menghadirkan tantangan data dan keamanan. Banyak negara telah melarang penggunaan aplikasi DeepSeek karena alasan ini.

Setelah model disetujui, validator model dapat menambahkannya ke inventaris model, yang melacak pemanfaatan dan kinerja model sambil juga menentukan contoh penggunaan untuk penerapan model. Kumpulan model ini memungkinkan pengembang AI untuk mengidentifikasi model yang tersedia dan untuk jaminan, tim data dan keamanan akan melacak di mana model digunakan.

Lembar fakta AI mencatat fakta model sepanjang siklus hidup dan meningkatkan transparansi tentang apa yang ada di dalam model dan bagaimana penggunaannya. Lembar fakta menunjukkan model dasar mana yang digunakan, termasuk prompt, templat, dan evaluasi.

Ada kekhawatiran terkait keamanan beberapa model sumber terbuka dan kemudahan injeksi prompt dan jailbreaking untuk menghasilkan output yang berbahaya. Pengamatan dan batasan dapat memantau kesehatan model, akurasi dan penyimpangan, dan membatasi ujaran kebencian, kata-kata kotor, dan konten berbahaya lainnya.

Kelemahan AI tanpa tata kelola AI sangat besar. Organisasi yang menggunakan AI untuk berinteraksi dengan individu di UE harus mematuhi UU AI Uni Eropa. Kegagalan untuk mematuhi dapat mengakibatkan denda 35 juta EUR atau 7% dari omzet tahunan, mana pun yang lebih besar.

Risiko terhadap merek perusahaan, reputasi, dan kepercayaan pelanggan serta mitra juga signifikan. Bayangkan jika organisasi Anda membahayakan data pribadi pelanggan, atau menghina atau menipu pelanggan dalam suatu interaksi. Mereka tidak akan peduli apakah kesalahan asli ada pada tim Anda atau model dasar, merek Anda tetap rusak. Tanpa adanya pengamanan, menggunakan AI generatif untuk contoh penggunaan produksi menjadi terlalu berisiko.

Tata kelola AI memungkinkan organisasi untuk mengelola dan mengurangi berbagai risiko dan memberdayakan mereka untuk menggunakan AI dengan aman dan bertanggung jawab. Untuk mendukung upaya ini, IBM Research® mengembangkan Atlas Risiko AI, alat yang dirancang untuk membantu organisasi mengidentifikasi dan memetakan berbagai risiko AI.

Kerangka kerja dan solusi tata kelola AI yang kuat sangat penting bagi organisasi Anda, tetapi membangunnya dari awal adalah proses yang panjang dan mahal yang dapat mengurangi ROI AI Anda. Untuk organisasi yang ingin menskalakan AI mereka secara efisien, aman, dan bertanggung jawab, kami membuat watsonx.governance.

Solusi tata kelola AI, seperti watsonx.governance, memungkinkan para pemimpin untuk menentukan keputusan dan cara mengizinkan model seperti DeepSeek dalam AI organisasi mereka. Melalui integrasi dengan IBM Guardium AI Security, watsonx.governance juga dapat mengidentifikasi contoh-contoh model yang tidak diketahui dan mengelola risiko spesifik seperti jailbreak, DDoS, dan prompt data PII. Perangkat lunak ini dapat mengatur model apa pun dan diterapkan ke cloud apa pun atau berjalan secara on premises. Atlas Risiko AI IBM

DeepSeek hanyalah salah satu dari serangkaian inovasi sumber terbuka dan berfungsi sebagai pengingat bahwa, dibandingkan dengan teknologi sebelumnya, setiap kemajuan AI harus menempatkan tata kelola dan keamanan sebagai inti dari strategi organisasi Anda. Tata kelola keamanan bukanlah pilihan, tetapi persyaratan dasar.