Beranda Page Title Kantor Privasi dan Teknologi Bertanggung Jawab IBM - Sistem Manajemen Privasi dan AI (PIMS) Membangun kepercayaan terhadap AI
Kantor Privasi dan Teknologi Bertanggung Jawab IBM membantu menyederhanakan dan mengotomatiskan tugas-tugas privasi global dan kepatuhan AI untuk model machine learning yang dikelola oleh IBM
Eksterior gedung perkantoran IBM, seperti yang terlihat dari jalan

AI sudah digunakan untuk membuat keputusan tentang apakah seseorang harus mendapatkan pekerjaan. Apakah mereka harus diberikan kredit atau memenuhi syarat untuk kredit perumahan. Ini memiliki dampak besar yang mengubah hidup, sehingga sangat penting bagi kami untuk menangani AI secara bertanggung jawab.

Namun, manajemen yang bertanggung jawab itu lebih mudah diucapkan daripada dilakukan. Christina Montgomery, Chief Privacy and Trust Officer di IBM, adalah seseorang yang berfokus untuk menjaga agar AI tetap menjadi kekuatan positif untuk perubahan.

“Di dalam IBM, kami membuat Dewan Etika AI— ang saat ini saya ketuai bersama— untuk menghadapi tantangan ini,” sebut Montgomery. “Kami telah mengartikulasikan prinsip-prinsip seputar AI—bahwa AI harus transparan dan dapat dijelaskan. Bahwa AI harus menjaga privasi, aman, inklusif dan adil. Meskipun dewan telah membantu membangun prinsip-prinsip ini ke dalam budaya kami, kami membutuhkan lebih dari sekadar keyakinan untuk memastikan bahwa kami bertanggung jawab terhadap prinsip-prinsip ini sebagai sebuah perusahaan."

Untungnya, IBM telah mengakomodasi arus besar peraturan seperti ini sebelumnya.

“Kepatuhan terhadap GDPR [Peraturan Perlindungan Data Umum] kami mungkin merupakan analogi terdekat dengan apa yang harus kami hadapi terkait AI,” tambah Lee Cox, Wakil Presiden Tata Kelola, Layanan, dan Penelitian Terintegrasi di Kantor Privasi dan Teknologi yang Bertanggung Jawab IBM. “Sebelumnya, cara kami menangani tantangan kepatuhan terkait perlindungan data lebih bersifat lokal—banyak dari program kami bersifat regional. Program-program itu dapat menyelesaikan masalah, tetapi kami perlu melakukan cukup banyak upaya untuk meningkatkan skalanya guna memenuhi tuntutan baru.”

Dia melanjutkan: “Dengan GDPR dan peraturan privasi lainnya, kami perlu mulai berkoordinasi di tingkat global. Kami perlu beradaptasi dengan cepat karena kami menghadapi lebih banyak standar, lebih banyak kewajiban, lebih banyak kompleksitas, lebih banyak kepekaan tentang, 'Apa yang terjadi pada data saya dan bagaimana data tersebut digunakan?"

Untuk menghadapi pengawasan global ini, IBM menciptakan Sistem Manajemen Privasi dan AI (PIMS) di seluruh perusahaan. Melihat keberhasilannya, Montgomery dan timnya merasa bahwa IBM dapat mengembangkan alat ini untuk mendokumentasikan dan melacak kepatuhan dengan lebih baik di seluruh operasi AI-nya.

Sama seperti privasi, AI telah menyaksikan rentetan peraturan baru—baik di tingkat nasional maupun regional—selama beberapa tahun sebelumnya. Demikian pula, berbagai aliansi dan asosiasi global juga telah mengembangkan pedoman yang dimaksudkan untuk membantu menjaga agar AI tetap berperilaku etis dan bertanggung jawab. Namun, memenuhi daftar harapan yang berkembang ini bisa sulit dicapai dalam skala besar.

"Kami adalah perusahaan besar," tambah Montgomery. "Kami beroperasi di lebih dari 170 negara di seluruh dunia. Kami terdiri dari lebih dari 400 badan hukum berbeda yang melakukan bisnis dengan 13.000 pemasok dan 150.000 mitra bisnis. Dengan ukuran ini, tidak mudah dari perspektif tata kelola untuk membuat semua karyawan kami yang berjumlah lebih dari 250.000 orang memiliki pemahaman yang sama."

>5.500 aplikasi dan proses yang dikelola dengan PIMS 6 minggu waktu untuk meluncurkan program baru di seluruh perusahaan
Kami telah mengartikulasikan prinsip-prinsip seputar AI—bahwa AI harus transparan dan dapat dijelaskan. Bahwa AI harus menjaga privasi, aman, inklusif dan adil. Christina Montgomery Chief Privacy and Trust Officer IBM
Otomatiskan. Pusatkan. Kendalikan,

Pada akhir tahun 2022, kantor meningkatkan PIMS, yang sekarang didukung oleh teknologi IBM OpenPages, dan Katalog Pengetahuan IBM. Solusi ini, yang juga dilengkapi sistem inovatif dari portofolio IBM Data dan AI (diuraikan di bawah), menawarkan platform terpusat di seluruh perusahaan yang mampu menangkap, mengintegrasikan, dan menjadikan transparan metadata terkait privasi data dan keseluruhan siklus hidup AI, mulai dari desain untuk diterapkan pada penggunaan sehari-hari.

"Dengan PIMS, pendorong utama kami adalah untuk menstandardisasi, menyederhanakan, dan meningkatkan skala secara signifikan," kenang Cox. "Sekarang kami mengambil pendekatan kepatuhan yang lebih berkelanjutan yang dapat membantu mengidentifikasi kesenjangan antara apa yang kami lakukan hari ini dan peraturan baru saat keluar."

"Sangat penting bagi kami untuk membangun kepercayaan di seluruh ekosistem—karyawan kami, klien kami, pemerintah, dan para pembuat kebijakan," tambah Montgomery. "Itulah sebabnya kami sangat mendukung transparansi dalam hal keterlibatan kami dengan AI, dan pada dasarnya itulah yang PIMS bantu sediakan."

"Bias terutama sangat penting untuk dicermati," kata Cox. "Jika Anda mengambil kekurangan manusia dan memperkuatnya dalam skala besar melalui AI, kekurangan tersebut akan direplikasi di berbagai sistem, sehingga dampaknya terhadap masyarakat menjadi lebih signifikan."

IBM OpenPages berfungsi sebagai jantung dari PIMS, yang menyediakan alur kerja yang otomatis dan terpusat untuk fungsi-fungsi tata kelola, risiko, dan kepatuhan (GRC) yang sebelumnya terpisah-pisah. Katalog Pengetahuan IBM menyediakan katalog data yang sesuai untuk memantau dan mengkurasi informasi GRC ini bersama dengan aset dan hubungan pengetahuan yang relevan.

Sebagai bagian dari strategi IBM AI Governance, PIMS juga memanfaatkan fitur IBM AI Factsheets dari IBM Cloud Pak for Data. Alat ini melacak siklus hidup model machine learning dari pelatihan hingga produksi, menangkap data dunia nyata yang dapat digunakan untuk memantau risiko dan penyimpangan model.

Kami mengambil pendekatan kepatuhan yang lebih berkelanjutan yang dapat membantu mengidentifikasi kesenjangan antara apa yang kami lakukan hari ini dan peraturan baru saat keluar. Lee Cox Vice President of Integrated Governance, Services, and Research IBM
Lebih detail

PIMS mencatat instans baru AI yang dimasukkan ke dalam produksi oleh IBM dan instans sistem algoritmik lainnya. PIMS menambahkannya ke alur kerja terpusat di seluruh perusahaan dan menilai risiko potensial. Setelah model aktif, solusinya menyediakan pemantauan berkelanjutan untuk keadilan, kualitas, dan penyimpangan.

Pada saat yang sama, ketika peraturan baru disahkan, PIMS dapat digunakan untuk mengimpor persyaratan ini, memperbarui model tata kelola dan upaya penilaian risiko secara keseluruhan.

“Ada sejumlah besar peraturan AI baru yang diusulkan setiap tahun,” catat Cox. “Sepertinya setiap negara bagian AS sedang dalam proses membangun aturan mereka sendiri. Ada undang-undang penting yang akan keluar dari Eropa pada tahun 2024."

Dengan lanskap peraturan AI yang terus berkembang dan tanggung jawab yang berkelanjutan untuk menjaga kepatuhan dalam hal privasi data dan tata kelola data, IBM menciptakan Program Tata Kelola Terpadu (IGP). Inisiatif IGP ini menawarkan strategi terpadu untuk menangani privasi, AI atau sistem algoritmik, contoh penggunaan etika teknologi, dan permintaan izin data—semuanya dalam program tata kelola menyeluruh yang sama, yang mencakup PIMS.

IGP membantu IBM mengelola program kepatuhannya dalam skala besar, dan hal ini akan mencakup Undang-Undang Kecerdasan Buatan Uni Eropa—undang-undang AI komprehensif pertama di dunia—yang akan diadopsi pada tahun 2024. Dengan IGP, AI dapat diselaraskan dengan persyaratan Undang-undang, yang berfokus pada risiko, kepercayaan, keamanan, dan transparansi, serta diharapkan dapat mendorong tingkat baru dalam pengawasan manusia dan kepatuhan terhadap peraturan untuk AI baik di UE maupun di seluruh dunia.

Pada gilirannya, PIMS dan alur kerja tata kelola terintegrasi terkait memberikan peningkatan kemampuan penelusuran dan pelaporan, sehingga memungkinkan tinjauan izin data diselesaikan sebelum data digunakan untuk prapelatihan, pengembangan, atau penyempurnaan model. Alat ini juga membantu memelihara dokumentasi dan catatan pemrosesan (RoP) yang akurat, pelatihan terkait, metrik pengujian, dan prediksi terkini—terkait AI dan sistem algoritmik lainnya. Demikian pula, staf IBM dapat menggunakan jejak dokumen ini untuk memverifikasi bahwa remediasi benar-benar selesai.

IBM merencanakan versi PIMS yang akan datang untuk merefleksikan rangkaian produk watsonx terbaru dari IBM, termasuk watsonx.governance. Langkah ini dimaksudkan untuk memberikan IBM kemampuan tata kelola siklus hidup model yang lebih baik, metrik-metrik utama, dan laporan-laporan tolok ukur kinerja yang lebih luas.

Kami dapat menawarkan tingkat transparansi yang akan membantu mitra dan klien kami membangun kepercayaan diri, kepercayaan bahwa proyek demi proyek mereka dapat mengadopsi teknologi AI ini dengan tetap memperhatikan risiko. Christina Montgomery Chief Privacy and Trust Officer IBM
Lebih patuh, lebih sedikit pekerjaan

Saat ini, PIMS melacak dan mengelola lebih dari 5.500 aplikasi perusahaan dan proses bisnis di seluruh operasi IBM global—semuanya dari satu platform terpadu. Fitur otomatisasi yang disediakan oleh alat ini memberikan indikator kinerja utama (KPI) yang relevan ke dasbor tata kelola, yang dirancang untuk membantu menyederhanakan manajemen, memangkas biaya, menurunkan beban kerja remediasi, dan mempercepat kecepatan menuju kepatuhan.

"Daripada menjadikan setiap aset, setiap individu, setiap aplikasi, setiap proses bisnis dimonitor oleh pemilik proses—dan memaksa mereka untuk mencari tahu undang-undang apa yang harus dipatuhi—kami menutupi kerumitan tersebut," jelas Cox. “Dengan PIMS, sekarang mereka hanya perlu fokus pada tugas remediasi yang dihasilkan secara otomatis. Itu berarti ribuan jam upaya yang dihemat di seluruh IBM.”

Ketika peraturan baru diluncurkan, IBM dapat mengidentifikasi dan mengakomodasi persyaratan mereka dengan lebih cepat.

"Proyek besar terakhir kami—GDPR—membutuhkan waktu sekitar 12 bulan untuk menerapkan model tata kelola dan solusi pelacakan," kata Cox. "Dengan PIMS, kini kami dapat meluncurkan program kepatuhan terhadap peraturan di seluruh perusahaan dalam waktu yang sangat singkat, terkadang hanya dalam waktu enam minggu. Informasi sudah ada di sana, yang membuatnya lebih cepat dan lebih mudah untuk mengidentifikasi kesenjangan dan membangun kampanye yang diperlukan. Setelah diluncurkan, PIMS kemudian dapat memasukkan data pelacakan dan remediasi yang relevan secara otomatis ke dasbor kami.”

Kecepatan ini sangat penting ketika mengakomodasi aturan baru. Seperti yang dijelaskan Montgomery: "Saat sebuah peraturan besar diberlakukan, sering kali kita tidak akan diberi waktu hingga selama dua hingga tiga tahun untuk memastikan kita dapat mematuhinya. Seringnya hanya sekitar empat hingga lima bulan saja. Jika mitra atau klien kami tidak memiliki PIMS atau sesuatu yang serupa untuk diandalkan—alat yang memberikan manajemen inventaris yang selalu aktif dan pemahaman yang kuat tentang data apa yang digunakan di seluruh perusahaan—maka mereka akan kesulitan untuk memenuhi pesyaratan kepatuhan yang baru."

"Namun saat mereka bekerja sama dengan IBM," lanjutnya, "kami dapat menawarkan tingkat transparansi yang dapat membantu para mitra dan klien kami membangun kepercayaan, kepercayaan bahwa proyek demi proyek mereka dapat mengadopsi teknologi AI ini sembari mengelola—dengan tetap memperhatikan—risikonya."

Logo IBM 8-bar biru
Tentang Kantor Privasi dan Teknologi yang Bertanggung Jawab IBM

Kantor Privasi dan Teknologi yang Bertanggung Jawab IBM mengawasi pembuatan dan administrasi kebijakan IBM global terkait perlindungan dan kerahasiaan data individu dan bisnis. Bekerja sama dengan Dewan Etika AI IBM, kantor ini memandu tata kelola dan proses pengambilan keputusan yang relevan untuk kebijakan dan praktik etika AI, membangun budaya tanggung jawab dan kepercayaan di seluruh IBM.

Buat AI melakukan apa yang Anda inginkan

Kelola pengawasan, arah, dan tata kelola aktivitas AI Anda dengan teknologi IBM watsonx.governance.

Jelajahi IBM watsonx.governance Lihat lebih banyak studi kasus
Hukum

© Hak Cipta IBM Corporation 2024. IBM Corporation, IBM Cloud, New Orchard Road, Armonk, NY 10504

Diproduksi di Amerika Serikat, Maret 2024.

IBM, logo IBM, ibm.com, IBM Cloud Pak, OpenPages, watsonx, dan watsonx.governance adalah merek dagang atau merek dagang terdaftar dari International Business Machines Corporation, di Amerika Serikat dan/atau negara lain. Nama produk dan layanan lain mungkin merupakan merek dagang milik IBM atau perusahaan lain. Daftar merek dagang IBM saat ini tersedia di ibm.com/legal/copyright-trademark.

Dokumen ini adalah yang terbaru pada tanggal awal publikasi dan dapat diubah oleh IBM kapan saja. Tidak semua penawaran tersedia di setiap negara tempat IBM beroperasi.

Semua contoh klien yang dikutip atau dijelaskan disajikan sebagai ilustrasi tentang cara beberapa klien menggunakan produk IBM dan hasil yang mungkin telah mereka capai. Biaya lingkungan dan karakteristik kinerja yang sebenarnya akan bervariasi, tergantung pada konfigurasi dan kondisi tiap-tiap klien. Hasil yang secara umum diharapkan tidak dapat diberikan karena hasil yang setiap klien dapatkan akan bergantung sepenuhnya pada sistem dan layanan yang dipesan oleh klien. INFORMASI DALAM DOKUMEN INI DISEDIAKAN "SEBAGAIMANA ADANYA" TANPA JAMINAN APA PUN, BAIK TERSURAT MAUPUN TERSIRAT, TERMASUK TANPA JAMINAN UNTUK DAPAT DIPERJUALBELIKAN, KESESUAIAN UNTUK TUJUAN TERTENTU, DAN JAMINAN ATAU KETENTUAN APA PUN YANG TIDAK MELANGGAR. Produk IBM dijamin sesuai dengan syarat dan ketentuan perjanjian yang mengatur penyediaan produk tersebut.

Klien bertanggung jawab untuk memastikan kepatuhan terhadap semua hukum dan peraturan yang berlaku. IBM tidak memberikan nasihat hukum atau menyatakan atau menjamin bahwa layanan atau produknya akan memastikan bahwa klien mematuhi hukum atau peraturan apa pun.