Bagaimana IBM Office of Privacy and Responsible Technology meningkatkan kepercayaan pada sistem AI
Seiring dengan percepatan inovasi AI, organisasi membutuhkan tata kelola AI yang efektif untuk membangun dan mengelola model machine learning (ML) secara bertanggung jawab. IBM Office of Privacy and Responsible Technology (OPRT) menyadari bahwa tantangan ini bukan hanya masalah teknis—melainkan juga kewajiban bisnis.
Selama bertahun-tahun, pendekatan yang diambil IBM terhadap AI yang bertanggung jawab telah dipandu oleh Prinsip dasar untuk Kepercayaan dan Transparansi, yang telah dioperasikan di seluruh bisnis oleh Dewan Teknologi Bertanggung Jawab IBM. Pada tahun 2022, OPRT meluncurkan Privacy and AI Management System (PIMS) untuk membantu IBM mengelola model ML dengan keandalan, memfasilitasi kepatuhan terhadap peraturan privasi dan AI, serta mempromosikan transparansi dan akuntabilitas.
Namun, komponen penting ini bekerja secara paralel, bukan dalam integrasi, dengan PIMS. Untuk mengambil langkah selanjutnya dalam perjalanan tata kelola siklus AI dan AI organisasinya, OPRT perlu mengintegrasikan dan memusatkan mekanismenya. Ketika taruhan semakin besar, pertanyaan yang sama tetap muncul: Dapatkah organisasi memprioritaskan inovasi dan tanggung jawab dalam skala yang sama?
Satu-satunya jawaban yang boleh diberikan adalah "ya". Dan inisiatif OPRT adalah contoh yang bagus tentang bagaimana perusahaan dapat mendorong inovasi sekaligus mengurangi risiko terkait.
Dengan membangun fondasi privasi yang sudah ada, tim mengembangkan Integrated Governance Program (IGP), sebuah pendekatan terpadu terhadap tanggung jawab dan kepatuhan. "Program tata kelola yang komprehensif dapat menyeimbangkan antara nilai bisnis yang dijanjikan oleh AI dan kebutuhan akan pengawasan dan manajemen risiko, sehingga memungkinkan AI yang bertanggung jawab diterapkan dalam skala besar," jelas Lee Cox, Vice President for Integrated Governance and Market Readiness di IBM.
Dengan menciptakan tampilan holistik dan menyeluruh dari semua data dan model yang dibangun dan digunakan oleh IBM, IGP meningkatkan skala alur kerja tata kelola seputar data, privasi data, dan AI tanpa mengganggu inovasi dan proses bisnis. Hal ini dicapai dengan mengintegrasikan teknologi seperti IBM watsonx.governance, IBM Cloud Pak for Data, IBM Knowledge Catalog, dan IBM OpenPages.
Dipimpin oleh pimpinan unit bisnis AI, program ini menyediakan manajemen risiko yang lebih proaktif dan membantu mengelola kepatuhan terhadap persyaratan peraturan, dengan mempertimbangkan prioritas dan kepentingan unik berbagai pemangku kepentingan. Steven Eliuk, Vice President and CTO for Data, AI & Governance di IBM, mencatat: “Kami menyatukan proses penerimaan data, menyederhanakan pengadaan, penelitian, dan pengembangan untuk membantu mengatasi tantangan pengelolaan data.”
IGP telah memberdayakan IBM untuk menerapkan standar data internal yang seragam, memungkinkan transparansi data dan pengembangan AI yang dapat dipercaya, sekaligus memungkinkan inovasi dalam skala besar.
Cox mencatat bahwa "Akurasi data hanyalah fondasi. PIMS meletakkan fondasinya, dan IGP meningkatkan akuisisi data ke tingkat yang lebih tinggi, melakukan orkestrasi untuk seluruh proses mulai dari sumber hingga pemenuhan layanan. Bersama-sama, mereka membentuk duo yang dinamis, memberdayakan organisasi dan membuka peluang baru untuk keunggulan yang kompetitif.”
Program ini telah membantu upaya IBM untuk menskalakan AI secara bertanggung jawab, mendorong pengembangan produk dan layanan yang didorong oleh AI yang dapat dipercaya sekaligus mendukung kepatuhan di seluruh operasinya. Faktanya, model dasar IBM GraniteTM diakui karena transparansinya, sebagian besar berkat kepatuhannya terhadap tata kelola data dan kriteria risiko yang diizinkan melalui IGP.
Misalnya, selama periode delapan bulan sejak mulai menguji dan menerapkan standar sumber data yang ditingkatkan pada awal 2024 sebagai bagian dari IGP, standar tersebut telah membantu berkontribusi pada peningkatan efisiensi operasional di IBM, termasuk estimasi:
- Penurunan waktu pemrosesan permintaan izin data untuk data pihak ketiga sebesar 58%.
- Penurunan waktu pemrosesan permintaan izin data untuk data milik IBM sebesar 62%.
- Lebih dari 1000 set data dan model disetujui untuk potensi penggunaan kembali.
IGP membantu memfasilitasi akses yang lebih cepat ke data berkualitas, sehingga memungkinkan para pengembang untuk membangun model dan sistem yang lebih bertanggung jawab, tidak hanya untuk penggunaan internal, tetapi juga untuk mitra dan klien yang menggunakan solusi IBM AI. Dan adaptabilitas IGP memungkinkan IBM untuk menangani teknologi saat ini dan mempersiapkan teknologi yang sedang berkembang, seperti AI agen. Cox menyimpulkan: "Kami telah menciptakan ekosistem mitra tepercaya, tempat klien kami dapat memanfaatkan nilai dan keahlian yang sama dengan yang kami peroleh dari transformasi kami sendiri."
IBM Office of Privacy and Responsible Technology mengawasi kebijakan global untuk perlindungan data dan kerahasiaan. Unit ini bekerja sama dengan IBM Responsible Technology Board untuk memandu proses tata kelola dan pengambilan keputusan untuk kebijakan dan praktik AI yang bertanggung jawab, menumbuhkan budaya tanggung jawab dan kepercayaan di lingkungan IBM.
Hukum
© Hak Cipta IBM Corporation 2025. IBM, logo IBM, dan IBM Cloud Pak, OpenPages, watsonx.governance adalah merek dagang atau merek dagang terdaftar dari IBM Corp, di A.S. dan/atau negara lain. Ini adalah dokumen terbaru pada tanggal awal publikasi dan dapat diubah oleh IBM kapan saja. Tidak semua penawaran tersedia di setiap negara tempat IBM beroperasi.
Contoh klien disajikan sebagai ilustrasi tentang cara klien tersebut menggunakan produk IBM dan hasil yang mungkin telah mereka capai. Kinerja aktual, biaya, penghematan atau hasil lainnya di lingkungan operasi lain mungkin berbeda.