Kepatuhan AI: Apa itu, mengapa itu penting, dan cara memulainya

Untuk bisnis kecil dan besar, kecerdasan buatan (AI) dikaitkan dengan berbagai kata menarik seperti inovasi, peluang, dan keunggulan kompetitif. Namun ada satu kata lagi yang perlu ada dalam daftar itu: kepatuhan.

Sekitar 73% bisnis sudah menggunakan AI analitik dan generatif, dan 72% CEO dengan kinerja terbaik mengatakan bahwa keunggulan kompetitif bergantung pada siapa yang menggunakan AI paling canggih.¹

Tetapi ledakan dalam penggunaan AI dan potensinya yang menarik ini datang dengan kekhawatiran yang berkembang tentang etika dan keamanan teknologi yang didukung AI. Jika pengembangan yang cacat mengarah pada algoritme yang bias yang mendukung diskriminasi (dalam perekrutan, penegakan hukum, atau keputusan keuangan, misalnya), konsekuensinya bisa sangat buruk dan berlangsung lama.

Akibatnya, perusahaan, negara, dan pembuat kebijakan mempertimbangkan tata kelola AI dan menetapkan aturan baru tentang bagaimana AI dapat digunakan dan dikembangkan. Lihat apa itu kepatuhan AI, mengapa penting bagi bisnis, dan langkah apa yang dapat diambil perusahaan untuk tetap patuh dalam lingkungan peraturan yang berkembang pesat.

Kepatuhan AI mengacu pada keputusan dan praktik yang memungkinkan bisnis untuk tetap sejalan dengan hukum dan peraturan yang mengatur penggunaan sistem AI. Standar ini mencakup undang-undang, peraturan, dan kebijakan internal yang dirancang untuk membantu memastikan bahwa organisasi mengembangkan model AI dan algoritma mereka secara bertanggung jawab.

Tetapi proses kepatuhan AI lebih dari sekadar memenuhi persyaratan hukum. Itu juga tentang membangun kepercayaan dengan para pemangku kepentingan dan mempromosikan transparansi dan keadilan dalam pengambilan keputusan. Itu juga penting untuk keselamatan. Mengingat bahwa AI dapat dieksploitasi oleh aktor jahat, langkah-langkah keamanan siber yang kuat dan strategi manajemen risiko merupakan inti dari kepatuhan AI.

Proses kepatuhan AI membantu bisnis menghindari risiko keuangan, hukum, dan reputasi yang terkait dengan penggunaan alat AI.

Semakin banyak bisnis yang menggunakan AI, semakin banyak pula mereka menghadapi situasi di mana teknologi tersebut mengambil langkah yang tidak terduga atau salah. Misalnya, suatu perusahaan meninggalkan alat perekrutan AI-nya setelah menemukannya mendukung diskriminasi gender karena materi yang digunakan untuk melatihnya.² Dan investigasi telah menemukan bahwa beberapa aplikasi pinjaman berbasis algoritme dapat menyebabkan diskriminasi terhadap orang kulit berwarna.³

Kekhawatiran tentang masalah ini mendorong gelombang upaya untuk menstandarisasi bagaimana AI dikembangkan dan digunakan oleh bisnis. Pada tahun 2024, Uni Eropa menjadi pasar besar pertama yang memberlakukan aturan seputar AI dengan peluncuran  Undang-Undang AI Uni Eropa. Yurisdiksi lain, termasuk Amerika Serikat dan China, juga mengembangkan peraturan AI mereka sendiri.

Ketidakpatuhan bisa menimbulkan biaya tinggi. Di bawah Peraturan Perlindungan Data Umum (GDPR) Uni Eropa, perusahaan dapat menghadapi denda hingga 20 juta EUR atau 4% dari omset tahunan global mereka, mana saja yang lebih tinggi. Di Amerika Serikat, Komisi Perdagangan Federal (FTC) dapat mengambil tindakan penegakan hukum terhadap perusahaan atas pelanggaran terkait AI, seperti penggunaan algoritme machine learning yang bias.⁴

Kepatuhan juga penting untuk melindungi reputasi merek. Sebuah survei tahun 2024 oleh KPMG menemukan bahwa 78% konsumen percaya bahwa organisasi yang menggunakan AI memiliki tanggung jawab untuk membantu memastikannya dikembangkan secara etis.⁵ Kegagalan dalam melakukan hal ini dapat menyebabkan hilangnya kepercayaan bisnis dan konsumen.

Dengan membantu memastikan bahwa sistem AI dapat diandalkan, transparan, dan akuntabel, bisnis dapat mendorong inovasi, meningkatkan efisiensi, dan mendapatkan keunggulan kompetitif di pasar.

Jika kepatuhan terhadap peraturan adalah tentang memenuhi satu set persyaratan yang jelas, jalan ke depan akan sederhana. Namun, secepat teknologi AI berkembang, begitu pula pedoman beragam yang ditujukan untuk mengaturnya.

Teknologi itu sendiri memperumit aktivitas kepatuhan. Memahami dan menafsirkan model AI dan algoritma AI dapat menjadi tantangan secara teknis, terutama karena banyak sistem AI beroperasi secara real time. Mengimbangi perkembangan peraturan dengan kecepatan seperti ini bisa jadi sulit, dan tingkat kemajuan AI yang cepat mengharuskan bisnis untuk terus menyesuaikan program kepatuhan mereka.

Negara-negara sedang dalam proses memberlakukan standar AI yang mungkin mengubah bagaimana teknologi diatur secara global. Selain undang-undang dan peraturan khusus AI ini, bisnis dan penyedia AI juga perlu mematuhi jaringan aturan yang berkembang seputar privasi data, diskriminasi, dan keamanan siber. Untuk memperumit masalah, persyaratan ini terkadang berlaku tidak hanya untuk perusahaan dan penyedia AI yang beroperasi di wilayah tertentu, tetapi juga untuk siapa saja yang melakukan bisnis di wilayah tersebut.

 Beberapa masalah dan peraturan utama meliputi:

GDPR Eropa menetapkan standar khusus untuk privasi data, analisis data, dan penggunaan data pribadi. Undang-Undang AI Uni Eropa, yang dianggap sebagai kerangka peraturan komprehensif pertama di dunia untuk AI, melarang penggunaan AI tertentu dan mewajibkan persyaratan manajemen risiko dan transparansi. Ini mengikuti pendekatan berbasis risiko terhadap regulasi AI, dengan mandat yang lebih ketat untuk sistem berisiko tinggi.

Amerika Serikat belum memiliki peraturan yang komprehensif, tetapi berbagai persyaratan kepatuhan ada di tingkat federal dan negara bagian. Sebagai contoh, perintah eksekutif untuk Mempertahankan Kepemimpinan Amerika dalam Kecerdasan Buatan menetapkan pedoman untuk pengembangan dan penggunaan AI. Undang-undang khusus industri, seperti Undang-Undang Portabilitas dan Akuntabilitas Asuransi Kesehatan (HIPAA) atau Undang-Undang Pelaporan Kredit yang Adil (FCRA), mungkin juga berlaku untuk AI.

Pada bulan Agustus 2023, Tiongkok memperkenalkan peraturan khusus untuk AI generatif, yang disebut Tindakan Sementara untuk Pengelolaan Layanan Kecerdasan Buatan Generatif. Langkah-langkah ini mencakup standar konten dan aturan untuk privasi data, pelabelan, dan lisensi AI generatif. Tiongkok juga memiliki peraturan khusus yang menargetkan algoritme rekomendasi didorong oleh AI dan teknologi sintesis mendalam, seperti deepfake.

Meskipun kepatuhan AI sangat penting di semua sektor, ini sangat penting dalam industri seperti:

Contoh penggunaan untuk AI dalam layanan kesehatan termasuk diagnosis penyakit, penemuan obat, dan pengobatan yang dipersonalisasi. Kegagalan untuk mematuhi peraturan seperti Undang-Undang Portabilitas dan Akuntabilitas Asuransi Kesehatan Amerika Serikat (HIPAA), yang melindungi privasi pasien, dapat menyebabkan denda atau dampak hukum. Dan algoritma yang bias atau kurang terlatih dapat menyebabkan kesalahan diagnosis atau rencana perawatan yang tidak memadai untuk pasien.

AI memiliki banyak aplikasi keuangan, mulai dari deteksi penipuan dan penilaian risiko hingga kegiatan anti-pencucian uang. Namun, aplikasi AI ini harus mematuhi peraturan seperti Undang-Undang Pelaporan Kredit yang Adil (FCRA) di Amerika Serikat dan Markets in Financial Instruments Directive (MiFID II) di Uni Eropa. Upaya kepatuhan AI bertujuan untuk mencegah algoritme melakukan diskriminasi dalam pengajuan pinjaman dan pengambilan keputusan penting lainnya.

Tenaga profesional SDM semakin banyak menggunakan alat yang didukung AI untuk otomatisasi tugas rutin dan untuk menyederhanakan penyaringan resume, penilaian kandidat, dan pemantauan karyawan. Tetapi jika algoritme dilatih dengan data yang miring atau tidak memadai, algoritme tersebut dapat menghasilkan bias yang tidak adil dan berpotensi ilegal. Kepatuhan terhadap undang-undang anti-diskriminasi dan peraturan perlindungan data membantu memastikan transparansi, keadilan, dan privasi.

Bisnis semakin menyadari perlunya mematuhi persyaratan peraturan AI yang ada dan mempersiapkan diri untuk peraturan di masa depan. Satu survei terhadap pakar kepatuhan dan risiko internasional menemukan bahwa lebih dari setengah responden memiliki kekhawatiran tentang privasi data, transparansi algoritmik, dan penyalahgunaan atau kesalahpahaman seputar kecerdasan buatan.⁶

Studi lain dari eksekutif C-suite menemukan bahwa 80% berencana untuk meningkatkan investasi dalam pendekatan yang bertanggung jawab terhadap kecerdasan buatan untuk membangun kepercayaan dan kepercayaan pada model mereka.⁷ Hasilnya, banyak perusahaan mengambil langkah proaktif untuk membantu memastikan kepatuhan AI.

Beberapa perusahaan membangun kerangka kerja yang menguraikan kebijakan internal, prosedur, dan tanggung jawab untuk pengembangan etis dan penggunaan AI. Misalnya, Microsoft merilis Standar AI yang Bertanggung Jawab, yang mencakup melakukan penilaian risiko reguler, menerapkan langkah-langkah perlindungan data dan memprioritaskan transparansi dan akuntabilitas dalam pengambilan keputusan.⁸ Dan Prinsip AI Google, yang diperbarui pada tahun 2023, menekankan pentingnya keadilan, transparansi, dan privasi dalam pengembangan AI.⁹

Bisnis juga secara aktif terlibat dengan regulator dan pemangku kepentingan industri untuk tetap mendapat informasi tentang perubahan peraturan dan masalah kepatuhan. Hasil Survei IBM dari para pemimpin bisnis menemukan bahwa 74% berencana untuk bergabung dengan diskusi dengan rekan-rekan atau berkolaborasi dengan pembuat kebijakan terkait kecerdasan buatan. Upaya ini membantu bisnis mempersiapkan peraturan baru dan berpartisipasi dalam pengembangan pedoman masa depan.

Untuk merampingkan upaya kepatuhan, bisnis berinvestasi dalam berbagai alat dan teknologi kepatuhan AI. Misalnya, alat AI yang dapat dijelaskan (XAI - Explainable AI) dapat membantu bisnis memahami dan menafsirkan keputusan yang dibuat oleh model AI, sementara portofolio tata kelola AI dapat memberikan kemampuan pemantauan dan audit real-time. Produk tata kelola, seperti IBM® watsonx.governance™ menawarkan toolkit untuk tetap selaras dengan peraturan, mengevaluasi risiko, dan mengelola evolusi model.

Saat kemajuan dalam teknologi AI terus berkembang, begitu pula risiko dan tantangan yang terkait dengan penggunaannya. Kuncinya adalah mengambil pendekatan proaktif, yang berarti berinvestasi dalam sumber daya yang diperlukan, keahlian, dan teknologi untuk mengembangkan dan menerapkan kerangka tata kelola AI yang kuat. Hal ini juga membutuhkan pengembangan budaya transparansi, akuntabilitas, dan kepercayaan dalam pengembangan dan penggunaan sistem AI. Memprioritaskan kepatuhan terhadap AI membantu bisnis dalam mitigasi risiko ini dan memungkinkan mereka untuk memanfaatkan potensi penuh dari AI.