Cara mengaktifkan AI yang tepercaya dengan solusi data fabric yang tepat

Organisasi makin bergantung pada kecerdasan buatan (AI) dan machine learning (ML) untuk membantu manusia dalam pengambilan keputusan. Inilah cara organisasi terkemuka meningkatkan interaksi pelanggan dan mempercepat waktu penyediaan barang dan jasa. Tetapi organisasi-organisasi ini harus dapat memercayai model AI/ML mereka sebelum model tersebut dapat dioperasionalkan dan digunakan dalam proses bisnis penting. AI yang dapat dipercaya telah menjadi persyaratan untuk keberhasilan adopsi AI di seluruh industri.

Saat ini, jika model AI membuat keputusan yang bias dan tidak adil yang melibatkan kesehatan, kekayaan, atau kesejahteraan manusia, sebuah organisasi dapat menjadi berita karena alasan yang salah. Di samping risiko reputasi merek yang signifikan, ada juga serangkaian peraturan data dan AI yang terus berkembang di seluruh dunia dan di seluruh industri—seperti UU AI Uni Eropa—yang harus dipatuhi oleh perusahaan.

• Keadilan: Dapatkah Anda mengonfirmasi bahwa model machine learning tidak memberikan kerugian sistematis pada kelompok orang tertentu dibandingkan kelompok lainnya, berdasarkan faktor-faktor seperti jenis kelamin, orientasi, usia, atau etnis?
  
  
• Kejelasan: Dapatkah Anda menjelaskan mengapa model membuat keputusan tertentu? Sebagai contoh, jika seseorang mengajukan pinjaman, bank harus dapat menerangkan dengan jelas mengapa orang tersebut ditolak atau disetujui.
  
  
• Privasi: Apakah ada aturan dan kebijakan yang tepat bagi berbagai orang untuk mengakses data pada berbagai tahap siklus hidup AI?
  
  
• Keandalan: Apakah model berperilaku secara konsisten saat kondisi berubah? Apakah model tersebut dapat diskalakan? Bagaimana Anda memperhitungkan pola data yang menyimpang?
  
  
• Transparansi: Apakah Anda memiliki semua fakta yang relevan dengan penggunaan model? Apakah informasi tersebut diambil dari berbagai tahap siklus hidup dan tersedia (seperti label nutrisi)?

Sebelum Anda dapat memercayai model AI dan insightnya, Anda harus dapat memercayai data yang digunakan. Solusi data fabric yang tepat secara alami akan mendukung pilar-pilar ini dan membantu Anda membangun model AI yang dapat dipercaya.

Pertimbangkan tiga langkah penting ini dalam siklus pengembangan model AI atau machine learning Anda berikutnya atau peningkatan model yang sudah ada:

Hal yang utama: Anda memerlukan akses dan insight ke dalam semua data yang relevan.

Riset menunjukkan bahwa hingga 68% data tidak dianalisis di sebagian besar organisasi. Tetapi implementasi AI yang sukses membutuhkan koneksi ke data berkualitas tinggi dan akurat yang siap untuk digunakan dalam layanan mandiri oleh pemangku kepentingan yang tepat. Tanpa kemampuan untuk mengumpulkan data dari sumber internal dan eksternal yang berbeda (on premises, cloud publik, atau cloud pribadi), Anda akan memiliki model AI dengan kualitas yang lebih rendah, hanya karena tidak semua informasi yang dibutuhkan Anda miliki.

Kedua, Anda harus memastikan bahwa data itu sendiri dapat dipercaya. Ada dua faktor dalam kumpulan data tepercaya:

1. Apakah Anda memiliki aturan dan kebijakan yang tepat terkait siapa yang dapat mengakses dan menggunakan data?
2. Apakah Anda memahami bias yang ada dalam data, dan apakah Anda memiliki batasan yang tepat untuk menggunakan data tersebut untuk membangun dan melatih model?

Menurut Gartner, 53% proyek AI dan ML terhenti pada fase pra-produksi. Anda dapat mengoperasionalkan AI Anda dengan melihat semua tahap siklus hidup AI. Alat ilmu data terintegrasi dan otomatis membantu membangun, menerapkan, dan memantau model AI. Pendekatan ini membantu memastikan transparansi dan akuntabilitas pada setiap tahap siklus hidup model. Tetapi untuk melakukannya, Anda juga perlu memastikan pengaman untuk keadilan, ketahanan, pengumpulan fakta, dan banyak lagi.

Seringkali ilmuwan data tidak senang dengan kemungkinan penyusunan semua dokumentasi yang diperlukan untuk memenuhi standar etika dan peraturan. Di sinilah teknologi seperti IBM FactSheets dapat membantu dengan mengurangi tenaga kerja manual yang diperlukan untuk merekam metadata dan fakta lain tentang model di seluruh tahapan siklus hidup AI. Dengan solusi tata kelola AI, ilmuwan data yang menggunakan pustaka dan kerangka kerja Python terbuka standar dapat mengumpulkan fakta tentang pembuatan model dan pelatihan secara otomatis.

Demikian pula, fakta dapat dikumpulkan saat model berada dalam tahap pengujian dan validasi. Semua informasi ini dimasukkan ke dalam alur kerja menyeluruh untuk memastikan tim memenuhi standar etika dan peraturan.

Di sebagian besar organisasi, terdapat sejumlah alat ilmu data, sehingga sulit untuk mengatur dan mengelola informasi, apalagi mematuhi peraturan keamanan, kepatuhan, dan tata kelola yang makin ketat. Anda dapat menggunakan tata kelola AI otomatis yang dapat diskalakan untuk mendorong proses yang konsisten dan berulang yang dirancang untuk meningkatkan transparansi model dan memastikan keterlacakan dan akuntabilitas. Anda dapat meningkatkan kolaborasi, membandingkan prediksi model, mengukur risiko model dan mengoptimalkan kinerja model, mengidentifikasi dan memitigasi bias, mengurangi risiko seperti penyimpangan, dan mengurangi kebutuhan pelatihan ulang model.

Pada akhirnya, manajemen data dan penyediaan akses ke data yang tepat pada waktu yang tepat bagi pengguna adalah inti dari keberhasilan AI dan tata kelola AI. Arsitektur data fabric membantu Anda mencapai hal ini dengan meminimalkan kompleksitas integrasi data dan menyederhanakan akses data di seluruh organisasi untuk memfasilitasi layanan mandiri konsumsi data.

Dengan IBM® Cloud Pak for Data, Anda dapat menetapkan alur kerja yang memungkinkan berbagai tim berinteraksi dengan model Anda di berbagai tahap. Ini bukan hanya tentang memberikan akses yang tepat ke tim ilmu data. Tim manajemen risiko model Anda, tim operasi TI, dan karyawan lini bisnis juga memerlukan akses yang sesuai.

Anda juga dapat menangani berbagai kumpulan data dan sumber, mulai dari data pelatihan hingga data payload dan data kebenaran dasar, dengan tingkat privasi dan tata kelola terkait yang tepat. Secara kritis, Anda dapat mengotomatiskan pengambilan metadata dari setiap kumpulan data dan model serta menyimpannya di katalog pusat. Menggunakan IBM Cloud Pak for Data, Anda dapat melakukan langkah ini dalam skala besar dengan konsisten dan menerapkannya pada model yang telah dibuat menggunakan alat sumber terbuka atau pihak ketiga.

Potensi keuntungan AI tercermin dalam tren strategi para pemimpin industri. Menurut Studi CEO 2025 dari IBM Institute for Business Value (IBV), 68% CEO mengatakan AI mengubah aspek bisnis inti mereka, dan 61% mengatakan keunggulan kompetitif bergantung pada siapa yang memiliki AI generatif paling canggih. Tetapi untuk memperkuat kepercayaan dengan klien, kontrol yang tepat di seluruh siklus hidup AI sangat krusial, terutama ketika AI digunakan dalam situasi penting.