IBM menjadi pengembang model AI sumber terbuka utama pertama yang mendapatkan sertifikasi ISO 42001

International Organization for Standardization (ISO) memperkenalkan standar pertama di dunia untuk mengelola kecerdasan buatan pada tahun 2023. Dikenal sebagai ISO/IEC 42001:2023, standar ini dirancang untuk memandu bagaimana organisasi menetapkan kebijakan, proses, dan perlindungan untuk AI. Untuk pertama kalinya, ada kerangka kerja yang diakui secara global untuk mengaudit secara eksternal bagaimana AI dibangun, diterapkan, dan dipelihara secara bertanggung jawab.

IBM telah mendapatkan sertifikasi terakreditasi berdasarkan ISO/IEC 42001:2023 untuk Sistem Manajemen AI (AIMS) IBM Granite. Sertifikasi ini berlaku untuk model bahasa IBM Granite, rangkaian model bahasa sumber terbuka kami yang dibuat khusus untuk perusahaan.

Sejak awal, Granite telah dikembangkan secara terbuka dan dirilis di bawah lisensi Apache 2.0 yang permisif. Pendekatan terbuka ini telah diakui secara eksternal, menempatkan Granite pada peringkat lima besar di Indeks Transparansi Model Dasar Stanford, mengungguli hampir semua pengembang model utama. Kombinasi antara keterbukaan, transparansi, dan tata kelola bersertifikat ini memberi perusahaan kepercayaan yang lebih besar dalam mengadopsi Granite untuk beban kerja mereka yang paling penting.

“Kami merasa terhormat mendapatkan sertifikasi ISO 42001 untuk model Granite unggulan kami,” kata David Cox, VP for AI Models. “Granite sekarang adalah rangkaian model terbuka pertama yang memenuhi standar itu, dan ini adalah bukti perhatian yang diberikan untuk membangun dan memeliharanya.”

Audit sertifikasi dilakukan oleh Schellman, badan sertifikasi terakreditasi terkemuka. “Mencapai sertifikasi ISO 42001 adalah tonggak utama, bukan hanya untuk IBM Granite, tetapi untuk kecerdasan buatan dan lanskap teknologi,” kata Avani Desai, CEO Schellman. Sebagai salah satu penyedia model AI sumber terbuka pertama yang disertifikasi, IBM kini telah menetapkan preseden penting terkait cara transparansi, akuntabilitas, dan inovasi dapat berjalan berdampingan. Seluruh tim kami di Schellman bangga menjadi mitra IBM dalam perjalanan ini dan melihat secara langsung komitmen mereka untuk membangun AI secara bertanggung jawab.”

AI saat ini tidak berperilaku seperti perangkat lunak tradisional. Program konvensional mengikuti instruksi tetap dan menghasilkan output deterministik yang sama. Sedangkan model AI mempelajari pola dari data dan menghasilkan respons secara probabilistik. Itu berarti output dapat bervariasi, bahkan ketika input terlihat sama. Fleksibilitas ini sangat kuat, tetapi juga menciptakan risiko yang harus dikelola di seluruh siklus pengembangan dan penerapan model.

ISO 42001 menetapkan kerangka kerja tentang bagaimana organisasi mengelola kecerdasan buatan. Hal ini mendefinisikan seperti apa AIMS seharusnya: kebijakan, praktik, dan perlindungan yang memandu pengembangan dan penerapan AI. Standar ini dirancang untuk menjawab pertanyaan tentang etika, akuntabilitas, dan kepercayaan. Ini adalah pertanyaan-pertanyaan yang dihadapi oleh setiap organisasi yang mengadopsi AI, terutama karena adanya peningkatan pengawasan regulasi di seluruh dunia.

Untuk perusahaan, pemerintah, dan pengembang, sertifikasi ini memberikan keyakinan bahwa IBM telah menerapkan perlindungan terukur dan proses yang kuat dan transparan. Bagi organisasi yang membangun dengan Granite, hal ini memberikan fondasi tepercaya untuk mengadopsi model bahasa dalam konteks berisiko tinggi, termasuk industri yang diatur dengan ketat seperti layanan keuangan dan perawatan kesehatan, dan sektor publik, dengan banyak lingkungan penerapan sangat penting.

Untuk pengembang model AI, standar ini mencerminkan harapan seperti apa AI yang bertanggung jawab dalam praktiknya. Dan untuk IBM, standar ini memvalidasi investasi bertahun-tahun dalam praktik keamanan, keselamatan, dan tata kelola AI kami, di samping transparansi terkemuka di industri kami seputar pengungkapan model AI.

Secara lebih luas, pencapaian IBM menetapkan preseden penting bahwa masa depan penerapan AI yang bertanggung jawab bersifat terbuka, tepercaya, dan dilisensikan secara permisif untuk mendukung ketersediaan dan inovasi model yang luas. Dengan berbagi model, tolok ukur, dan alat dengan komunitas yang lebih luas, IBM berkontribusi pada ekosistem yang menjadikan transparansi dan akuntabilitas sebagai norma industri.

Dengan lebih dari 30 juta unduhan, Granite adalah rangkaian model yang diadopsi secara luas di antara pengembang sumber terbuka. Di tingkat perusahaan, organisasi menerapkan Granite dalam produksi untuk berbagai contoh penggunaan seperti generasi dengan dukungan pengambilan data, layanan pelanggan, dan alur kerja agen. Sertifikasi ISO 42001 memberikan lapisan kepercayaan tambahan bagi siapa pun yang membangun dengan Granite.

Seiring dengan percepatan adopsi AI di seluruh dunia, sertifikasi ISO 42001 menyediakan kerangka kerja yang kuat untuk menyeimbangkan inovasi dengan perlindungan.

Sertifikasi sesuai ISO 42001 membutuhkan audit komprehensif tentang bagaimana organisasi mengelola sistem AI-nya termasuk kebijakan tata kelola, praktik data, dan perlindungan teknis. Audit ini dilakukan oleh Schellman, lembaga sertifikasi terakreditasi yang diakui atas ketelitian dan kualitasnya. Schellman adalah pemimpin pasar dalam ISO 42001 dan badan sertifikasi pertama yang diakui oleh ANAB pada tahun 2024.

Terkenal dengan keahlian yang didasarkan pada pengalaman praktis, para profesional Schellman memberikan layanan klien yang luar biasa dengan tetap mempertahankan independensi yang teguh. Pendekatan yang seimbang ini telah memungkinkan IBM membangun hubungan jangka panjang yang tepercaya dengan Schellman, yang telah membantu IBM berhasil mencapai berbagai tujuan kepatuhan, termasuk sertifikasi ISO 42001 yang penting ini.

Proses ini selesai dalam waktu kurang dari tiga bulan dan menghasilkan nol ketidaksesuaian, yang menjadi pencapaian signifikan dan bukti tata kelola AI IBM yang matang. Sertifikasi ini memvalidasi bahwa IBM Granite selaras dengan praktik terbaik yang diakui secara internasional untuk AI yang aman dan bertanggung jawab dan bahwa proses manajemen AI kami memenuhi tingkat pengawasan tertinggi.

Granite mencerminkan filosofi IBM bahwa transparansi, keselamatan, keamanan, dan tata kelola harus menjadi prinsip-prinsip utama dalam sistem AI tepercaya. Prinsip-prinsip ini berkontribusi pada pencapaian sertifikasi ISO 42001 oleh IBM, yang menunjukkan komitmen yang lebih luas.

Selain transparansi yang terdepan di industri, IBM menerapkan tata kelola dan pengujian yang ketat di seluruh siklus Granite. Kerangka kerja Manajemen Data Lakehouse IBM mengawasi lebih dari 2,7 petabyte data pelatihan dengan pelacakan metadata dan kontrol lisensi yang ketat, memastikan akuntabilitas di setiap tahap. Di luar persyaratan sertifikasi, model Granite diuji stres terhadap ancaman dunia nyata, ditandatangani secara digital untuk keaslian dan didukung oleh tolok ukur terbuka untuk mengevaluasi keselamatan dan bias—langkah-langkah yang memperkuat kepercayaan tidak hanya pada Granite, tetapi di seluruh ekosistem AI yang lebih luas.

Berdasarkan langkah-langkah ini, Granite Guardian, rangkaian model sumber terbuka IBM , menyediakan perlindungan khusus yang mendeteksi risiko dalam prompt dan respons di semua model AI. Dengan menyertakan Granite Guardian ke lapisan perlindungan inti Granite, IBM membantu perusahaan memastikan penggunaan AI yang aman dan bertanggung jawab di lingkungan produksi.

Bersama-sama, upaya ini menunjukkan filosofi IBM: AI perusahaan menuntut kepercayaan berstandar perusahaan. Menjadi pengembang model AI sumber terbuka utama pertama yang mencapai sertifikasi ISO 42001 memvalidasi fondasi transparansi, keamanan, dan tata kelola Granite. Ini adalah tonggak penting bagi IBM, dan kami berkomitmen untuk inovasi dan investasi berkelanjutan untuk menetapkan standar AI yang bertanggung jawab.

Pelajari lebih lanjut tentang langkah-langkah keamanan Granite →