Penentuan pelecehan oleh model bahasa AI

Sanwa Comtec dan IBM
Rendering digital gambar IBM watsonx dalam rasio aspek 2:1.
Deteksi pelecehan yang didukung AI untuk solusi obrolan on-premises

Sanwa Comtec adalah perusahaan teknologi IT yang mengkhususkan diri dalam menjual paket perangkat lunak untuk bisnis yang menciptakan pasar baru. Salah satu solusi yang ditawarkan perusahaan ini adalah OSS "Rocket.Chat," yang menyediakan solusi komunikasi chatting dalam lingkungan on-premises, terutama untuk pelanggan yang memiliki batasan dalam menggunakan lingkungan cloud. Perusahaan ini bertujuan untuk menciptakan fungsi yang menggunakan AI untuk mendeteksi percakapan yang diduga melecehkan dari konten obrolan pengguna dan mengeluarkan peringatan dalam lingkungan on-premises yang aman dan tidak dapat terhubung ke jaringan eksternal.

Membangun model deteksi pelecehan on premises custom

Untuk mengidentifikasi dan menentukan pelecehan, tim menggunakan berbagai sumber informasi dan model bahasa besar (LLM). Bekerja sama dengan para ahli hukum, mereka mengkurasi data pelatihan yang terdiri dari contoh-contoh percakapan yang merepresentasikan pelecehan seksual dan pelecehan berbasis kekuasaan. Data ini kemudian digunakan untuk melatih model bahasa khusus dalam IBM watsonx.ai, menggunakan kemampuan klasifikasi fungsi pemrosesan bahasa alami (NLP) IBM Watson. Model kustom dapat menandai percakapan yang berpotensi mengganggu. Melalui bukti konsep (PoC), tim mengevaluasi keakuratan berbagai model IBM Watson NLP dan memilih yang paling efektif. Mereka juga terus menyempurnakan data pelatihan untuk meningkatkan akurasi model dalam mendeteksi pelecehan.

> 95% akurasi penilaian pelecehan berbasis AI dalam jaringan tertutup
Memanfaatkan model bahasa yang ringan on premises

Dengan semakin berkembangnya berbagai fungsi AI yang memanfaatkan LLM pada GPU berbasis cloud yang kuat, masih ada situasi saat pengunggahan data ke cloud dibatasi. Dalam kasus seperti itu, penerapan model bahasa secara aman on premises dalam sebuah paket menjadi perlu. Proyek kreasi bersama dengan IBM ini berhasil menunjukkan potensi penerapan model bahasa yang ringan dalam paket on-premises tanpa bergantung pada LLM berbasis cloud.

Untuk membawa solusi ini ke tahap produksi, tim ini terus mengembangkan aplikasi dan meningkatkan akurasi model dengan berkolaborasi dengan IBM sebagai mitra bisnis.

Sanwa Comtec logo
Tentang Sanwa Comtec K.K.

Sanwa Comtec K.K. (tautan berada di luar ibm.com) adalah perusahaan teknologi yang berbasis di Jepang yang mengkhususkan diri dalam bisnis yang menciptakan pasar baru dengan mengenali dan mengantisipasi kebutuhan pelanggannya. Pelanggan utamanya termasuk perusahaan asuransi, lembaga keuangan, lembaga medis, dan perusahaan manufaktur. Semua perusahaan ini secara aktif terlibat dalam otomatisasi proses bisnis dan transformasi digital. Sanwa Comtec menyediakan solusi yang unik dan terdiri dari teknologi tinggi. Selain itu, Sanwa Comtec memiliki jaringan perusahaan di luar negeri dan telah mengumpulkan banyak instalasi canggih.

Komponen solusi IBM watsonx.ai™
Watsonx.ai membantu perusahaan membangun solusi AI khusus yang sesuai dengan kebutuhan spesifik mereka.
Jelajahi watsonx.ai Mulai uji coba gratis Anda
Hukum

© Hak Cipta IBM Corporation 2024. IBM, logo IBM, watsonx.ai, dan IBM Watson adalah merek dagang atau merek dagang terdaftar dari IBM Corp., di AS dan/atau negara lain. Ini adalah dokumen terbaru pada tanggal awal publikasi dan dapat diubah oleh IBM kapan saja. Tidak semua penawaran tersedia di setiap negara tempat IBM beroperasi.

Contoh klien disajikan sebagai ilustrasi tentang cara klien tersebut menggunakan produk IBM dan hasil yang mungkin telah mereka capai. Kinerja aktual, biaya, penghematan atau hasil lainnya di lingkungan operasi lain mungkin berbeda.