Apa yang dimaksud dengan AI edge?

Ilustrasi dengan kolase piktogram awan, diagram lingkaran, piktogram grafik
Ilustrasi dengan kolase piktogram awan, diagram lingkaran, piktogram grafik
Apa yang dimaksud dengan AI edge?

Kecerdasan buatan Edge mengacu pada penerapan algoritma AI dan model AI secara langsung pada perangkat edge lokal seperti sensor atau perangkat Internet of Things (IoT), yang memungkinkan pemrosesan dan analisis data real-time tanpa ketergantungan konstan pada infrastruktur cloud.

Secara sederhana, edge AI, atau "AI on the edge", mengacu pada kombinasi komputasi tepi dan kecerdasan buatan untuk menjalankan tugas machine learning secara langsung pada perangkat edge yang saling terhubung. Komputasi edge memungkinkan data disimpan dekat dengan lokasi perangkat, dan algoritme AI memungkinkan data diproses langsung di jaringan edge, dengan atau tanpa koneksi internet. Ini memfasilitasi pemrosesan data dalam milidetik, memberikan masukan real-time.

Mobil tanpa pengemudi, perangkat wearable, kamera keamanan, dan peralatan rumah tangga pintar adalah beberapa teknologi yang memanfaatkan kemampuan edge AI untuk segera memberikan informasi real time kepada pengguna saat dibutuhkan. 

Edge AI semakin populer karena industri menemukan cara-cara baru untuk memanfaatkan kekuatannya dalam mengoptimalkan alur kerja, mengotomatisasi proses bisnis, dan membuka peluang baru untuk inovasi, sekaligus mengatasi masalah seperti latensi, keamanan, dan pengurangan biaya.

Pelajari lebih lanjut tentang solusi komputasi edge IBM .

Edge AI vs. AI terdistribusi

Berkat AI edge, pengambilan keputusan yang dilokalkan menghilangkan kebutuhan untuk terus-menerus mengirimkan data ke lokasi pusat dan menunggunya untuk memfasilitasi otomatisasi operasi bisnis kami. Namun demikian, masih ada kebutuhan untuk mengirimkan data ke cloud untuk tujuan melatih ulang pipeline AI ini dan menerapkannya. Menerapkan pola ini di berbagai lokasi dan beragam aplikasi menghadirkan tantangan khusus seperti gravitasi data, heterogenitas, skala, dan keterbatasan sumber daya. AI terdistribusi dapat mengatasi tantangan-tantangan yang dihadapi oleh AI edge dengan mengintegrasikan pengumpulan data cerdas, mengotomatiskan siklus hidup data dan AI, mengadaptasi dan memonitor spoke, serta mengoptimalkan pipeline data dan AI.

Kecerdasan buatan terdistribusi (DAI) bertanggung jawab untuk mendistribusikan, mengoordinasikan, dan memperkirakan kinerja tugas, tujuan, atau keputusan dalam lingkungan multi-agen. DAI menskalakan aplikasi ke sejumlah besar jari-jari dan memungkinkan algoritme AI untuk memproses secara otonom di berbagai sistem, domain, dan perangkat di edge.

    Edge AI vs AI cloud

    Saat ini, komputasi cloud dan API digunakan untuk melatih dan menerapkan model machine learning. Selanjutnya, edge AI melakukan tugas-tugas machine learning seperti analisis prediktif, pengenalan ucapan, dan deteksi anomali dalam jarak yang dekat dengan pengguna, yang membedakannya dari layanan cloud pada umumnya dengan berbagai cara. Alih-alih aplikasi dikembangkan dan dijalankan sepenuhnya di cloud, sistem edge AI memproses dan menganalisis data lebih dekat ke titik di mana data itu dibuat. Algoritma Machine Learning dapat berjalan di edge dan informasi dapat diproses langsung di perangkat IoT, bukan di pusat data pribadi atau di fasilitas komputasi cloud.

    Edge AI menampilkan dirinya sebagai pilihan yang lebih baik kapan pun prediksi real time dan pemrosesan data diperlukan. Pertimbangkan kemajuan terbaru dalam teknologi kendaraan tanpa pengemudi. Untuk memastikan navigasi yang aman bagi mobil-mobil ini dan menghindari potensi bahaya, mobil-mobil ini harus dengan cepat mendeteksi dan merespons berbagai faktor seperti sinyal lalu lintas, pengemudi yang tidak menentu, perubahan jalur, pejalan kaki, trotoar, dan berbagai variabel lainnya. Kemampuan Edge AI untuk memproses informasi ini secara lokal di dalam kendaraan mengurangi potensi risiko masalah konektivitas yang mungkin timbul dari pengiriman data ke server jarak jauh melalui AI berbasis cloud. Dalam skenario seperti ini, di mana respons data yang cepat dapat menentukan hasil hidup atau mati, kemampuan kendaraan untuk bereaksi dengan cepat sangatlah penting.

    Sebaliknya, AI cloud mengacu pada penyebaran algoritma dan model AI di server cloud. Metode ini menawarkan peningkatan penyimpanan data dan kemampuan daya pemrosesan, memfasilitasi pelatihan dan penerapan model AI yang lebih canggih.

    Perbedaan utama antara edge AI dan cloud AI
    Daya komputasi

    Cloud AI dapat memberikan kemampuan komputasi dan kapasitas penyimpanan yang lebih besar dibandingkan dengan edge AI, memfasilitasi pelatihan dan penerapan model AI yang lebih rumit dan canggih. Edge AI hadir dengan batasan pada kapasitas pemrosesan karena keterbatasan ukuran perangkat.

    Latensi

    Latensi secara langsung mempengaruhi produktivitas, kolaborasi, kinerja aplikasi, dan pengalaman pengguna. Makin tinggi latensi (dan makin lambat waktu respons), makin banyak area yang terganggu. Edge AI mengurangi latensi dengan memproses data secara langsung di perangkat, sedangkan cloud AI melibatkan pengiriman data ke server yang jauh, sehingga meningkatkan latensi.

    Bandwidth jaringan

    Bandwidth mengacu pada transfer data publik dari lalu lintas jaringan masuk dan keluar di seluruh dunia. Edge AI membutuhkan bandwidth yang lebih rendah karena pemrosesan data lokal pada perangkat, sedangkan cloud AI melibatkan transmisi data ke server yang jauh, sehingga membutuhkan bandwidth jaringan yang lebih tinggi.

    Keamanan

    Arsitektur edge menawarkan privasi yang lebih baik dengan memproses data sensitif secara langsung di perangkat, sedangkan cloud AI memerlukan pengiriman data ke server eksternal, yang berpotensi mengekspos informasi sensitif ke server pihak ketiga.

    Manfaat edge AI untuk pengguna akhir

    Pada tahun 2022, pasar AI edge global bernilai USD 14.787,5 juta dan diperkirakan akan tumbuh menjadi USD 66,47 juta pada tahun 2023, menurut laporan yang dilakukan oleh Grand View Research, Inc (tautan berada di luar ibm.com). Ekspansi komputasi edge yang cepat ini didorong oleh meningkatnya permintaan akan layanan komputasi edge berbasis IoT, di samping keunggulan inheren edge AI lainnya. Manfaat utama edge AI meliputi:

    Latensi lebih rendah

    Melalui pemrosesan lengkap di perangkat, pengguna dapat merasakan interval respons yang cepat tanpa penundaan yang disebabkan oleh kebutuhan informasi untuk melakukan perjalanan kembali dari server yang jauh.

    Bandwidth berkurang

    Karena edge AI memproses data di tingkat lokal, ia meminimalkan jumlah data yang ditransmisikan melalui internet, sehingga dapat menghemat bandwidth internet. Ketika bandwidth yang digunakan lebih sedikit, koneksi data dapat menangani volume yang lebih besar untuk pengiriman dan penerimaan data secara simultan.

    Analitik real-time

    Pengguna dapat melakukan pemrosesan data secara real-time pada perangkat tanpa memerlukan konektivitas dan integrasi sistem, sehingga mereka dapat menghemat waktu dengan mengkonsolidasikan data tanpa perlu berkomunikasi dengan lokasi fisik lainnya. Namun, edge AI mungkin mengalami keterbatasan dalam mengelola volume dan keragaman data yang sangat besar yang diminta oleh aplikasi AI tertentu dan mungkin perlu diintegrasikan dengan komputasi cloud untuk memanfaatkan sumber daya dan kapasitasnya.

    Privasi data

    Privasi meningkat karena data tidak ditransfer ke jaringan lain, yang mungkin rentan terhadap serangan siber. Melalui pemrosesan informasi secara lokal pada perangkat, edge AI mengurangi risiko kesalahan penanganan data. Dalam industri yang tunduk pada peraturan kedaulatan data, edge AI dapat membantu menjaga kepatuhan dengan memproses dan menyimpan data secara lokal di dalam yurisdiksi yang ditentukan. Di sisi lain, setiap database terpusat memiliki potensi untuk menjadi target yang menarik bagi calon penyerang, yang berarti edge AI tidak sepenuhnya kebal terhadap risiko keamanan.

    Skalabilitas

    AI edge memperluas sistem dengan menggunakan platform berbasis cloud dan kemampuan edge bawaan pada teknologi produsen peralatan orisinal (OEM), yang mencakup perangkat lunak dan perangkat keras. Perusahaan OEM ini telah mulai mengintegrasikan kemampuan native edge ke dalam peralatan mereka, sehingga menyederhanakan proses penskalaan sistem. Perluasan ini juga memungkinkan jaringan lokal untuk mempertahankan fungsionalitas bahkan dalam situasi ketika node di hulu atau hilir mengalami waktu henti.

    Pengurangan biaya

    Pengeluaran yang terkait dengan layanan AI yang dihosting di cloud mungkin tinggi. AI edge menawarkan opsi untuk memanfaatkan sumber daya cloud yang mahal sebagai tempat penyimpanan untuk akumulasi data pasca-pemrosesan, yang ditujukan untuk analisis selanjutnya alih-alih operasi lapangan langsung. Ini mengurangi beban kerja komputer dan jaringan cloud. Pemanfaatan CPU, GPU, dan memori berkurang drastis karena beban kerja mereka didistribusikan di antara perangkat edge, yang membuat AI edge menjadi opsi yang lebih hemat biaya di antara keduanya.

    Ketika komputasi cloud menangani semua komputasi untuk suatu layanan, lokasi terpusat menanggung beban kerja yang signifikan. Jaringan mengalami lalu lintas tinggi untuk mengirimkan data ke sumber pusat. Saat mesin menjalankan tugas, jaringan menjadi aktif sekali lagi, mentransmisikan data kembali ke pengguna. Perangkat edge menghapus transfer data bolak-balik yang berkelanjutan ini. Hasilnya, baik jaringan dan mesin mengalami penurunan stres saat mereka terbebas dari beban penanganan setiap aspek.

    Selain itu, ciri-ciri otonom edge AI menghilangkan kebutuhan akan pengawasan berkelanjutan oleh ilmuwan data. Meskipun interpretasi manusia secara konsisten akan memainkan peran penting dalam menentukan nilai akhir dari data dan hasil yang dihasilkannya, platform edge AI memikul sebagian tanggung jawab ini, yang pada akhirnya mengarah pada penghematan biaya bagi bisnis.

    Bagaimana teknologi edge AI beroperasi?

    AI edge menggunakan neural network dan pembelajaran mendalam untuk melatih model agar dapat mengenali, mengklasifikasikan, dan mendeskripsikan objek secara akurat dalam data yang diberikan. Proses pelatihan ini biasanya menggunakan pusat data terpusat atau cloud untuk memproses volume data yang cukup besar yang diperlukan untuk melatih model. 

    Setelah penerapan, model AI edge semakin meningkat seiring waktu. Jika AI mengalami masalah, data yang bermasalah sering kali ditransfer ke cloud untuk pelatihan tambahan pada model AI awal, yang pada akhirnya menggantikan mesin inferensi di edge. Umpan balik ini secara signifikan berkontribusi untuk meningkatkan kinerja model.

    Contoh penggunaan AI Edge menurut industri

    Saat ini, contoh umum dari edge AI termasuk smartphone, aksesori pemantauan kesehatan wearable (misalnya jam tangan pintar), pembaruan lalu lintas real time pada kendaraan otonom, perangkat yang terhubung, dan peralatan pintar. Berbagai industri juga semakin banyak menerapkan aplikasi edge AI untuk memangkas biaya, mengotomatisasi proses, meningkatkan pengambilan keputusan, dan mengoptimalkan operasi.

    Pelayanan Kesehatan

    Penyedia layanan kesehatan sedang mengalami transformasi substansial melalui implementasi praktis edge AI dan pengenalan perangkat canggih. Bila dipadukan dengan kemajuan edge lebih lanjut, teknologi ini siap membangun sistem layanan kesehatan yang lebih cerdas, sekaligus menjaga privasi pasien dan mengurangi waktu respons.

    Memanfaatkan model AI yang tertanam secara lokal, monitor kesehatan wearable mengevaluasi metrik seperti detak jantung, tekanan darah, kadar glukosa, dan pernapasan. Perangkat wearable AI edge juga dapat mendeteksi ketika pasien jatuh secara tiba-tiba dan memperingatkan perawat, sebuah fitur yang sudah disertakan di smartwatch umum di pasaran.

    Dengan melengkapi kendaraan darurat dengan kemampuan pemrosesan data yang cepat, paramedis dapat mengekstrak wawasan dari perangkat pemantauan kesehatan dan berkonsultasi dengan dokter untuk menentukan strategi stabilisasi pasien yang efektif. Secara bersamaan, staf ruang gawat darurat dapat bersiap untuk memenuhi kebutuhan perawatan unik pasien. Mengintegrasikan edge AI dalam keadaan seperti itu akan membantu memfasilitasi pertukaran informasi kesehatan kritis secara real-time.

    Manufaktur

    Produsen di seluruh dunia telah memulai integrasi teknologi edge AI untuk merevolusi operasi manufaktur mereka, sehingga meningkatkan efisiensi dan produktivitas dalam prosesnya.

    Data sensor dapat dimanfaatkan untuk secara proaktif mengidentifikasi anomali dan memprediksi kegagalan mesin, juga dikenal sebagai pemeliharaan prediktif. Sensor peralatan menemukan ketidaksempurnaan dan segera memberi tahu manajemen tentang perbaikan penting, sehingga memungkinkan penyelesaian tepat waktu dan mencegah waktu henti operasional.

    Edge AI juga dapat diterapkan pada area lain yang dibutuhkan dalam industri ini, seperti kontrol kualitas, keselamatan pekerja, optimalisasi hasil, analisis rantai pasokan, dan optimalisasi lantai.

    Retail

    Bukan rahasia lagi bahwa bisnis telah mengalami tren besar dengan meningkatnya popularitas eCommerce dan belanja online. Toko retail tradisional yang berbentuk fisik telah dipaksa untuk berinovasi demi menciptakan pengalaman berbelanja yang lancar dan melibatkan pelanggan. Dengan pergeseran ini, teknologi baru telah muncul, seperti toko "pick-and-go", keranjang belanja pintar dengan sensor, dan check-out pintar. Solusi-solusi ini memanfaatkan teknologi edge AI untuk meningkatkan dan mempercepat pengalaman pelanggan di dalam toko konvensional.

    Rumah pintar

    Lingkungan kontemporer dipenuhi dengan perangkat 'pintar' seperti bel pintu, termostat, lemari es, sistem hiburan, dan bola lampu yang dikendalikan. Rumah pintar ini berisi ekosistem perangkat yang memanfaatkan edge AI untuk meningkatkan kualitas hidup penduduk. Apakah penghuni perlu mengidentifikasi seseorang di depan pintu mereka atau mengontrol suhu rumah mereka melalui perangkat mereka, teknologi edge dapat dengan cepat memproses data di tempat tanpa perlu mengirimkan informasi ke server jarak jauh yang terpusat. Ini membantu menjaga privasi penduduk dan mengurangi risiko akses tidak sah ke data pribadi.

    Keamanan dan pengawasan

    Kecepatan sangat penting untuk video analytics. Banyak sistem visi komputer tidak memiliki kecepatan yang tepat yang diperlukan untuk analisis real-time, dan alih-alih memproses secara lokal gambar atau video yang diambil dari kamera keamanan, sistem ini mengirimkannya ke mesin berbasis cloud yang dilengkapi dengan kemampuan pemrosesan kinerja tinggi. Tanpa memproses data secara lokal, sistem berbasis cloud ini mengalami hambatan karena masalah latensi, yang ditandai dengan keterlambatan dalam pengunggahan dan pemrosesan data.

    Aplikasi visi komputer dan kemampuan deteksi objek AI Edge pada perangkat keamanan pintar mengidentifikasi aktivitas yang mencurigakan, memberi tahu pengguna, dan memicu alarm. Kemampuan ini memberi tenaga kesehatan rasa aman dan ketenangan pikiran yang lebih besar. 

    Produk dan solusi Edge AI
    IBM watsonx

    Tingkatkan kekuatan AI dengan platform AI dan data generasi berikutnya.

    Jelajahi chatbot AI
    Solusi IBM Edge Computing

    IBM memberikan tawaran manajemen otonom yang mencakup skala, variabilitas, dan tingkat perubahan dalam lingkungan edge, serta solusi untuk membantu perusahaan memodernisasi jaringan mereka dan memberikan layanan baru yang canggih di jaringan edge.

    Pelajari lebih lanjut
    Infrastruktur untuk data dan AI di edge

    Solusi IBM Power® Systems dan IBM Storage menjadikan model AI bekerja secara maksimal. Buka insight dari data visual langsung yang dihasilkan di edge.

    Pelajari lebih lanjut
    Ambil langkah selanjutnya

    Bangun strategi AI untuk bisnis Anda pada satu platform AI dan data kolaboratif—IBM watsonx. Melatih, memvalidasi, menyetel, dan menerapkan model AI untuk membantu Anda meningkatkan dan mempercepat dampak AI dengan data tepercaya di seluruh bisnis Anda.

    Jelajahi watsonx Pesan demo langsung