Edge AI versus cloud AI: Apa bedanya?

Pria berlari dan memakai jam tangan pintar

Penyusun

Mesh Flinders

Staff Writer

IBM Think

Ian Smalley

Staff Editor

IBM Think

Edge versus cloud AI: Apa bedanya?

Kecerdasan buatan Edge (edge AI) dan kecerdasan buatan cloud (cloud AI) adalah dua jenis penerapan kecerdasan buatan (AI) yang telah menjadi penting untuk pengembangan sebagian besar aplikasi AI modern.

Meskipun ada kesamaan di antara keduanya, ada juga perbedaan penting yang perlu dipertimbangkan ketika menilai masing-masing untuk tujuan bisnis.  

Edge AI mengacu pada proses penggunaan algoritma AI dan model AI di edge atau perangkat Internet of Things (IoT) seperti smartphone, termostat, dan pemantau kesehatan wearable. Edge AI mendapatkan namanya dari komputasi edge, jenis komputasi terdistribusi yang membawa aplikasi lebih dekat ke sumber data.

Sebaliknya, cloud AI adalah jenis AI yang bergantung pada komputasi cloud—akses sesuai permintaan ke sumber daya komputasi virtual melalui internet—untuk berfungsi.

Meskipun kedua jenis tersebut mendukung pemrosesan dan analitik data tingkat lanjut, keduanya berbeda dalam cara menjalankan model AI dan lokasi untuk menyimpan dan memproses data, sehingga pengaplikasian dan manfaatnya pun berbeda.

Apa yang dimaksud dengan edge AI?

Edge AI adalah jenis AI yang menerapkan algoritma AI ke perangkat di "tepi"jaringan, yang berarti dekat dengan batasnya dengan dunia nyata, di mana jaringan kehilangan konektivitas. Perangkat ini—biasa disebut sebagai perangkat edge atau Internet of Things (IoT)—termasuk jam tangan pintar, smartphone, sensor industri, dan pemantau kesehatan wearable.

Edge AI menggunakan jenis algoritma tertentu untuk memproses data yang lebih dekat dengan sumbernya daripada memindahkannya ke cloud terlebih dahulu. Dengan demikian pengambilan keputusan secara real-time dapat dilakukan, yang merupakan kemampuan penting dalam perangkat yang didukung.

Edge AI juga menjadi populer sebagai cara untuk mengoptimalkan alur kerja di industri yang kompleks seperti manufaktur dan manajemen rantai pasokan. Ini adalah cara bagi perusahaan untuk mengurangi lalu lintas dan latensi di seluruh jaringan mereka.

Tidak seperti jenis AI lainnya, perangkat edge AI dapat berfungsi offline, sehingga ideal untuk aplikasi yang tidak dapat bergantung pada koneksi internet konstan agar berfungsi.

Pengembangan Aplikasi

Bergabunglah: Pengembangan aplikasi Enterprise di cloud

Dalam video ini, Dr. Peter Haumer membahas seperti apa pengembangan aplikasi perusahaan modern saat ini di hybrid cloud dengan menunjukkan berbagai komponen dan praktiknya, termasuk IBM Z Open Editor, IBM Wazi, dan Zowe. 

Apa itu cloud AI?

Cloud AI mengacu pada jenis AI yang bergantung pada infrastruktur cloud untuk pemrosesan data dan analitik. Di cloud AI, data dikumpulkan pada sumbernya dan dipindahkan ke cloud melalui koneksi internet. Di sana, AI ini dapat mengakses sumber daya komputasi virtual yang terhubung untuk pemrosesan data, analisis data, dan penyimpanan data.

Meskipun lebih tua dan tidak dianggap secanggih edge AI, cloud AI masih memiliki banyak aplikasi untuk perusahaan modern. AI ini membantu pengembang menerapkan aplikasi AI yang terlalu kompleks dan membutuhkan sumber daya komputasi yang besar untuk diterapkan di tepi. Contohnya termasuk pelatihan model pembelajaran mendalam (DL) dan jenis pemrosesan bahasa alami (NLP) tertentu untuk analisis tren dan analisis prediktif

Bagaimana cara kerja edge dan cloud AI?

Baik model edge maupun cloud AI dilatih melalui machine learning (ML), cabang AI yang telah menjadi tulang punggung sebagian besar sistem AI modern.

Namun, sementara tujuan edge dan cloud AI adalah untuk memproses dan menganalisis data untuk aplikasi AI yang kuat, kedua jenis AI tersebut menyelesaikan tugas-tugas ini dengan cara yang berbeda: Edge AI memproses data secara lokal pada perangkat kecil, sedangkan AI berbasis cloud memanfaatkan kekuatan komputasi cloud. Berikut adalah detail setiap metode.

Bagaimana edge AI berfungsi

Edge AI menggunakan model AI yang telah dilatih untuk mengidentifikasi objek dengan menggunakan neural networks dan pembelajaran mendalam. Sementara edge AI sendiri diterapkan pada perangkat, proses pelatihan yang digunakan untuk membuat modelnya bergantung pada infrastruktur cloud terpusat. Pusat data diperlukan untuk pemrosesan volume data yang besar secara real-time, yang penting untuk tujuan pelatihan.

Setelah model AI diterapkan, model tersebut “belajar” dari waktu ke waktu, secara bertahap meningkatkan kemampuan. Model tersebut melakukannya sampai dapat menemukan data yang tidak dapat diproses secara lokal dan dapat memindahkannya ke cloud sebagai gantinya. Melalui metode masukan konstan ini, model edge AI awal yang diterapkan akhirnya digantikan oleh model baru yang telah dilatih di cloud dari waktu ke waktu.

Bagaimana cloud AI berfungsi

Tidak seperti edge AI, cloud AI mengandalkan daya komputasi dan kemampuan penyimpanan yang sangat besar dari infrastruktur cloud untuk fungsinya. Biasanya, layanan ini disediakan oleh penyedia layanan cloud (CSP) global yang besar seperti Amazon (AWS), Google, dan Microsoft.

Pendekatan ini menjadikan Cloud AI pilihan yang lebih baik daripada edge AI untuk tugas-tugas komputasi intensif seperti analitik big data, komputasi kinerja tinggi (HPC), dan pelatihan model dasar untuk aplikasi AI tingkat lanjut seperti visi komputer dan NLP.

Dengan mengintegrasikan sistem AI ke dalam platform cloud publik dan pribadi, cloud AI membantu organisasi menerapkan aplikasi AI tingkat lanjut di tingkat perusahaan. Aplikasi ini melayani berbagai tujuan, seperti mengoptimalkan proses bisnis, menghasilkan insight, dan menerapkan chatbot layanan pelanggan.  

Perbedaan utama antara edge AI dan cloud AI

Ada perbedaan penting antara edge dan cloud AI yang membuat masing-masing lebih cocok untuk contoh penggunaan yang berbeda.

Daya komputasi

Cloud AI dapat memanfaatkan kekuatan sumber daya komputasi virtual seperti unit pemrosesan pusat (CPU), unit pemrosesan grafis (GPU), dan pusat data melalui internet. Dengan kemampuan ini, cloud AI dapat memberikan kemampuan komputasi yang lebih besar daripada edge. Edge AI hanya bergantung pada kekuatan komputasi sumber daya yang sesuai dengan perangkat edge atau IoT.

Latensi rendah

Edge AI secara signifikan mengurangi latensi, waktu dan sumber daya yang diperlukan untuk transfer data, dengan memproses data secara lokal daripada di pusat data. Cloud AI bergantung pada server jarak jauh dan pusat data untuk pemrosesan, yang secara drastis meningkatkan latensi infrastruktur yang digunakannya.

Bandwidth

Seperti latensi, penggunaan bandwidth—ukuran lalu lintas jaringan—juga dipengaruhi secara signifikan oleh pilihan antara edge dan cloud AI. Edge AI dianggap bandwidth rendah karena memproses data secara lokal. Cloud AI dianggap sebagai bandwidth tinggi karena membutuhkan jaringan untuk transmisi data ke server jarak jauh dan pusat data.

Keamanan

Edge AI dianggap lebih aman daripada cloud AI karena menyimpan data sensitif secara lokal, pada perangkat tempat data dikumpulkan, disimpan, dan diproses. Sebaliknya, cloud AI memindahkan data sensitif melalui cloud dan melalui jaringan, meningkatkan potensi pengungkapan ke pihak yang tidak sah.

Manfaat edge dan cloud AI

Dengan perusahaan yang bergegas untuk membangun aplikasi AI dan AI generatif (gen AI) baru, minat pada model cloud dan edge AI meningkat.

Menurut laporan terbaru, pasar edge AI global bernilai 20,45 miliar USD pada tahun 2023 dan diperkirakan akan mencapai hampir 270 miliar USD pada tahun 2032.1 Selama periode yang hampir sama, pasar global untuk cloud AI diperkirakan akan melonjak dari 78 miliar USD menjadi hampir 590 miliar USD.2

Berikut ini adalah manfaat bisnis dari kedua jenis AI tersebut dan bagaimana bisnis menggunakannya untuk mencapai tujuan mereka.

Manfaat edge AI

  • Pengambilan keputusan secara real-time: Dengan memanfaatkan kekuatan pemrosesan data real-time di tepi jaringan, solusi edge AI memungkinkan perangkat IoT meningkatkan waktu respons. Pengaplikasian AI untuk teknologi ini melonjak, dari kendaraan yang dikendarai jarak jauh atau otonom seperti drone, hingga fasilitas sepenuhnya otomatis yang bergantung pada perangkat IoT seperti sensor dan kamera.
  • Privasi data: Memproses data secara lokal, bukan di cloud, membuatnya aman dari serangan siber dan mengurangi risiko kesalahan penanganan. Untuk alasan ini, edge AI menerima perhatian besar dari industri yang tunduk pada pembatasan kedaulatan data seperti layanan keuangan dan perawatan kesehatan.
  • Penghematan biaya: Edge AI jauh lebih murah daripada cloud AI karena mengurangi beban kerja untuk komputer cloud. Dengan memproses data secara lokal, edge AI mengurangi jumlah data yang bergantung pada sumber daya cloud, sehingga secara signifikan mengurangi biaya operasional untuk menerapkan Teknologi.

Manfaat cloud AI

  • Peningkatan skalabilitas: Cloud AI secara inheren lebih dapat diskalakan daripada edge AI karena ketergantungannya pada sumber daya komputasi virtual yang lebih mudah diskalakan untuk memenuhi permintaan. Edge AI memerlukan investasi dalam perangkat keras on premises (misalnya, perangkat dan sensor edge dan IoT) yang dapat diterapkan dekat dengan sumber data untuk pemrosesan lokal.
  • kinerja yang lebih tinggi: Cloud AI biasanya mencapai tingkat kinerja yang lebih tinggi daripada edge AI karena aksesnya ke sumber daya dan kekuatan pemrosesan yang dapat ditawarkan cloud. Sebaliknya, edge AI terbatas pada kekuatan dan sumber daya komputasi pada masing-masing perangkat edge dan IoT.
  • Akses ke kumpulan data skala besar: Karena aksesnya ke sumber daya cloud, model cloud AI dilengkapi untuk menangani beban kerja AI yang lebih besar daripada edge AI. Pelatihan intensif model pembelajaran mendalam, misalnya, membutuhkan kumpulan data besar yang hanya dapat diakses melalui cloud daripada melalui pemrosesan lokal.

Contoh penggunaan edge dan cloud AI di perusahaan

Contoh penggunaan AI edge dan cloud di tingkat perusahaan sangat bervariasi, mengingat kekuatan spesifik dari masing-masing model. Berikut adalah contoh penggunaan paling populer untuk masing-masing.

Contoh penggunaan edge AI yang paling banyak ditemui

  • Operasi kendaraan otonom: Perangkat Edge membantu kendaraan otonom seperti satelit, drone, dan mobil self-driving bereaksi terhadap perubahan real-time di lingkungan mereka, seperti sinyal lalu lintas yang berubah atau objek di jalurnya.
  • Perangkat kesehatan wearable: Perangkat Edge AI ditanamkan dalam banyak perangkat pemantau wearable untuk membantu pasien dan penyedia layanan kesehatan melacak informasi penting seperti detak jantung, tekanan darah, dan kadar oksigen.
  • Proses manufaktur: Perusahaan menerapkan edge AI di infrastruktur pabrik dan di dalam sistem manufaktur yang kompleks untuk mengotomatiskan proses, mendeteksi perubahan kinerja mesin, dan meningkatkan efisiensi.
  • Toko retail: Perusahaan Bisnis ke Konsumen (B2C) memanfaatkan AI untuk menerapkan pengalaman checkout cerdas, melacak inventaris, dan membuat rekomendasi yang lebih dipersonalisasi berdasarkan data real-time yang diproses secara lokal di perangkat edge.

Contoh penggunaan cloud AI yang paling banyak ditemui

  • Analitik big data: Mengintegrasikan AI dengan data warehouse dan data lake cloud memungkinkan bisnis untuk mengungkap tren data hampir secara real-time, sebuah proses yang dikenal sebagai analitik big data. Jenis analitik ini akan membutuhkan waktu bertahun-tahun untuk diuraikan oleh tim analis manusia.
  • NLP skala besar untuk analisis sentimen: NLP skala besar bergantung pada cloud AI untuk memproses teks dan data lain yang digunakan untuk analisis sentimen, pengaplikasian AI penting yang menentukan apakah teks mengekspresikan sentimen positif atau negatif.
  • Optimasi model AI: Cloud AI memastikan bahwa model AI canggih memiliki akses ke daya komputasi yang besar dan sumber daya yang diperlukan untuk terus melatih dan mengembangkan, yang merupakan aspek penting dari teknologi AI.
  • Chatbot: Chatbot populer seperti ChatGPT, Gemini dan IBM® watsonx semuanya memanfaatkan kekuatan dan sumber daya komputasi yang cukup besar dari cloud AI untuk sebagian besar fungsinya. Penggunaan ini termasuk mengotomatiskan alur kerja, berbicara secara alami dengan pengguna, dan menjelajahi kumpulan data yang besar untuk mencari pola dan insight.
Solusi terkait
IBM Power Virtual Server  

Jalankan beban kerja yang sangat penting di cloud—kinerja tinggi, keamanan tingkat perusahaan, dan fleksibilitas hybrid cloud tanpa replatforming.

Jelajahi IBM Power Virtual Server
Solusi komputasi Edge

Otomatiskan operasi, tingkatkan pengalaman, dan tingkatkan langkah-langkah keselamatan dengan solusi komputasi edge dari IBM.

Jelajahi solusi edge computing
Layanan Infrastruktur Edge

Rancang, terapkan, dan kelola lingkungan edge yang aman yang terintegrasi dengan lancar dengan hybrid cloud dan strategi AI Anda.

Jelajahi Layanan Edge
Ambil langkah selanjutnya

Layanan Konsultasi Pengembangan Aplikasi IBM Cloud menawarkan panduan pakar dan solusi inovatif untuk menyederhanakan strategi cloud Anda. Bermitralah dengan para pakar cloud dan pengembangan IBM untuk memodernisasi, menskalakan, dan mempercepat aplikasi Anda, sehingga memberikan hasil yang transformatif bagi bisnis Anda.

  1. Jelajahi layanan pengembangan aplikasi
  2. Mulai membangun dengan IBM cloud secara gratis
Catatan kaki

1. Edge AI market size, Fortune Business Insights, 2024

2. Cloud AI market size, Fortune Business Insights, 2023