Apa itu perangkat keras AI?

Sistem AI, seperti model bahasa besar (LLM) atau neural network, memerlukan perangkat keras dengan bandwidth tinggi untuk memproses jenis kumpulan data besar yang digunakan oleh machine learning (ML), pembelajaran mendalam (DL), dan jenis algoritma AI lainnya untuk mereplikasi cara manusia berpikir, belajar, dan memecahkan masalah. 

Sementara perangkat keras untuk keperluan umum, seperti  unit pemrosesan pusat (central processing unit atau CPU) umum, dapat melakukan sebagian besar tugas komputasi, infrastruktur AI membutuhkan daya komputasi yang jauh lebih besar. Untuk beban kerja AI yang berat, seperti yang terkait dengan pengembangan dan pelatihan AI, perangkat keras AI seperti akselerator AI dan chip AI menawarkan pengoptimalan tertentu yang lebih cocok untuk skalabilitas dan pengoptimalan ekosistem.

Karena industri terus berkembang pesat, terobosan AI menjadi berita utama hampir setiap hari. Seiring kita memasuki era AI, perangkat keras AI membentuk komponen infrastruktur penting yang mendukung aplikasi AI yang mengesankan ini.

Pengenalan wajah, misalnya, sebuah aplikasi AI yang sudah biasa kita gunakan, sangat bergantung pada perangkat keras AI untuk dapat bekerja. Itu harus memproses gambar Anda secara lokal, memeriksanya terhadap gambar yang disetujui, dan mengenali serta mengidentifikasi variasi normal apa pun untuk membuka kunci tablet atau ponsel Anda. Tanpa perangkat keras AI, teknologi seperti ID wajah atau asisten pintar akan kurang praktis dan lebih mahal.

Berikut ini adalah beberapa manfaat utama perangkat keras AI:

Jenis perangkat keras AI yang paling umum adalah chip AI, prosesor microchip semikonduktor canggih yang berfungsi seperti CPU khusus. Produsen besar seperti Nvidia, Intel, dan AMD, serta perusahaan rintisan seperti Cerebras Systems, mendesain sirkuit terpadu ini dengan fitur berbagai jenis arsitektur chip. Tujuannya adalah membuatnya lebih cocok dengan berbagai jenis solusi AI, meningkatkan efisiensi energi, dan mengurangi hambatan.  

Meskipun perangkat keras AI juga mencakup jenis perangkat keras generasi berikutnya lainnya, seperti interkoneksilatensi rendah untuk memberikan hasil komputasi real-time, dua kategori utama perangkat keras AI adalah prosesor dan memori.

Prosesor dengan kinerja tinggi seperti unit pemrosesan grafis (GPU), unit pemrosesan tensor (TPU), unit pemrosesan neural (NPU), sirkuit terpadu aplikasi khusus (ASIC), dan array gerbang terprogram lapangan (FPGA) adalah jenis perangkat keras AI yang paling umum. Prosesor, seperti chip AI, menyediakan daya komputasi untuk menangani beban kerja AI yang kompleks. Meskipun prosesor canggih ini sering kali menuntut konsumsi daya yang tinggi, kemajuan berkelanjutan dalam perangkat keras AI berupaya meningkatkan efisiensi energi pada setiap siklus baru.   

• GPU: Awalnya dirancang untuk merender grafik, unit pemrosesan grafik (GPU) menggunakan pemrosesan paralel yang juga cocok untuk tugas AI seperti inferensi dan pelatihan.

• ASIC: ASIC adalah prosesor yang sangat khusus yang dirancang dan diproduksi untuk aplikasi tertentu. Jenis chip AI ini dibuat khusus tidak hanya untuk AI, tetapi untuk aplikasi unik apa pun yang mungkin digunakan untuk solusi AI tertentu. Karena jenis chip ini dibuat untuk aplikasi tertentu, maka chip ini tidak sefleksibel beberapa alternatifnya. Namun, untuk alasan yang sama, mereka dapat menawarkan kinerja yang paling optimal. 

• FPGA: Array gerbang yang dapat diprogram di lapangan (FPGA) dapat dianggap sebagai ASIC yang dapat diprogram ulang. Meski ASIC diprogram sekali dan tidak dapat diubah, FPGA harus diprogram sebelum digunakan dan dapat diprogram ulang serta diubah berulang kali. Jenis chip ini sangat serbaguna dan sering digunakan untuk membuat prototipe ASIC baru. 

• NPU: Unit pemrosesan neural (NPU) adalah jenis ASIC yang dibuat untuk secara khusus meningkatkan pembelajaran mendalam dan neural network. NPU digunakan untuk melakukan tugas-tugas padat data seperti visi komputer dan pemrosesan bahasa alami (NLP).

• TPU: TPU adalah jenis akselerator AI eksklusif yang dirancang oleh Google untuk menangani operasi matematika tensor yang umum untuk aplikasi AI. TPU Google dirancang khusus untuk melatih model bahasa besar dan AI generatif.

• WSE-3: Menurutbeberapa tolok ukur, Wafer Scale Engine 3 (WSE-3) dari Cerebras Systems adalah prosesor tercepat yang pernah dibuat, dengan 900.000 inti AI pada satu unit. Setiap inti memiliki akses ke bandwidth memori 21 petabyte per detik untuk pemrosesan data berskala besar berkecepatan tinggi. 

• Telum II: Penyempurnaan dari chip AI pertama IBM, prosesor IBM Telum® II dibuat khusus untuk meningkatkan operasi AI, terutama bila dipasangkan dengan IBM Spyre™ AI Accelerator. 

Memori memainkan peran penting dalam infrastruktur sebagian besar komputer, termasuk mesin yang mendukung AI. Arsitektur dan perangkat penyimpanan memori memastikan bahwa sistem AI memiliki akses cepat ke data dan instruksi yang diperlukan untuk menyelesaikan tugas AI. Kapasitas memori dan kecepatan sistem secara langsung memengaruhi kemampuan kinerja. Memori yang tidak mencukupi dapat menciptakan hambatan yang memperlambat atau menghambat semua operasi sistem, bukan hanya beban kerja AI.

Namun, tidak semua memori dibuat sama dan sementara semua jenis memori memiliki tempatnya, beberapa lebih baik dioptimalkan untuk aplikasi AI spesifik dan umum daripada yang lain. Dalam sistem AI, berbagai jenis memori sering kali digunakan bersama untuk berbagai bagian proses AI, dengan persyaratan khusus yang bergantung pada proyek unik atau tuntutan operasional. 

• RAM: Jenis memori utama untuk AI dan komputasi tujuan umum, memori akses acak (RAM) menawarkan penyimpanan data sementara yang cepat untuk operasi aktif. RAM dapat membaca dan menulis data dengan cepat, sehingga sangat cocok untuk pemrosesan real-time. Kapasitas terbatas dan volatilitas tinggi membuatnya kurang ideal untuk operasi AI skala besar. 

• VRAM: Video RAM (VRAM) adalah jenis RAM khusus yang digunakan secara khusus dalam GPU. VRAM menawarkan jenis paralelisme yang lebih baik yang dibutuhkan untuk tugas-tugas AI yang rumit; namun, dibandingkan dengan RAM biasa, VRAM dapat menjadi lebih mahal dengan kapasitas yang lebih kecil. 

• HBM: Awalnya dikembangkan untuk digunakan dalam komputasi berkinerja tinggi, memori bandwidth tinggi (HBM) dirancang untuk transfer data cepat antara unit pemrosesan, keuntungan berharga untuk aplikasi AI. Meskipun kecepatan HBM dapat disertai dengan label harga yang tinggi, jenis memori berkecepatan tinggi ini adalah pilihan ideal untuk aplikasi AI. 

• Memori non-volatile: Jenis memori yang mudah menguap membutuhkan daya yang konstan untuk menyimpan data, sementara memori non-volatile, seperti solid-state drive (SSD) dan hard disk drive (HDD) menawarkan penyimpanan jangka panjang tanpa pemeliharaan atau daya. Kecepatan clocking jauh lebih lambat daripada RAM atau VRAM, memori non-volatile bukanlah pilihan yang baik untuk transfer data aktif, tetapi berguna dalam sistem AI untuk menyimpan data dalam jangka panjang. 

Contoh penggunaan perangkat keras AI sama besar dan luasnya dengan AI itu sendiri. Seperti halnya teknologi AI telah meminjam perangkat keras dari pemrosesan grafis kelas atas dan komputasi berkinerja tinggi, teknologi ini sekarang menggunakan perangkat keras AI untuk meningkatkan operasinya sendiri. Dari pusat data hingga drive-thru makanan cepat saji, perangkat keras AI berguna untuk setiap aplikasi teknologi AI.

Bahkan, Anda mungkin menggunakan perangkat keras AI untuk membaca artikel ini. Chip AI makin banyak digunakan di laptop dan perangkat mobile dari produsen seperti Apple dan Google, digunakan untuk meningkatkan kinerja untuk tugas AI mobile seperti pengenalan suara dan pengeditan foto. Perangkat keras AI tumbuh kuat dan cukup ringkas untuk menangani banyak tugas ini secara lokal, mengurangi bandwidth, dan meningkatkan pengalaman pengguna.  

Di tempat lain, perangkat keras AI menjadi komponen berharga dalam infrastruktur komputasi cloud. GPU dan TPU tingkat Enterprise yang mendukung AI bisa sangat mahal, tetapi penyedia seperti IBM, Oracle, dan Microsoft menawarkan akses yang dapat disewa ke prosesor yang kuat ini melalui layanan cloud mereka sebagai alternatif yang hemat biaya. 

Beberapa aplikasi tambahan untuk perangkat keras AI meliputi yang berikut ini.

Perangkat keras AI adalah komponen penting dalam pengembangan mobil swakemudi dan kendaraan otonom. Kendaraan ini menggunakan chip AI untuk memproses dan menginterpretasikan data dalam jumlah besar dari kamera dan sensor, sehingga memungkinkan reaksi waktu nyata yang membantu mencegah kecelakaan dan memastikan keselamatan penumpang dan pejalan kaki.

Perangkat keras AI menawarkan jenis paralelisme yang diperlukan untuk hal-hal seperti visi komputer, yang membantu komputer "melihat" dan menafsirkan warna lampu berhenti atau lalu lintas di persimpangan.

Komputasi edge adalah kerangka kerja komputasi yang berkembang pesat yang menggerakkan aplikasi perusahaan dan kelebihan daya komputasi lebih dekat ke sumber data seperti perangkat Internet of Things (IoT) dan server edge lokal. Karena infrastruktur digital kita kian bergantung pada komputasi cloud, komputasi edge menawarkan kecepatan bandwidth yang lebih baik dan keamanan yang lebih kuat bagi mereka yang peduli dengan peningkatan privasi.

Demikian pula, edge AI berusaha untuk mendekatkan operasi AI dengan pengguna. Perangkat keras AI menjadi komponen yang berguna dalam infrastruktur edge, memanfaatkan mesin dan algoritma pembelajaran mendalam untuk memproses data dengan lebih baik di sumbernya, mengurangi latensi dan mengurangi konsumsi energi.

Meskipun teknologi AI telah dikembangkan selama beberapa dekade, baru-baru ini teknologi ini benar-benar menjadi sorotan, sebagian karena terobosan teknologi gen AI seperti ChatGPT dan Midjourney. Alat seperti ini menggunakan model bahasa besar dan pemrosesan bahasa alami untuk menafsirkan ucapan alami dan menghasilkan konten baru berdasarkan input pengguna.