Apa itu penyeimbangan beban?

Karena situs web dengan lalu lintas tinggi dan aplikasi komputasi awan menerima jutaan permintaan pengguna setiap harinya, penyeimbangan beban adalah kemampuan penting untuk pengiriman aplikasi modern. Misalnya, situs e-commerce bergantung pada load balancing untuk memastikan aplikasi web dapat mengirimkan data, gambar, video, dan harga dari server web ke konsumen tanpa penundaan atau waktu henti.

Penyeimbangan beban dapat diterapkan dalam beberapa cara. Penyeimbang beban perangkat keras adalah peralatan fisik yang dipasang dan dipelihara di lokasi. Penyeimbang beban perangkat lunak adalah aplikasi yang diinstal pada server milik pribadi, atau dikirimkan sebagai layanan cloud terkelola (penyeimbang beban cloud).

Dalam kedua kasus tersebut, penyeimbang beban bekerja dengan memediasi permintaan klien yang masuk secara real time dan menentukan server backend mana yang paling mampu memproses permintaan tersebut. Untuk mencegah satu server menjadi kelebihan beban, penyeimbang beban merutekan permintaan ke sejumlah server yang tersedia di lokasi atau dihosting di server farm atau pusat data cloud.

Setelah server yang ditugaskan menerima permintaan, ia merespons klien dengan cara penyeimbang beban. Penyeimbang beban kemudian melengkapi koneksi server-ke-klien dengan mencocokkan alamat IP klien dengan server yang dipilih. Klien dan server kemudian dapat berkomunikasi dan melaksanakan tugas yang diminta sampai sesi selesai.

Jika terjadi lonjakan lalu lintas jaringan, penyeimbang beban dapat membawa server tambahan secara online untuk memenuhi permintaan. Atau, jika ada jeda dalam aktivitas jaringan, penyeimbang beban dapat mengurangi jumlah server yang tersedia. Ini juga dapat membantu caching jaringan dengan merutekan lalu lintas ke server cache tempat permintaan pengguna sebelumnya disimpan sementara.

Metode untuk merutekan permintaan ke server tertentu ditentukan oleh algoritme penyeimbangan beban. Algoritme penyeimbangan beban memberikan kemampuan dan manfaat yang berbeda untuk memenuhi berbagai kasus penggunaan.

Algoritma ini menggunakan Sistem Nama Domain (DNS) untuk menetapkan permintaan secara berurutan ke setiap server secara bergantian. Ini adalah metode penyeimbangan beban yang paling dasar, karena hanya menggunakan nama setiap server untuk menentukan server mana yang menerima permintaan masuk berikutnya.

Selain nama DNS-nya, setiap server dalam algoritma ini juga diberi ‘bobot.’ Bobot menentukan server mana yang harus memiliki prioritas di atas yang lain untuk menangani permintaan yang masuk. Seorang administrator memutuskan bagaimana setiap server ditimbang berdasarkan kapasitas dan kebutuhan jaringan.

Dalam algoritma ini, perhitungan menyederhanakan (atau hash) alamat IP permintaan masuk menjadi nilai yang lebih kecil yang disebut kunci hash. Kunci hash unik ini (yang mewakili alamat IP pengguna) kemudian digunakan sebagai dasar untuk memutuskan bagaimana cara merutekan permintaan ke server tertentu.

Seperti namanya, algoritma ini memberikan prioritas pada server dengan koneksi aktif paling sedikit ketika permintaan klien baru diterima. Metode ini membantu mencegah server menjadi kelebihan beban dengan koneksi, dan mempertahankan beban yang konsisten di seluruh server setiap saat.

Algoritma ini menggabungkan metode koneksi paling sedikit dengan waktu respons server rata-rata terpendek. Baik jumlah koneksi, maupun waktu yang dibutuhkan server untuk melakukan permintaan dan mengirim respons, dievaluasi. Server tercepat dengan koneksi aktif paling sedikit akan menerima permintaan yang masuk.

Sementara tujuan utama dari setiap penyeimbang beban adalah untuk mendistribusikan lalu lintas, ada beberapa jenis penyeimbang beban yang melayani fungsi tertentu.

Penyeimbang beban jaringan mengoptimalkan lalu lintas dan mengurangi latensi di seluruh jaringan lokal dan jaringan area luas. Mereka menggunakan informasi jaringan seperti alamat IP dan port tujuan, bersama dengan protokol TCP dan UDP, untuk merutekan lalu lintas jaringan dan menyediakan throughput yang cukup untuk memenuhi permintaan pengguna.

Penyeimbang beban ini menggunakan konten aplikasi seperti URL, sesi SSL, dan header HTTP untuk merutekan lalu lintas permintaan API. Karena terdapat fungsi duplikat di beberapa server aplikasi, memeriksa konten tingkat aplikasi membantu menentukan server mana yang dapat memenuhi permintaan tertentu dengan cepat dan andal.

Dengan munculnya virtualisasi dan teknologi VMware, penyeimbang beban virtual sekarang digunakan untuk mengoptimalkan lalu lintas di seluruh server, mesin virtual, dan kontainer. Alat orkestrasi kontainer sumber terbuka seperti Kubernetes menawarkan kemampuan penyeimbangan beban virtual untuk merutekan permintaan di antara node-node dari kontainer dalam sebuah klaster.

Jenis penyeimbang beban ini merutekan lalu lintas ke server di beberapa lokasi geografis untuk memastikan ketersediaan aplikasi. Permintaan pengguna dapat ditetapkan ke server terdekat yang tersedia, atau jika ada kegagalan server, ke lokasi lain dengan server yang tersedia. Kemampuan failover ini menjadikan penyeimbangan beban server global sebagai komponen berharga dalam pemulihan bencana.