Apa itu auto-scaling?

Auto-scaling digunakan untuk memastikan bahwa aplikasi memiliki sumber daya yang mereka butuhkan untuk mempertahankan ketersediaan yang konsisten dan mencapai tujuan kinerja, serta untuk mempromosikan penggunaan sumber daya cloud yang efisien dan meminimalkan biaya cloud.

Menurut white paper 2023 dari Infosys, organisasi yang bermigrasi ke cloud membuang sekitar 32% dari biaya cloud mereka.¹ Karena fokusnya pada pemanfaatan sumber daya yang efisien, Auto-Scaling adalah komponen yang berguna dalam praktik FinOps yang sukses.

Ketika organisasi mengonfigurasi infrastruktur cloud, mereka menyediakan sumber daya sesuai dengan “dasar” kebutuhan sumber daya komputasi, penyimpanan, dan jaringan. Tetapi permintaan berfluktuasi, misalnya, dengan lonjakan atau penurunan lalu lintas jaringan atau penggunaan aplikasi. Fitur auto-scaling memungkinkan sumber daya untuk disesuaikan dengan permintaan waktu nyata sesuai dengan metrik tertentu seperti penggunaan CPU atau ketersediaan bandwidth, tanpa campur tangan manusia.

Auto-Scaling dapat digunakan untuk mengoptimalkan alokasi sumber daya melalui berbagai cara. Misalnya, penskalaan prediktif menggunakan data historis untuk memprediksi permintaan di masa depan. Atau, Auto-Scaling dinamis, yang bereaksi terhadap kebutuhan sumber daya secara real-time sebagaimana ditentukan oleh kebijakan Auto-Scaling organisasi.

Kebijakan auto-scaling mengotomatiskan siklus hidup instans komputasi cloud, meluncurkan dan menghentikan mesin virtual sesuai kebutuhan untuk membantu permintaan sumber daya. Auto-scaling sering digunakan bersamaan dengan penyeimbangan beban elastis untuk memanfaatkan sepenuhnya sumber daya cloud yang tersedia.

Meskipun auto-scaling terkait dengan penyeimbangan beban, namun keduanya tidak sama. Kedua proses ini memengaruhi alokasi sumber daya back-end dan digunakan untuk mengoptimalkan kinerja dan menghindari penyediaan yang berlebihan. Mereka sering digunakan bersama-sama.

Penyeimbang beban mendistribusikan lalu lintas yang masuk ke beberapa server untuk mengurangi beban pada server tertentu. Penyeimbang beban sering menyediakan fitur seperti pemeriksaan kesehatan, yang membantu mengarahkan lalu lintas dari instans yang tidak sehat ke yang sehat. Menyeimbangkan beban lalu lintas membantu meningkatkan kinerja aplikasi di lingkungan cloud.

Auto-scaling menyesuaikan kapasitas sistem sesuai dengan permintaan untuk mempertahankan kinerja yang konsisten dan mencegah penyediaan berlebih sumber daya (yaitu hanya menggunakan sumber daya yang dibutuhkan). Auto-scaling menambahkan server baru atau instans komputasi (atau menghentikannya) sesuai dengan permintaan sumber daya dan kebijakan auto-scaling yang telah dibuat oleh organisasi.

Sebagian besar vendor cloud, seperti IBM Cloud, Amazon Web Services (yang seringkali disebut AWS Cloud), Microsoft Azure dan Oracle Cloud Infrastructure menawarkan layanan auto-scaling pada platform cloud mereka. Layanan ini dapat membantu organisasi mengonfigurasi kebijakan auto-scaling untuk memenuhi kebutuhan dan tujuan komputasi cloud organisasi.

Pemasok dan platform yang berbeda menawarkan fitur, kemampuan, dan harga yang berbeda, dan organisasi akan memiliki sumber daya yang berbeda yang tersedia dan berbagai contoh penggunaan, tetapi umumnya auto-scaling bekerja sebagai berikut:

Prosesnya dimulai dengan konfigurasi peluncuran, atau penerapan dasar, di mana sebuah jenis instans (atau beberapa jenis) diterapkan dengan kapasitas dan fitur kinerja tertentu. Penerapan ini sering dilakukan menggunakan panggilan API dan infrastruktur sebagai kode (IaC), sebuah proses yang memanfaatkan kode untuk menyediakan dan mengonfigurasi elemen infrastruktur TI ke spesifikasi yang telah ditentukan.

Organisasi menentukan kapasitas yang diinginkan, dan jenis atribut apa yang dibutuhkan instance berdasarkan beban kerja yang diharapkan untuk instans tersebut. Dalam menyiapkan kebijakan Auto-Scaling, organisasi dapat menetapkan target dan ambang batas untuk penggunaan komputasi, penyimpanan, atau jaringan. Bila ambang batas ini terpenuhi, secara otomatis dapat memicu tindakan tertentu untuk mengakomodasi tuntutan sumber daya saat ini dengan lebih akurat. Jika diinginkan, kebijakan dapat dikonfigurasikan sehingga pemberitahuan dikirim setiap kali tindakan penskalaan dimulai.

Organisasi juga dapat mengatur grup instance yang mempertahankan jumlah minimum atau maksimum instance untuk beban kerja tertentu, atau mengelompokkan jenis instance yang berbeda untuk menangani berbagai jenis beban kerja. Jenis instance meliputi:²

Jenis instance tujuan umum dirancang untuk berbagai beban kerja, seperti server web, basis data kecil, dan lingkungan pengembangan dan pengujian.

Instans ini dioptimalkan untuk beban kerja intensif komputasi seperti komputasi berkinerja tinggi, pemrosesan batch, dan pemodelan ilmiah. Instans ini memaksimalkan daya komputasi menggunakan GPU dan CPU dengan jumlah inti yang tinggi.

Instans bermemori tinggi ini dioptimalkan untuk beban kerja intensif memori seperti basis data berkinerja tinggi, cache dalam memori terdistribusi, pemrosesan data real-time, dan analitik big data.

Instans ini dioptimalkan untuk beban kerja yang membutuhkan banyak penyimpanan seperti big data, penyimpanan data, dan pemrosesan log. Mereka memanfaatkan caching berkapasitas tinggi dan solid-state drives (SSD) untuk mendukung aktivitas baca dan tulis yang intens dari beban kerja.

Grup auto-scaling yang dilengkapi jenis instance campuran memungkinkan tim CloudOps dan DevOps memenuhi permintaan sumber daya dengan lebih tepat dan efisien. Misalnya, jika kebutuhan bandwidth terpenuhi dengan baik, tetapi penggunaan CPU melebihi ambang batas yang ditetapkan dalam kebijakan auto-scaling, sistem dapat mengaktifkan lebih banyak instans khusus komputasi. Sementara itu instance yang khusus untuk menangani lalu lintas jaringan tetap seperti apa adanya.

Setelah tim memahami permintaan beban kerja, mereka bahkan dapat membuat templat konfigurasi peluncuran untuk instans baru. Template ini menentukan jenis instans, parameter konfigurasi, dan kebijakan lain untuk menghidupkan instans baru dan bagaimana mereka berkontribusi pada lingkungan cloud secara keseluruhan. Hal ini memungkinkan organisasi untuk sepenuhnya mengotomatiskan siklus hidup virtual machines.

Ada beberapa jenis penskalaan, serta beberapa metode auto-scaling:

Penskalaan horizontal, atau “scaling out”, memerlukan penambahan lebih banyak mesin atau node ke lingkungan komputasi cloud. Anda juga dapat mengurangi jumlah node di lingkungan.

Penskalaan vertikal, atau “peningkatan skala” adalah proses menambahkan lebih banyak daya, RAM, CPU, penyimpanan, misalnya, ke node yang ada di lingkungan komputasi cloud Anda saat ini.

Kebijakan auto-scaling dapat bersifat prediktif, dinamis, atau terjadwal.

Kebijakan penskalaan prediktif menggunakan kecerdasan buatan (AI) dan machine learning untuk mengantisipasi kebutuhan sumber daya di masa depan sebelum terjadi berdasarkan pemanfaatan historis.

Misalnya, kebijakan auto-scaling prediktif dapat mengidentifikasi kemungkinan peningkatan lalu lintas web untuk perusahaan e-niaga menjelang musim pembelian liburan. Ini mungkin diperbesar atau ditingkatkan sesuai dengan kebijakan yang ditetapkan. Pendekatan ini dapat membantu meminimalkan latensi jaringan dan waktu henti secara proaktif.

Kebijakan penskalaan dinamis bereaksi terhadap kebutuhan sumber daya saat kebutuhan itu terjadi, menyesuaikan alokasi sumber daya berdasarkan pemanfaatan real-time. Dengan kebijakan penskalaan dinamis, organisasi dapat mengirim lebih banyak Sumber daya ke node tertentu atau grup auto-scaling. Mereka juga dapat memutar contoh tambahan ketika ambang batas tertentu, seperti persentase penggunaan CPU, tercapai.

Misalnya, jika sebuah organisasi menjalankan aplikasi web yang mengkonsumsi sumber daya yang signifikan dengan jadwal yang tidak teratur, kebijakan penskalaan dinamis dapat digunakan untuk menyesuaikan ketersediaan sumber daya sesuai kebutuhan. Penskalaan dinamis sering kali disertai dengan periode pendinginan, di mana sumber daya yang ditingkatkan tetap tersedia jika ada lonjakan lalu lintas tambahan.

Kebijakan auto-scaling terjadwal mengalokasikan sumber daya sesuai dengan jadwal yang telah ditentukan. Sebagai contoh, jika sebuah organisasi mengetahui bahwa lalu lintas atau permintaan sumber daya jauh lebih tinggi di malam hari dibandingkan di pagi hari, kebijakan auto-scaling bisa diatur untuk mengakomodasi permintaan tersebut.

Jika diterapkan secara efektif, auto-scaling dapat memainkan peran penting dalam mengoptimalkan lingkungan komputasi cloud organisasi dan mengurangi biaya cloud secara keseluruhan.

Dengan menetapkan kebijakan auto-scaling yang kuat, organisasi dapat mengurangi ketergantungan mereka pada penyediaan manual dan memastikan kinerja sistem yang lebih konsisten.