ما المقصود بالحوسبة المتوازية؟

تتواصل المعالجات باستخدام ذاكرة مشتركة وتُدمج حلولها باستخدام خوارزمية. تعد الحوسبة المتوازية أسرع بكثير من الحوسبة التسلسلية ، وهي سابقتها التي تستخدم معالجًا واحدًا لحل المشكلات بالتسلسل.

عندما اختُرعت أجهزة الكمبيوتر لأول مرة في أواخر الأربعينيات والخمسينيات من القرن العشرين، بُرمجت البرامج لحل المشكلات بالتسلسل، ما حد من سرعة المعالجة. ولحل المشكلات بشكل أسرع، كان يجب بناء الخوارزميات وتنفيذها باتباع مجموعة من التعليمات على وحدة المعالجة المركزية (CPU). ولا يمكن حل مشكلة أخرى إلا بعد تنفيذ أحد التعليمات.

ابتداءً من خمسينيات القرن العشرين، سمحت الحوسبة المتوازية لأجهزة الكمبيوتر بتشغيل التعليمات البرمجية بشكل أسرع وأكثر كفاءة من خلال تقسيم المشكلات الحسابية إلى مشكلات أصغر ومتشابهة. ثم وزعت هذه المشكلات، التي تعرف باسم الخوارزميات المتوازية، على عدة معالجات.

لقد تطورت الأنظمة المتوازية اليوم إلى درجة أنها تُستخدم في العديد من أجهزة الكمبيوتر، ما يجعل المهام اليومية مثل التحقق من البريد الإلكتروني أو إرسال رسالة نصية أسرع بمئات المرات مما لو نُفذت باستخدام الحوسبة التسلسلية. بالإضافة إلى تشغيل الأجهزة الشخصية مثل أجهزة الكمبيوتر المحمولة والهواتف الذكية، تعمل الأنظمة المتوازية أيضًا على تشغيل أجهزة الكمبيوتر الفائقة الأكثر تقدمًا والتقنيات المتطورة مثل الذكاء الاصطناعي (AI) وإنترنت الأشياء (IoT).

الحوسبة التسلسلية، والمعروفة أيضًا باسم الحوسبة المتسلسلة، هي نوع من الحوسبة حيث تُتبع التعليمات لحل المشكلات الحسابية واحدة تلو الأخرى أو بالتتابع. وتتطلب أساسيات الحوسبة التسلسلية أن تستخدم الأنظمة معالجًا واحدًا فقط بدلاً من توزيع المشكلات عبر معالجات متعددة.

مع تطور علوم الكمبيوتر، أُدخلت الحوسبة المتوازية لأن الحوسبة التسلسلية كانت بطيئة السرعة. وتسمح أنظمة التشغيل التي تستخدم البرمجة المتوازية لأجهزة الكمبيوتر بتشغيل العمليات وإجراء العمليات الحسابية في وقت واحد، وهي تقنية تعرف باسم المعالجة المتوازية.

تعد المعالجة المتوازية والحوسبة المتوازية مصطلحين متشابهين للغاية، ولكن هناك بعض الاختلافات الجديرة بالملاحظة. تقسم المعالجة المتوازية أو التوازي بتقسيم مهمة وقت التشغيل إلى أجزاء أصغر تُنفذ بشكل مستقل ومتزامن باستخدام أكثر من معالج واحد. وعادةً ما تكون هناك حاجة إلى شبكة كمبيوتر أو جهاز كمبيوتر يحتوي على أكثر من معالج واحد لإعادة تجميع البيانات بمجرد حل المعادلات على معالجات متعددة.

بينما تُستخدم المعالجة المتوازية و الحوسبة المتوازية بالتبادل في بعض الأحيان، تشير المعالجة المتوازية إلى عدد النوى ووحدات المعالجة المركزية التي تعمل إلى جانب الكمبيوتر، بينما تشير الحوسبة المتوازية إلى ما يفعله البرنامج لتسهيل العملية.

تدعم سرعة الحوسبة المتوازية وكفاءتها بعض أهم الإنجازات التقنية في نصف القرن الماضي، بما في ذلك الهواتف الذكية والحوسبة عالية الأداء (HPC) والذكاء الاصطناعي والتعلم الآلي (ML). من خلال تمكين أجهزة الكمبيوتر من حل المشكلات الأكثر تعقيدًا بشكل أسرع وبموارد أقل، تُعد الحوسبة المتوازية أيضًا محركًا أساسيًا للتحول الرقمي للعديد من الشركات.

بدأ الاهتمام بالحوسبة المتوازية عندما بدأ مبرمجو أجهزة الكمبيوتر والمصنعون في البحث عن طرق لبناء معالجات أكثر كفاءة في استخدام الطاقة. وفي الخمسينيات والستينيات والسبعينيات من القرن الماضي، بنى رواد العلوم والهندسة أجهزة كمبيوتر تستخدم مساحة ذاكرة مشتركة وتشغيل عمليات متوازية على مجموعات البيانات لأول مرة.

وقد تُوجت هذه الجهود بمشروع الحوسبة المتزامنة الرائد في معهد كاليفورنيا للتقنية الذي قدم نوعًا جديدًا من الحوسبة المتوازية في الثمانينيات باستخدام 64 معالجًا من معالجات Intel .

في التسعينيات، حقق جهاز الكمبيوتر الفائق ASCI Red، باستخدام معالجات متوازية ضخمة (MPPs)، إنجازًا غير مسبوق بلغ تريليون عملية في الثانية، ما أدى إلى هيمنة المعالجات المتوازية الضخمة على قوة الحوسبة.¹ وفي الوقت نفسه، أُدخلت مجموعات—وهي نوع من الحوسبة المتوازية التي تربط مجموعات أجهزة الكمبيوتر أو "العقد" على شبكة تجارية—إلى السوق، لتحل في نهاية المطاف محل المعالجات المتوازية الضخمة في العديد من التطبيقات. 

لا تزال الحوسبة الموازية، ولا سيما المعالجات متعددة النواة ووحدات معالجة الرسومات (GPUs)، جزءًا مهمًا من علوم الكمبيوتر اليوم.  وغالبًا ما تُنشر وحدات معالجة الرسومات بالتزامن مع وحدات المعالجة المركزية لتوسيع إنتاجية البيانات وتشغيل المزيد من العمليات الحسابية في وقت واحد، ما يسرع العديد من تطبيقات الأعمال الحديثة.

قبل الحوسبة المتوازية، أجبرت الحوسبة التسلسلية المعالجات الفردية على حل المشكلات المعقدة خطوة بخطوة، ما يضيف دقائق وساعات إلى المهام التي قد تنجزها الحوسبة المتوازية في بضع ثوانٍ. على سبيل المثال، كانت أجهزة iPhone الأولى تستخدم الحوسبة التسلسلية وقد تستغرق دقيقة لفتح تطبيق أو رسالة بريد إلكتروني. أما اليوم، فإن الحوسبة المتوازية—التي استُخدمت لأول مرة في أجهزة iPhone في عام 2011—تسرع هذه المهام بشكل كبير.

مع نضوج الحوسبة ومعالجتها للمشكلات الأكثر تعقيدًا، تحتاج الأنظمة إلى تنفيذ آلاف بل ملايين المهام في لحظة واحدة. وتعتمد نماذج التعلم الآلي اليوم بشكل كبير على الحوسبة المتوازية باستخدام خوارزميات معقدة للغاية تُنشر على معالجات متعددة. وباستخدام الحوسبة التسلسلية، تستغرق مهام التعلم الآلي وقتًا أطول بكثير بسبب الصعوبات الناجمة عن القدرة على إجراء عملية حسابية واحدة فقط في كل مرة على معالج واحد.

تعمل الحوسبة المتوازية والمعالجة المتوازية على زيادة سرعة معالجة الأرقام على مجموعات البيانات الكبيرة، ما يتيح الاستعلامات التفاعلية وراء تحليل البيانات. ومع وجود أكثر من كوينتيليون بايت من المعلومات التي تُولد كل يوم، يمكن للشركات أن تكافح من أجل فرز المعلومات الرقمية للحصول على معارف ذات صلة ومفيدة. تعمل المعالجة المتوازية على نشر أجهزة كمبيوتر ذات العديد من النوى في بنية بيانات وفرز البيانات بشكل أسرع بكثير مما يمكن  للكمبيوتر التسلسلي .

باستخدام الحوسبة المتوازية، يمكن لأجهزة الكمبيوتر استخدام الموارد بكفاءة أكبر بكثير من نظيراتها من أجهزة الكمبيوتر التسلسلية. تستخدم أنظمة الكمبيوتر الأكثر تطورًا اليوم العديد من النوى والمعالجات المتعددة، ما يمكّنها من تشغيل برامج متعددة في وقت واحد وأداء المزيد من المهام في وقت واحد.

تشير الحوسبة المتوازية إلى العديد من أنواع الأجهزة وبُنى أجهزة الكمبيوتر، بدءًا بالحواسيب الفائقة وانتهاءً بالهاتف الذكي في جيبك. في أكثر حالاتها تعقيدًا، تستخدم الحوسبة المتوازية مئات الآلاف من النوى لمعالجة مشكلات مثل إيجاد دواء جديد للسرطان أو المساعدة على البحث عن كائنات ذكية خارج الأرض (SETI). وفي أبسط صورها، تساعدك الحوسبة المتوازية على إرسال رسالة بريد إلكتروني من هاتفك بشكل أسرع مما لو كنت تستخدم نظام حوسبة تسلسلي. 

بشكل عام، تُستخدم ثلاث بُنى فريدة من نوعها في الحوسبة المتوازية: الذاكرة المشتركة وذاكرة الحوسبة الموزعة والذاكرة الهجينة. تعمل كل بنية على واجهة تمرير الرسائل (MPI) الخاصة بها، وهي معيار لكل بُنى الحوسبة المتوازية. وتحدد واجهة تمرير الرسائل البروتوكولات الخاصة ببرامج تمرير الرسائل في لغات البرمجة مثل C++ وFortran. وقد كانت واجهة تمرير الرسائل مفتوحة المصدر أساسية لتطوير التطبيقات والبرامج الجديدة التي تعتمد على قدرات الحوسبة المتوازية .

تُستخدم بنية الذاكرة المشتركة في التطبيقات اليومية الشائعة للحوسبة المتوازية مثل أجهزة الكمبيوتر المحمولة أو الهواتف الذكية. في بنية الذاكرة المشتركة ، تعتمد أجهزة الكمبيوتر المتوازية على معالجات متعددة للاتصال بمورد الذاكرة المشتركة نفسه.

تُستخدم الذاكرة الموزعة في بُنى الحوسبة السحابية ، ما يجعلها شائعة في العديد من تطبيقات المؤسسات. في النظام الموزع للحوسبة المتوازية، تُربط معالجات متعددة بموارد الذاكرة الخاصة بها عبر شبكة.

تعتمد أجهزة الكمبيوتر الفائقة اليوم على بُنى الذاكرة الهجينة، وهو نظام حوسبة متوازي يجمع بين أجهزة كمبيوتر الذاكرة المشتركة على شبكات الذاكرة الموزعة. حيث يمكن لوحدات المعالجة المركزية المتصلة في بيئة الذاكرة الهجينة الوصول إلى الذاكرة المشتركة والمهام المخصصة لوحدات أخرى على الشبكة نفسها.

بالإضافة إلى البُنى الرئيسية الثلاث، هناك بُنى كمبيوتر متوازية أخرى أقل شيوعًا مصممة لمعالجة مشكلات أكبر أو مهام متخصصة للغاية. وتشمل هذه المعالجات معالجات المتجهات- لمصفوفات  من البيانات تسمى "المتجهات"- ومعالجات للحوسبة للأغراض العامة على وحدات معالجة الرسومات (GPGCUs). إحدى هذه المعالجات هي CUDA، وهي واجهة برمجة تطبيقات (API) خاصة لوحدات معالجة الرسومات طورتها شركة Nvidia، وهي مهمة للتعلم العميق (DL)، والذي يشكل أساس معظم تطبيقات الذكاء الاصطناعي.

هناك أربعة أنواع من الحوسبة المتوازية لكل منها أغراضه الخاصة:

يعتمد التوازي على مستوى البت على تقنية يزداد فيها حجم كلمة المعالج ويقل عدد التعليمات التي يجب على المعالج تشغيلها لحل مشكلة ما. حتى عام 1986، تطورت هندسة الكمبيوتر عن طريق زيادة التوازي على مستوى البت من معالجات 4 بت إلى 8 بت و16 بت و32 بت و64 بت، مع كل جيل يتفوق على الجيل السابق. وربما كان أشهر مثال على التقدم في توازي البتات هو Nintendo 64، وهي المرة الأولى التي يستخدم فيها تطبيق سائد 64 بت.

التوازي على مستوى التعليمات (ILP) هو نوع من الحوسبة المتوازية حيث يختار المعالج التعليمات التي سيشغلها. في التوازي على مستوى التعليمات، تُبنى المعالجات لتنفيذ عمليات معينة في وقت واحد لتعزيز تحسين الموارد وزيادة الإنتاجية.

توازي المهام هو نوع من أنواع الحوسبة المتوازية التي تعمل على موازاة التعليمات البرمجية عبر عدة معالجات تشغل المهام على البيانات نفسها في الوقت نفسه. يُستخدم توازي المهام لتقليل الوقت التسلسلي عن طريق تشغيل المهام بشكل متزامن؛ في المسارات، على سبيل المثال، حيث تُنفذ سلسلة من المهام على مجموعة واحدة من البيانات.

التوازي على مستوى الكلمات الفائقة (SLP)، الأكثر تقدمًا من التوازي على مستوى التعليمات، هو من أساليب التوجيه يستخدم في التعليمات البرمجية المضمنة. التوجيه هو عملية حوسبة متوازية تستخدم لإكمال مهام متعددة ومتشابهة في وقت واحد، ما يوفر الوقت والموارد. ويُستخدم التوازي على مستوى الكلمات الفائقة لتحديد التعليمات القياسية الزائدة عن الحاجة في كتلة التعليمات البرمجية ودمجها في عملية واحدة فائقة.

من سلاسل الكتل إلى الهواتف الذكية ووحدات التحكم في الألعاب وروبوتات المحادثة، تُعد الحوسبة المتوازية جزءًا أساسيًا من العديد من التقنيات التي تقود عالمنا. فيما يلي بعض الأمثلة: