ما المقصود بالتفرد التكنولوجي؟

واجهة نوافذ ملوَّنة لمبنى مركز شرطةOld Hill Street Police في سنغافورة

المؤلفين

Tim Mucci

IBM Writer

Gather

ما المقصود بالتفرد التكنولوجي؟

التفرد التكنولوجي هو سيناريو نظري حيث يصبح النمو التكنولوجي غير قابل للسيطرة ولا يمكن عكس اتجاهه، ويبلغ ذروته في تغييرات عميقة لا يمكن التنبؤ بها في الحضارة البشرية.

من الناحية النظرية، هذه الظاهرة مدفوعة بظهور الذكاء الاصطناعي (AI) الذي يتجاوز القدرات المعرفية البشرية ويمكنه تعزيز نفسه بشكل مستقل. مصطلح "التفرد" في هذا السياق مستمد من المفاهيم الرياضية التي تشير إلى نقطة تنهار فيها النماذج الحالية وتفقد الاستمرارية في الفهم. وهذا يصف عصرًا لا تضاهي في الآلات ذكاء الإنسان فحسب، بل تتفوق عليه إلى حد كبير، لتبدأ دورة من التطور التكنولوجي الذاتي الاستدامة.

وتقترح النظرية أن مثل هذا التقدم يمكن أن يتطور بوتيرة سريعة للغاية بحيث لا يتمكن البشر من التنبؤ بالعملية أو تخفيفها أو إيقافها. وقد يؤدي هذا التطور السريع إلى ظهور ذكاء اصطناعي ليس فقط مستقل ولكنه قادر أيضًا على ابتكارات خارجة عن فهم الإنسان أو سيطرته. إن احتمال أن تخلق الآلات نسخًا أكثر تقدمًا من نفسها يمكن أن ينقل البشرية إلى واقع جديد حيث لا يعود فيه البشر هم الكيانات الأكثر قدرة. وقد تكون الآثار المترتبة على الوصول إلى نقطة التفرد هذه مفيدة للجنس البشري أو كارثية. في الوقت الحالي، يقتصر هذا المفهوم على الخيال العلمي، ولكن مع ذلك، قد يكون من المفيد التفكير في الشكل الذي قد يبدو عليه المستقبل، حتى تتمكن البشرية من توجيه تطوير الذكاء الاصطناعي بطريقة تعزز اهتماماتها الحضارية.

تصميم ثلاثي الأبعاد لكرات تتدحرج على مسار

أحدث الأخبار والرؤى حول الذكاء الاصطناعي 


تتوفر معارف وأخبار منسقة بمهارة حول الذكاء الاصطناعي والسحابة وغيرها في نشرة Think الإخبارية الأسبوعية. 

نظريات التفرد التكنولوجي وتاريخه

وضع Alan Turing، الذي غالبًا ما ينظر إليه على أنه والد علوم الحاسوب الحديثة، أساسًا حاسمًا للخطاب المعاصر حول التفرد التكنولوجي. يقدم بحثه المحوري الصادر عام 1950، "آلات الحوسبة والذكاء،" فكرة قدرة الآلة على إظهار سلوك ذكي مكافئ أو لا يمكن تمييزه عن سلوك الإنسان. محور هذا المفهوم هو اختبار Turing الشهير، والذي يشير إلى أنه إذا تمكنت الآلة من التحدث مع إنسان دون أن يدرك الإنسان أنه يتفاعل مع آلة، فيمكن اعتبارها "ذكية". وقد ألهم هذا المفهوم بحثًا مكثفًا في قدرات الذكاء الاصطناعي، مما قد يجعلنا نقترب من واقع التفرد.

كما ساهم Stanislaw Ulam، الذي اشتهر بعمله في الرياضيات والتفاعلات النووية الحرارية، بشكل كبير في تقنيات الحوسبة التي تدعم المناقشات حول التفرد التكنولوجي. على الرغم من عدم ارتباطه المباشر الذكاء الاصطناعي، إلا أن عمل Ulam على الأتمتة الخلوية والأنظمة التكرارية يوفر رؤى أساسية حول الأنظمة المعقدة ذاتية التحسين في قلب نظريات التفرد. إن تعاونه مع John von Neumann في الأتمتة الخلوية، وهي أنظمة حاسوبية مجردة منفصلة قادرة على محاكاة السلوكيات المعقدة المختلفة، يعتبر أساسيًا في مجال الحياة الاصطناعية ويغذي المناقشات الجارية حول قدرة الآلات على محاكاة الذكاء البشري وتجاوزه بشكل مستقل.

لقد تطور مفهوم التفرُّد التكنولوجي بشكل كبير على مر السنين، حيث تمتد جذوره إلى منتصف القرن العشرين. يعود الفضل إلى John von Neumann في واحدة من أوائل الإشارات إلى مفهوم التفرد، حيث تكهن بمفهوم "التفرد" حيث سيصبح التقدم التكنولوجي سريعًا ومعقدًا بشكل غير مفهوم، مما يؤدي إلى تحول يتجاوز القدرة البشرية على التوقع أو الفهم الكامل.

وقد شاعت هذه الفكرة بشكل أكبر من قِبل شخصيات مثل Ray Kurzweil، الذي ربط بين التفرد وتسارع التقدم التكنولوجي، وغالبًا ما استشهد بقانون مور كمثال توضيحي. يلاحظ قانون مور أن عدد الترانزستورات على الرقاقة الإلكترونية يتضاعف كل عامين تقريبًا بينما تنخفض تكلفة أجهزة الكمبيوتر إلى النصف، مما يشير إلى نمو سريع في القوة الحاسوبية قد يؤدي في نهاية المطاف إلى تطوير ذكاء اصطناعي يفوق الذكاء البشري.

الافتراض الكامن في الحجة القائلة بأن التفرد سيحدث، إذا أمكن، متجذر في التطور التكنولوجي، والذي لا رجعة فيه بشكل عام ويميل نحو التسارع. ويتأثر هذا المنظور بالنموذج التطوري الأوسع، مما يشير إلى أنه بمجرد ظهور قدرة جديدة قوية، مثل الإدراك لدى البشر، يتم استخدامها في نهاية المطاف إلى أقصى إمكاناتها.

يتوقع Kurzweil أنه بمجرد أن يصل الذكاء الاصطناعي إلى نقطة القدرة على تحسين نفسه، سيصبح هذا النمو هائلاً. وقد اقترح صوت بارز آخر في هذه المناقشة، Vernor Vinge، أستاذ الرياضيات المتقاعد وعالم الكمبيوتر ومؤلف الخيال العلمي، أن خلق ذكاء خارق يمثل نوعًا من "التفرد" في تاريخ الكوكب، حيث أنه سيمثل نقطة يمكن أن تستمر بعدها الشؤون البشرية، كما هي مفهومة حاليًا، في الاستمرار. وقد ذكر Vinge أنه إذا لم يواجه الذكاء الاصطناعي المتقدم عقبات لا يمكن التغلب عليها، فسيؤدي ذلك إلى التفرد.

غالبًا ما يتوقف النقاش على فكرة عدم وجود قوانين فيزيائية لمنع تطوير أنظمة الحوسبة التي يمكن أن تتجاوز القدرات البشرية في جميع المجالات ذات الأهمية. ويشمل ذلك تعزيز الذكاء الاصطناعي لقدراته، والتي من المرجح أن تشمل قدرته على زيادة تحسين تصميمه أو حتى تصميم أشكال جديدة تمامًا من الذكاء.

سلط Roman Yampolskiy الضوء على المخاطر المحتملة المرتبطة بالتفرد، لا سيما صعوبة التحكم أو التنبؤ بتصرفات الذكاء الاصطناعي فائق الذكاء. قد لا تعمل هذه الكيانات بسرعات تتحدى الفهم البشري فحسب، بل قد تنخرط أيضًا في صنع قرارات لا تتماشى مع القيم الإنسانية أو السلامة.

أكاديمية الذكاء الاصطناعي

الثقة والشفافية والحوكمة في عصر الذكاء الاصطناعي

يُعَد التباين حول مدى "الثقة" في الذكاء الاصطناعي أحد أهم الموضوعات في هذا المجال.ومن المفهوم أيضًا أنه موضوع شائك.سنتحدث عن مشاكل مثل الهلوسة والتحيز، والمخاطر، وسنشارك خطوات اعتماد الذكاء الاصطناعي بطريقة أخلاقية، ومسؤولة، ومنصفة.

ما مدى قربنا من التفرد التكنولوجي؟

الجدول الزمني للوصول إلى التفرد التكنولوجي هو موضوع الكثير من النقاش بين الخبراء، مع اختلاف التنبؤات على نطاق واسع بناءً على افتراضات ونماذج مختلفة للنمو التكنولوجي. توقع Ray Kurzweil، وهو أحد أكثر المؤيدين صوتًا للتفرد، أن التفرد قريب وسيحدث بحلول عام 2045. يعتمد تنبؤه على اتجاهات مثل قانون مور والمعدل المتزايد للتقدم التكنولوجي في مجالات مثل الحوسبة والذكاء الاصطناعي والتكنولوجيا الحيوية.

هناك خبراء آخرون أكثر تشككًا أو يقترحون جداول زمنية مختلفة. يقترح البعض أنه على الرغم من أن الذكاء الاصطناعي سيستمر في التقدم، إلا أن التعقيدات والتحديات غير المتوقعة لتحقيق الذكاء الفائق قد تؤدي إلى تأخير التفرُّد إلى ما بعد هذا القرن، إذا حدث ذلك من الأساس. فقد تؤدي التحديات التكنولوجية والأخلاقية والتنظيمية إلى إبطاء وتيرة تطوير الذكاء الاصطناعي.

علاوة على ذلك، تحذر شخصيات مثل Roman Yampolskiy من أن التنبؤ بالجدول الزمني الدقيق أمر صعب للغاية بسبب الطبيعة غير المسبوقة للتفرد نفسه. تنطوي التطورات التي تؤدي إلى التفرد على العديد من المتغيرات، بما في ذلك التطورات في خوارزميات الذكاء الاصطناعي وقدرات الأجهزة والعوامل المجتمعية التي يصعب التنبؤ بها بدقة.

شارك Eamonn Healy، الأستاذ في جامعة سانت إدوارد، في مناقشات حول التطور التقني، لا سيما في فيلم "حياة اليقظة" Waking Life، حيث يتكهن بمفاهيم أقرب إلى التفرد التقتي والتطور التلسكوبي. ويتضمن هذا المفهوم فكرة تسريع معدلات التطور، خاصةً في سياق التقنية والقدرات البشرية. ويتكهن Healy بأن التطور، لا سيما من خلال عدسة التقدم التقني والفكري، يسير بوتيرة متزايدة باستمرار، ويضغط ما كان يستغرق آلاف السنين إلى قرون وحتى أطر زمنية أقصر.

تتطرق مناقشة Healy بشكل عام إلى تسارع التقدم التكنولوجي وآثاره المحتملة على البشرية، بما يتماشى مع نظريات التفرد الأوسع التي تشير إلى تغييرات سريعة وتحويلية في المجتمع بسبب التقدم في الذكاء الاصطناعي والتكنولوجيا. ويعكس هذا المفهوم آراء المستقبليين مثل Ray Kurzweil، الذي يتوقع حدوث مثل هذه التغييرات في منتصف القرن الحادي والعشرين.

ما هي التكنولوجيا الحالية التي تعتبر مقدمة للتفرد التكنولوجي؟

يلعب الذكاء الاصطناعي ونظيره الأكثر تقدمًا، الذكاء الاصطناعي العام (AGI)، دورًا محوريًا في تشكيل المسار نحو التفرد التكنولوجي. يساهم الذكاء الاصطناعي، وهو عبارة عن أنظمة مصممة لأداء مهام محددة بقدرات تحاكي الذكاء البشري والذكاء الاصطناعي المُعزز الذي يهدف إلى مضاهاة القدرات المعرفية للبشر وتجاوزها عبر مجموعة واسعة من المهام، في تسريع النمو التكنولوجي الذي قد يؤدي إلى التفرد.

وقد أظهرت تقنيات الذكاء الاصطناعي، مثل التعلّم العميق والشبكات العصبية، قدرات عميقة في مجالات مثل التعرّف على الأنماط واتخاذ القرارات وحل المشكلات ضمن سياقات محددة. تتطور هذه التقنيات بسرعة، مما يقلل من الوقت الذي تحتاجه أنظمة الذكاء الاصطناعي للتعلم والتكيف. هذا التعزيز التدريجي لقدرات الذكاء الاصطناعي يقربنا من تطوير الذكاء الاصطناعي العام، الذي سيمتلك القدرة على فهم المعرفة وتعلمها وتطبيقها بطريقة مستقلة وذكية تشبه الإنسان.

تفترض نظرية التفرد أن ظهور الذكاء الاصطناعي العام قد يؤدي إلى سيناريو تكون فيه هذه الأنظمة قادرة على تحسين الذات. قد يؤدي هذا التحسين الذاتي المتكرر إلى انفجار في الذكاء، مما يؤدي إلى أول آلة فائقة الذكاء، وهي آلة يمكن أن يفوق إنتاجها الفكري قدرات الإنسان بشكل كبير. قد يؤدي مثل هذا الانفجار على الأرجح إلى تغييرات غير متوقعة في التكنولوجيا والمجتمع وحتى الهوية البشرية، حيث تبدأ الآلات في تطوير تقنيات متقدمة لا يمكن للبشر وحدهم تطويرها.

علاوة على ذلك، فإن قدرة الذكاء الاصطناعي العام على الابتكار والتحسين الذاتي يمكن أن تؤدي إلى نشر التقنيات الجديدة بسرعة في مختلف القطاعات، مما قد يؤدي إلى خلق دورة من التقدم التكنولوجي المستمر دون الحاجة إلى تدخل بشري. يمكن لهذه الدورة أن تقلل بشكل كبير من الفترة الزمنية بين المعالم التكنولوجية الهامة، مما يؤدي إلى تغيير الديناميكيات الاقتصادية والاجتماعية والثقافية بشكل أساسي على مستوى العالم.

تعمل العديد من التقنيات الحالية كمقدمات للتفرد التكنولوجي، كل منها يمثل تقدمًا في مجالات حاسمة لتطوير الذكاء الاصطناعي فائق الذكاء.

فيما يلي بعض التقنيات الرئيسية:

  • الشبكات العصبية الاصطناعية والتعلم العميق: تشكل هذه التقنيات العمود الفقري للكثير من الأبحاث والتطوير في مجال الذكاء الاصطناعي اليوم. فهي تحاكي بنية ووظيفة الدماغ البشري إلى حد ما وقد مكنت من إحراز تقدم كبير في التعلم الآلي. تُعد الشبكات العصبية ضرورية بشكل خاص لمهام مثل التعرف على الكلام والتعرف على الصور والملاحة الذاتية للمركبات.

  • الحوسبة الكمومية: على الرغم من أنها لا تزال في مراحلها المبكرة، إلا أن الحوسبة الكمومية تعد بزيادة قوة الحوسبة وكفاءتها بشكل كبير في المستقبل القريب، مما قد يؤدي إلى تسريع قدرات الذكاء الاصطناعي إلى ما هو أبعد من الحدود الحالية. قد تؤدي هذه التقنية إلى تحقيق تطورات في قدرة الذكاء الاصطناعي على حل المشكلات المعقدة بشكل أسرع بكثير من أجهزة الكمبيوتر التقليدية.

  • معالجة اللغة الطبيعية (NLP): إن التقدم في معالجة اللغة الطبيعية، المتمثل في تقنيات مثل نماذج ChatGPT (المُحول المُولّد مسبق التدريب)، أمر بالغ الأهمية لتطوير الذكاء الاصطناعي الذي يمكنه فهم وإنشاء نص يشبه النص البشري. تعد هذه القدرة ضرورية للذكاء الاصطناعي لأداء المهام الأكثر تعقيدًا والتي تتطلب فهم السياق والفروق الدقيقة في اللغة.

  • التشغيل الآلي والأتمتة: تعمل الابتكارات في مجال التشغيل الآلي على تمكين الآلات بشكل متزايد من أداء المهام التي تتطلب المهارة واتخاذ القرارات التي كان يُعتقد في السابق أنها حكراً على البشر. ولا تقتصر هذه التطورات على أتمتة المزيد من المهام المادية فحسب، بل تدمج الذكاء الاصطناعي أيضًا لإنشاء المزيد من الأنظمة المستقلة.

  • الحوسبة السحابية والبيانات الكبيرة: تعد الزيادة الهائلة في توليد البيانات والقدرة على تخزينها ومعالجتها في البيئة السحابية أمرًا حيويًا لتدريب أنظمة ذكاء اصطناعي أكثر قوة. تحليلات البيانات الكبيرة والبنية التحتية السحابية التي تدعمها تمكّن نماذج التعلم الآلي المعقدة اللازمة لتطوير الذكاء الاصطناعي المتقدم.

  • التكنولوجيا الحيوية وواجهات الدماغ والحاسوب (BCIs): إن التقدم في فهم الدماغ البشري ومحاكاة وظائفه أمر بالغ الأهمية لخلق ذكاء اصطناعي يمكنه التفكير والتعلم مثل البشر. بالإضافة إلى ذلك، فإن BCIs التي تربط الأدمغة البشرية مباشرة بأجهزة الكمبيوتر هي خطوة نحو دمج الذكاء البيولوجي والاصطناعي، وهو مفهوم غالبًا ما تتم مناقشته في سيناريوهات التفرد.

دور تقنية النانو والتقنيات الأخرى

تُعدّ تكنولوجيا النانو، وهي علم هندسة المواد والأجهزة على مستوى الذرة والجزيء، ركيزة أساسية في مسار التطور نحو التفرد التكنولوجي. ويوفر هذا المجال إمكانية تعزيز التقنيات المختلفة بشكل كبير، من الطب والإلكترونيات إلى أنظمة الطاقة والتقنيات الحيوية، من خلال إنشاء مواد وآليات ذات خصائص وقدرات محسنة بشكل جذري.

تنطوي تقنية النانو في جوهرها على بناء الأجهزة والمواد من الأسفل إلى الأعلى، باستخدام ذرات وجزيئات منفردة كل منها على حدة كوحدات بناء. يمكن أن يؤدي هذا المستوى الدقيق من التحكم إلى إنشاء آلات وأنظمة عالية الكفاءة يمكن أن تتفوق على التكنولوجيا التقليدية في كل جانب تقريبًا. على سبيل المثال، يمكن أن تكون المواد النانوية أقوى وأخف وزنًا وأكثر تفاعلًا وأكثر متانة وموصلات كهربائية أفضل من نظيراتها ذات المقياس الكبير.

يمكن لتكنولوجيا النانو أن تحدث ثورة في مجال التشغيل الآلي وأجهزة الذكاء الاصطناعي. يمكن أن تؤدي روبوتات النانو أو الروبوتات النانوية التي تعمل بمقاييس مجهرية مهام مستحيلة في الوقت الحالي، مثل استهداف الخلايا السرطانية بدقة للعلاج أو إصلاح الخلايا الفردية، وبالتالي إطالة صحة الإنسان وعمره. ستكون هذه القدرات حيوية في سيناريو التفرد، حيث قد يتعايش ويتعاون البشر المعززون والآلات المتقدمة.

بالإضافة إلى ذلك، فإن إمكانات تكنولوجيا النانو لإنشاء أنظمة ذاتية الاستنساخ ذات صلة خاصة بمناقشات التفرُّد. إذا تم تصميم الروبوتات النانوية لاستنساخ نفسها بشكل مستقل، فقد يؤدي ذلك إلى نمو هائل في قدرات التصنيع والتطور التقني السريع.

وبعيدًا عن تكنولوجيا النانو، يمكن أن يلعب المجال الأوسع لعلوم المواد دورًا حاسمًا في التفرد. يمكن للابتكارات في المواد التي يمكنها تغيير الخصائص عند الطلب أو توصيل الكهرباء بأقل قدر من الخسائر أن تحدث ثورة في كيفية عمل الآلات وتفاعلها مع بيئاتها. يمكن لمواد مثل الجرافين والمواد الفائقة أن تتيح أنواعًا جديدة تمامًا من الأجهزة التي تساهم في تسريع القدرات التكنولوجية.

نظرًا لأن الذكاء الاصطناعي والتقنيات الأخرى تتطلب المزيد من الطاقة، فإن التقدم في تخزين الطاقة وتوليدها سيكون أمرًا بالغ الأهمية. يمكن أن توفر تقنيات البطاريات المحسّنة، مثل بطاريات الحالة الصلبة أو التطورات في مجال الاندماج النووي، كميات هائلة من الطاقة النظيفة اللازمة لتشغيل أنظمة الحوسبة المتقدمة وغيرها من التقنيات التي تمكّن التفرد.

وإلى جانب واجهات الدماغ والحاسوب، فإن التقنيات الحيوية المتقدمة مثل تعديل الجينات (CRISPR)، والبيولوجيا التركيبية، وتجديد الأعضاء قد تطيل العمر المتوقع للإنسان، وتغير صحته تغييرًا جذريًا، وربما تغير القدرات البشرية. وقد تندمج هذه التقنيات أيضًا مع تطورات الذكاء الاصطناعي لإنشاء أنظمة هجينة حيوية، تمزج بين العناصر البيولوجية والميكانيكية.

تُحدِث تقنيات مثل الطباعة ثلاثية الأبعاد والتصنيع الإضافي ثورة في عمليات الإنتاج. تسمح هذه التقنيات بإنتاج نماذج أولية سريعة وإنشاء هياكل معقدة غير ممكنة بالطرق التقليدية. ومع تقدم هذه التقنيات، قد تؤدي إلى مزيد من الاستقلالية في عمليات التصنيع، وهو أمر بالغ الأهمية للأنظمة ذاتية التكرار التي غالباً ما تتم مناقشتها في سيناريوهات التفرد.

يمكن أن يؤدي توسيع وتعزيز شبكات الاتصالات العالمية، بما في ذلك البنية التحتية للإنترنت من الجيل التالي مثل 6G وما بعدها، إلى تسهيل المشاركة الفورية للمعلومات وتنسيق أنظمة الذكاء الاصطناعي في جميع أنحاء العالم. ويمكن أن يؤدي ذلك إلى تسريع نشر الابتكارات المستندة إلى الذكاء الاصطناعي وزيادة دمج الاقتصادات والمجتمعات العالمية، وخلق عالم أكثر ترابطًا وتكافلاً يفضي إلى الانتشار السريع للتقنيات المتعلقة بالتفرد.

النتائج المحتملة للتفرد التكنولوجي

إن النتائج المحتملة للتفرد التكنولوجي متنوعة بقدر ما هي عميقة، وتشمل سيناريوهات متفائلة وأخرى بائسة. التفرد التكنولوجي هو أمر نظري بحت، ولكن إذا حدث ذلك، فقد ترى البشرية النتائج التالية.

تسريع الابتكار العلمي

في عالم ما بعد التفرد، يمكن أن تزداد وتيرة الابتكار العلمي والتكنولوجي بشكل كبير. يمكن لأنظمة الذكاء الاصطناعي فائقة الذكاء وذاتية الإدراك، التي تتمتع بقوة معالجة وقدرات معرفية تتجاوز بكثير القدرات البشرية، أن تحقق اكتشافات علمية رائدة في جزء صغير من الوقت الذي تستغرقه الآن. تخيل آلات قادرة على تقديم رؤى على مستوى نوبل يوميًا، مما قد يحل مشاكل معقدة تتراوح بين تغير المناخ إلى القضاء على الأمراض بمجرد التعرف عليها تقريبًا.

أتمتة جميع العمالة البشرية

يمكن أن تكون النتيجة المهمة الأخرى هي أتمتة جميع المهام التي يؤديها البشر حاليًا، واستبدالها بآلات عالية الكفاءة والقدرة. هذا يمكن أن يؤدي إلى اضطراب اقتصادي حيث لم يعد العمل البشري ضروريًا لتشغيل المجتمع. في حين أن هذا يمكن أن يؤدي إلى عصر من الرخاء حيث يتحرر الناس من العمل الوضيع ويمكنهم ممارسة الأنشطة الترفيهية والإبداعية، فإنه يثير أيضًا مخاوف بشأن التفاوتات الاقتصادية وفقدان الهدف للعديد من الأفراد.

التعزيز البشري والآلي

نحن بالفعل على أعتاب دمج التكنولوجيا مع البيولوجيا البشرية، كما رأينا في التجارب المبكرة مع تقنيات مثل Neuralink، والتي تهدف إلى دمج الدماغ البشري مع الذكاء الاصطناعي. بعد التفرد، قد تصبح هذه التعزيزات هي القاعدة، حيث يعزز البشر قدراتهم المعرفية والجسدية من خلال التكامل المباشر مع الذكاء الاصطناعي المتقدم والروبوتات. قد يؤدي هذا التقارب إلى نوع جديد من كائنات ما بعد الإنسان أو ما بعد الإنسان تمامًا، متجاوزًا القيود البشرية الحالية.

المخاطر الوجودية والمخاوف الأخلاقية

ومع ازدياد قدرات الذكاء الاصطناعي، قد يبدأ أيضًا في النظر إلى احتياجات البشر وسلامتهم على أنها ثانوية بالنسبة لأهدافه الخاصة، خاصةً إذا كان ينظر إلى البشر كمنافسين على الموارد المحدودة. غالبًا ما تتم مناقشة هذا السيناريو في سياق أخلاقيات الذكاء الاصطناعي والتحكم فيه، حيث قد يتصرف الذكاء الاصطناعي الخارق بطرق لا تتماشى مع القيم البشرية أو البقاء على قيد الحياة.

هيمنة الذكاء الاصطناعي

هناك مخاوف من أن الآلات فائقة الذكاء يمكن أن تعطي الأولوية لبقائها وأهدافها على الاحتياجات البشرية. قد يؤدي هذا إلى سيناريوهات يسيطر فيها الذكاء الاصطناعي على موارد كبيرة، مما قد يؤدي إلى صراعات مع البشرية وربما انقراض الإنسان نتيجة لذلك.

سيناريو "غراي غو"

هذا سيناريو افتراضي لنهاية العالم يتضمن تكنولوجيا النانو الجزيئية حيث تستهلك الروبوتات ذاتية الاستنساخ الخارجة عن السيطرة كل المادة على الأرض بينما تبني المزيد من نفسها.

الشكوك حول التفرد التكنولوجي

في حين أن مفهوم التفرد التكنولوجي يرسم مستقبلًا من التقدم والتحول التكنولوجي الذي لا مثيل له، لا يشارك جميع الخبراء هذا الرأي. يجادل العديد من النقاد بأن هناك عقبات كبيرة وربما لا يمكن التغلب عليها تقف في الطريق.

يجادل بعض الخبراء بأن أجهزة الكمبيوتر تفتقر بشكل أساسي إلى القدرة الأساسية على فهم أو محاكاة الذكاء البشري حقًا. ولنتأمل هنا حجة الغرفة الصينية، وهي تجربة فكرية تتخيل شخصًا جالسًا في غرفة مع كتاب قواعد عملاق يتضمن تعليمات للتلاعب بالرموز الصينية، وسلة مليئة بالرموز الصينية. يرسل الأشخاص خارج الغرفة رسائل وبينما لا يفهمها الشخص الموجود بالداخل، باستخدام كتاب القواعد، يمكنه العثور على الرمز المطابق وإرسال رد بناءً على القواعد. يمكن للشخص خارج الغرفة أن يفترض بشكل معقول أن الشخص الموجود بالداخل يفهم اللغة الصينية، في حين أنه في الواقع لا يفهمها.

ويتحدى فلاسفة آخرون فكرة أن الآلات يمكن أن تحقق الذكاء البشري أو حتى تقاربه حقًا، لأن الذكاء البشري نفسه غير مفهوم تمامًا. يعتقد البعض أنه لا يوجد سبب جوهري للاعتقاد بالتفرد القادم، مستشهدين بالتنبؤات المستقبلية الفاشلة مثل الحقائب النفاثة الشخصية والسيارات الطائرة في الماضي كحكايات تحذيرية. في حين أن التنبؤات السابقة لم تتحقق دائمًا، إلا أن التقدم التكنولوجي يمكن أن يكون مفاجئًا ولا يمكن التنبؤ به. ومع ذلك، يجادل المتشككون بأن قوة المعالجة المطلقة لا تحل جميع المشكلات لمواجهة الخصائص السحرية للذكاء الاصطناعي المتقدم.

نظرية أخرى هي "مفارقة التكنولوجيا"، وهي عائق محتمل حيث يمكن أن تؤدي أتمتة الوظائف الروتينية إلى بطالة هائلة وانكماش اقتصادي، مما يخنق الاستثمار التكنولوجي اللازم للوصول إلى التفرد. يلاحظ المشككون انخفاضًا في معدل الابتكار التكنولوجي، وهو ما يتناقض مع النمو الأسي المتوقع في سيناريوهات التفرد. وهم يشيرون إلى أن التحديات مثل تبديد الحرارة في الرقائق الحوسبية تعمل على تباطؤ وتيرة التقدم، مما يشكك في جدوى السرعات الحاسوبية المتزايدة باستمرار.

تتفاقم مشكلة الحرارة بسبب الاتجاه نحو تعبئة المزيد من الترانزستورات في مساحات أصغر من أي وقت مضى، وفقًا لقانون مور. هذه الكثافة المتزايدة تولد المزيد من الحرارة في مساحة ضيقة، مما يؤدي إلى ارتفاع درجة الحرارة. يمكن أن تؤدي درجات الحرارة المرتفعة إلى تدهور أداء المعالج وتقليل عمره الافتراضي والتسبب في تعطله إذا لم تتم إدارته بشكل مناسب.

هناك عائق هائل آخر أمام التفرد التكنولوجي وهو الاستهلاك الهائل للطاقة اللازمة لتدريب تقنيات الذكاء الاصطناعي المتقدمة. يتطلب تدريب النماذج اللغوية الكبيرة، مثل تلك التي يقوم عليها تطوير الذكاء الاصطناعي العام، كميات كبيرة من الطاقة الكهربائية، تعادل الاستهلاك السنوي لمئات المنازل. ومع نمو تعقيد هذه النماذج وحجمها، تزداد بصمة الطاقة الخاصة بها، مما قد يجعل السعي وراء ذكاء اصطناعي أكثر تقدمًا باهظ التكلفة وغير مستدام بيئيًا.

يضيف تحدي الطاقة هذا طبقة كبيرة من التعقيد لتحقيق التفرد، لأنه يتطلب توازنًا بين التقدم التكنولوجي والاستخدام المستدام للطاقة. وبدون تحقيق إنجازات في كفاءة الطاقة أو اعتماد مصادر الطاقة المتجددة على نطاق واسع، فإن متطلبات الطاقة من التدريب وتشغيل الذكاء الاصطناعي المتقدم يمكن أن تعيق التقدم نحو التفرد.

حلول ذات صلة
™IBM® watsonx.governance

يمكنك إدارة نماذج الذكاء الاصطناعي من أي مكان ونشرها على السحابة أو بشكل محلي باستخدام IBM watsonx.governance.

اكتشف watsonx.governance
حلول حوكمة الذكاء الاصطناعي

اكتشف كيف يمكن لحوكمة الذكاء الاصطناعي أن تساعد في زيادة ثقة موظفيك في الذكاء الاصطناعي، وتسريع الاعتماد عليه وتعزيز الابتكار، بالإضافة إلى تحسين ثقة العملاء.

اكتشف حلول حوكمة الذكاء الاصطناعي
خدمات استشارات إدارة الذكاء الاصطناعي

تمكَّن من الاستعداد لقانون الذكاء الاصطناعي في الاتحاد الأوروبي ووضع نهج حوكمة مسؤول للذكاء الاصطناعي بمساعدة IBM Consulting.

اكتشف خدمات إدارة الذكاء الاصطناعي
اتخِذ الخطوة التالية

يمكنك توجيه الذكاء الاصطناعي الذي تستخدمه وإدارته ومراقبته باستخدام محفظة واحدة لتسريع تنفيذ الذكاء الاصطناعي المسؤول والشفاف والقابل للتفسير.

استكشف watsonx.governance احجز عرضًا توضيحيًا مباشرًا