يساعد مكتب IBM للخصوصية والتقنيات المسؤولة على تبسيط مهام الخصوصية والامتثال العالمية للذكاء الاصطناعي وأتمتتها في نماذج التعلم الآلي التي تديرها IBM.
يُستخدم الذكاء الاصطناعي بالفعل لاتخاذ قرارات بشأن ما إذا كان ينبغي توكيل مهمة إلى شخص ما. وما إذا كان ينبغي منحه مالاً أو توفير مسكن له. ستكون تأثيرات الذكاء الاصطناعي هائلة ومغيرة للحياة، ما يجعل من المهم للغاية أن نتعامل معه بمسؤولية.
ومع ذلك، فإن تطبيق الإدارة المسؤولة ليس سهلاً مثل الحديث عنها. وكريستينا مونتغمري، كبيرة مسؤولي قسم الخصوصية والثقة في IBM، شخص يحرص على أن يظل الذكاء الاصطناعي قوة إيجابية للتغيير.
تقول مونتغمري: "لقد أنشأنا في شركة IBM مجلس أخلاقيات الذكاء الاصطناعي - والذي أشارك في رئاسته حاليًا - لمواجهة هذا التحدي." "لقد أوضحنا مبادئ متعلقة باستخدام الذكاء الاصطناعي – وأنه ينبغي أن يكون استخدامًا شفافًا وقابلاً للتفسير. وأنه ينبغي أن يكون محافظًا على الخصوصية، وآمنًا، وشاملاً ونزيهًا. وبينما ساعد المجلس على تضمين هذه المبادئ في ثقافتنا، فإننا بحاجة إلى أكثر من الإيمان بها للتأكد من أننا نتحمل مسؤولية تنفيذها كشركة".
لحسن الحظ، تبنت شركة IBM مجموعة كبيرة من اللوائح مثل هذه من قبل.
يضيف لي كوكس، نائب رئيس قسم الحوكمة المتكاملة والخدمات والأبحاث في مكتب IBM للخصوصية والتقنيات المسؤولة: "ربما يكون امتثالنا للائحة العامة لحماية البيانات (GDPR) يشبه كثيرًا ما علينا فعله مع الذكاء الاصطناعي. "قبل ذلك، كانت طريقة تعاملنا مع تحديات الامتثال المتعلقة بحماية البيانات أكثر محلية – ثم أُضيف الطابع الإقليمي إلى العديد من برامجنا. لقد نجحت المهمة، لكننا كنا بحاجة إلى بذل قدر لا بأس به من الجهد لتوسيع نطاقهم لتلبية الطلبات الجديدة".
وتابع قائلاً: "لكن مع اللائحة العامة لحماية البيانات (GDPR) وغيرها من لوائح الخصوصية، كنا بحاجة إلى بدء تنظيمها على مستوى عالمي. كنا بحاجة إلى التكيف بسرعة في مواجهة المعايير المتزايدة، والالتزامات المتزايدة، والتعقيدات المتزايدة، والحساسية المتزايدة حول "ماذا يحدث لبياناتي وكيف تُستخدم؟
ولتحقيق هذه الرقابة العالمية، أنشأت شركة IBM نظام إدارة الخصوصية والذكاء الاصطناعي (PIMS) على مستوى المؤسسة. وبعد نجاحها، شعرت مونتغمري وفريقها أنه بإمكان شركة IBM تعزيز هذه الأداة لتوثيق الامتثال وتتبعه بشكل أفضل في عمليات الذكاء الاصطناعي لديها أيضًا.
كما هو الحال مع الخصوصية، خضع الذكاء الاصطناعي إلى سيل من اللوائح التنظيمية الجديدة - على المستويين الوطني والإقليمي - على مدى السنوات القليلة الماضية. وبالمثل، وضعت العديد من التحالفات والجمعيات العالمية المختلفة أيضًا إرشادات تهدف إلى المساعدة على إبقاء الذكاء الاصطناعي يعمل بشكل أخلاقي ومسؤول. لكن قد يكون من الصعب تلبية قائمة التوقعات المتزايدة هذه على نطاق واسع.
وأضافت مونتغمري قائلة: "إننا شركة كبرى". "نعمل في أكثر من 170 دولة حول العالم. ولدينا أكثر من 400 كيان قانوني مستقل يتعامل مع 13000 مورد و150000 شريك في الأعمال. وبهذا الحجم، قد يكون من الصعب من منظور الحوكمة أن نجعل جميع موظفينا الذين يزيد عددهم عن 250000 موظف على المستوى نفسه".
في أواخر عام 2022، لجأ المكتب إلى ترقية نظام إدارة الخصوصية والذكاء الاصطناعي (PIMS)، المعزز بتقنية ®IBM® OpenPages وتقنية IBM Knowledge Catalog. ويوفر الحل، الذي يضم أيضًا أنظمة مبتكرة من مجموعة أنظمة IBM للبيانات والذكاء الاصطناعي (موضحة أدناه)، منصة مركزية على مستوى الشركة تتمكن من رصد البيانات الوصفية المتعلقة بخصوصية البيانات ودورة حياة الذكاء الاصطناعي بأكملها، بدءًا من التصميم ومرورًا بالنشر وحتى الاستخدام اليومي، ودمجها وإضفاء الشفافية عليها.
يستدرك كوكس قائلاً: "بالاستعانة بنظام PIMS، كان هدفنا الرئيسي هو توحيد المعايير وتبسيطها وتوسيعها إلى حد كبير." "والآن نتبع نهج امتثال أكثر استدامة يمكن أن يساعد على تحديد الفجوات بين ما نطبقه اليوم وبين اللوائح الجديدة عند صدورها".
وتضيف مونتغمري قائلة: "من المهم للغاية أن نبني الثقة عبر النظام البنائي بأكمله - موظفينا وعملائنا والحكومات وصانعي السياسات." "ولهذا السبب نحن متمسكين بشدة بالشفافية في استخدامنا للذكاء الاصطناعي، وهذا ما يساعد نظام إدارة الخصوصية والذكاء الاصطناعي (PIMS) بشكل أساسي على توفيره".
يشير كوكس إلى أنه "لا بد من أخذ التحيز خصوصًا في الحسبان". "عند أخذ عيوب البشر ونشرها على نطاق واسع باستخدام الذكاء الاصطناعي، فإن هذه العيوب ستتكرر عبر أنظمة متعددة، ما يجعل التأثير في المجتمع أكبر بكثير".
تقنية IBM OpenPages هي أساس نظام إدارة الخصوصية والذكاء الاصطناعي (PIMS)، حيث توفر سير عمل تلقائي ومركزي لوظائف الحوكمة والمخاطر والامتثال (GRC) التي كانت منفصلة في السابق. وتوفر تقنية IBM Knowledge Catalog كتالوج البيانات الملائم لمراقبة معلومات الحوكمة والمخاطر والامتثال هذه وتنظيمها إلى جانب الأصول والعلاقات المعرفية ذات الصلة.
كجزء من إستراتيجية حوكمة الذكاء الاصطناعي بشركة IBM، يستخدم نظام PIMS أيضًا ميزة IBM لسجلات وقائع الذكاء الاصطناعي على IBM Cloud Pak® for Data. تتبع هذه الأداة دورة حياة نماذج التعلم الآلي من التدريب وحتى الإصدار، وترصد البيانات الواقعية التي يمكن استخدامها لمراقبة المخاطر وانحراف النموذج.
يُسجل نظام إدارة الخصوصية والذكاء الاصطناعي (PIMS) نماذج الذكاء الاصطناعي الجديدة التي تُدخلها شركة IBM في الإنتاج ونماذج الأنظمة الخوارزمية الأخرى. ويضيفها نظام إدارة الخصوصية والذكاء الاصطناعي (PIMS) إلى سير العمل المركزي على مستوى الشركة ويقيّمها بحثًا عن المخاطر المحتملة. وبمجرد أن يبدأ النموذج في العمل، يوفر الحل مراقبة مستمرة للنزاهة والجودة والانحراف.
وفي الوقت نفسه، عند صدور لوائح تنظيمية جديدة، يمكن استخدام نظام إدارة الخصوصية والذكاء الاصطناعي (PIMS) لاستيراد هذه المتطلبات، وتحديث نماذج الحوكمة وجهود تقييم المخاطر بشكل عام.
ويشير كوكس إلى أن "مجموعة كبيرة من اللوائح الجديدة المتعلقة بالذكاء الاصطناعي تُقترح كل عام." "يبدو أن كل ولاية أمريكية بصدد وضع قوانينها الخاصة. وثمة قانون رئيسي مهم صدر في أوروبا في عام 2024".
وفي ظل المشهد التنظيمي المتغير للذكاء الاصطناعي والمسؤولية الدائمة للحفاظ على الامتثال في خصوصية البيانات وحوكمة البيانات، أنشأت شركة IBM برنامج الحوكمة المتكاملة (IGP). تقدم مبادرة IGP هذه إستراتيجية موحدة لمعالجة الخصوصية وأنظمة الذكاء الاصطناعي أو الأنظمة الخوارزمية وحالات استخدام أخلاقيات التقنيات وطلبات حذف البيانات - كل ذلك في برنامج الحوكمة الرئيسي نفسه، والذي يتضمن نظام إدارة الخصوصية والذكاء الاصطناعي (PIMS).
يساعد برنامج IGP شركة IBM على إدارة برنامج الامتثال على نطاق واسع، ويشمل ذلك قانون الاتحاد الأوروبي للذكاء الاصطناعي - أول قانون شامل للذكاء الاصطناعي في العالم - والذي دخل في حيز التنفيذ في عام 2024. بفضل برنامج IGP، يمكن أن يُلبي الذكاء الاصطناعي متطلبات القانون، والتي تركز على المخاطر والثقة والأمن والشفافية، ومن المتوقع أن ترتقي بمستوى الرقابة البشرية والامتثال التنظيمي في الذكاء الاصطناعي إلى مستويات جديدة داخل الاتحاد الأوروبي وفي جميع أنحاء العالم.
في المقابل، يوفر نظام إدارة الخصوصية والذكاء الاصطناعي (PIMS) وسير عمل الحوكمة المتكاملة المرتبطة به إمكانات قابلية التتبع وإعداد التقارير بشكل متزايد، ما يتيح إكمال عمليات مراجعة طلبات حذف البيانات قبل استخدام البيانات في التدريب المسبق للنموذج أو تطويره أو ضبطه. كما تساعد الأداة على ضمان التوثيق الدقيق والحفاظ على سجلات المعالجة (RoPs) ومقاييس التدريب والاختبار المرتبطة بها والتنبؤات الحالية - فيما يتعلق بالذكاء الاصطناعي والأنظمة الخوارزمية الأخرى. وبالمثل، يمكن لموظفي IBM استخدام مسار التوثيق هذا للتحقق من اكتمال عمليات المعالجة بالفعل.
تخطط شركة IBM لإعداد إصدارات مستقبلية من نظام إدارة الخصوصية والذكاء الاصطناعي (PIMS) تضم أحدث مجموعة منتج ™watsonx المقدمة من IBM، بما في ذلك ™watsonx.governance. والهدف من هذه الخطوة هو تزويد شركة IBM بإمكانات محسّنة لحوكمة دورة حياة النماذج والمقاييس الرئيسية وتقارير تقييم الأداء الأوسع نطاقًا.
في الوقت الحالي، يتتبع نظام إدارة الخصوصية والذكاء الاصطناعي (PIMS) أكثر من 5,500 تطبيق من تطبيقات المؤسسات وعمليات الأعمال عبر عمليات IBM العالمية ويديرها - كل ذلك من خلال منصة واحدة موحدة. كما أن مزايا الأتمتة التي توفرها الأداة تزود لوحات معلومات الحوكمة، المصممة للمساعدة على تبسيط الإدارة وخفض النفقات العامة وتقليل أحمال تشغيل المعالجة وزيادة سرعة تحقيق الامتثال، بمؤشرات الأداء الرئيسية (KPIs) ذات الصلة.
ويوضح كوكس قائلاً: "بدلاً من مراقبة صاحب العملية لكل أصل، وكل فرد، وكل تطبيق، وكل عملية من عمليات الأعمال على حدة - وإلزامه بتطبيق القوانين التي ينبغي الامتثال لها - فإننا نُزيل هذا التعقيد". "بفضل نظام إدارة الخصوصية والذكاء الاصطناعي (PIMS)، ليس عليه الآن سوى التركيز على مهام المعالجة المُعدة تلقائيًا. وهذا يعني توفير آلاف الساعات من الجهد المبذول عبر شركة IBM بأكملها".
ومع طرح اللوائح الجديدة، يمكن لشركة IBM تحديد متطلباتها وتلبيتها بشكل أسرع بكثير.
يوضح كوكس قائلاً: "استغرق مشروعنا الكبير الأخير - اللائحة العامة لحماية البيانات (GDPR) - حوالي 12 شهرًا من الجهد المبذول لتبني نموذج حوكمة وحل تتبع". "بفضل نظام إدارة الخصوصية والذكاء الاصطناعي (PIMS)، يمكننا الآن إطلاق برنامج امتثال تنظيمي على مستوى المؤسسة في أوقات قصيرة جدًا، أحيانًا تصل إلى ستة أسابيع فحسب. المعلومات متوفرة بالفعل، ما يجعل عملية تحديد الفجوات وإنشاء الحملة أسرع وأسهل. وبعد الإطلاق، يمكن لنظام إدارة الخصوصية والذكاء الاصطناعي (PIMS) عندئذٍ تزويد لوحات المعلومات لدينا ببيانات التتبع والمعالجة ذات الصلة تلقائيًا".
تُعد هذه السرعة لازمة عند تبني قوانين جديدة. كما توضح مونتغمري قائلة: "عند سن لائحة تنظيمية رئيسية، فمن غير المرجح غالبًا أن تكون لدينا مهلة زمنية تتراوح بين عامين وثلاثة أعوام. قد تصل على الأغلب إلى أربعة أو خمسة أشهر فحسب. وإذا لم يكن لدى شركائنا أو عملائنا نظام إدارة الخصوصية والذكاء الاصطناعي (PIMS) أو أي نظام شبيه يمكن الاعتماد عليه - الأدوات التي توفر إدارة دائمة للمخزون وفهمًا جيدًا للبيانات المستخدمة في جميع أنحاء المؤسسة - فسيواجهون صعوبة في تحقيق الامتثال".
وتابعت قائلة: "ولكن عند العمل مع IBM، يمكننا أن نقدم مستوى من الشفافية يساعد شركاءنا وعملاءنا على بناء الثقة واليقين بأنهم بإمكانهم تبني تقنية الذكاء الاصطناعي هذه في مشروع تلو الآخر وفي الوقت نفسه إدارة المخاطر أو مراقبتها".
يشرف مكتب IBM للخصوصية والتقنيات المسؤولة على وضع وإدارة سياسات IBM العالمية المتعلقة بحماية البيانات الفردية وبيانات الأعمال وسريتها. وبالتعاون مع مجلس أخلاقيات الذكاء الاصطناعي في IBM، يوجه المكتب عمليات الحوكمة وصنع القرارات المتعلقة بسياسات أخلاقيات الذكاء الاصطناعي وممارساتها، ويبني ثقافة المسؤولية والثقة عبر شركة IBM.
قانوني
حقوق النشر © محفوظة لصالح شركة IBM Corporation لعام 2024. IBM Corporation, IBM Consulting, New Orchard Road, Armonk, NY 10504
أُنتج في الولايات المتحدة الأمريكية، مارس 2024.
IBM وشعار IBM وibm.com وIBM Cloud Pak وOpenPagesوwatsonx وwatsonx.governance هي علامات تجارية أو علامات تجارية مسجلة تابعة لشركة International Business Machines Corporation، في الولايات المتحدة و/أو دول أخرى. قد تكون أسماء منتجات وخدمات أخرى علامات تجارية تابعة لشركة IBM أو لشركات أخرى. تتوفر قائمة حالية بعلامات IBM التجارية على ibm.com/legal/copyright-trademark.
يصبح هذا المستند ساريًا بدءًا من تاريخ النشر الأول، ويجوز لشركة IBM تغييره في أي وقت. لا تتوفر بعض العروض في بعض الدول التي تعمل فيها IBM.
تُعرض جميع أمثلة العملاء المنقولة أو المذكورة كإيضاحات للطريقة التي استخدم بها بعض العملاء منتجات IBM، والنتائج التي قد يحققونها. وستختلف التكاليف البيئية الفعلية وخصائص الأداء وفقًا لتكوينات وظروف كل عميل على حدة. ولا يمكن توفير النتائج المتوقعة بشكل عام؛ لأن نتائج كل عميل تعتمد بشكل كامل على أنظمة العميل والخدمات المطلوبة. المعلومات الواردة في هذا المستند تُقدَّم "كما هي" دون أي ضمانات صريحة أو ضمنية، مثل جميع ضمانات الصلاحية التجارية، أو الملاءمة لغرض معين، أو الضمانات والشروط الخاصة بعدم انتهاك حقوق الأطراف الأخرى. تشتمل منتجات IBM على ضمان وفقًا لشروط الاتفاقيات التي تُوفَّر بموجبها وأحكامها.
العميل مسؤول عن ضمان الامتثال لجميع القوانين واللوائح المعمول بها. لا تقدم شركة IBM مشورة قانونية، ولا تتعهد ولا تضمن قدرة خدماتها أو منتجاتها على إلزام العميل بالامتثال لأي قانون أو لائحة.