تلتزم IBM بتطوير واستخدام التكنولوجيا بشكل مسؤول.
تحقيق التوازن بين الابتكار والمسؤولية
في IBM، لا تُعَد التكنولوجيا المسؤولة فكرة لاحقة - بل هي الطريقة التي نبتكر بها عن قصد.
يستند نهج IBM في التكنولوجيا المسؤولة إلى مبادئ راسخة ويتم تعزيزه عبر الحوكمة على مستوى المؤسسة، ما يمكِّن من دمج الثقة والشفافية والمساءلة في كيفية تصميم ونشر وحوكمة الذكاء الاصطناعي والتقنيات الناشئة.
Betsy Greytok وFrancesca Rossi
الرئيستان المشاركتان لمجلس التكنولوجيا المسؤولة
كيف تُدير IBM التكنولوجيا بطريقة مسؤولة
رسالة مجلس التكنولوجيا المسؤولة في IBM واضحة: تقديم الحوكمة والمعايير والتطبيق العملي للمبادئ الخاصة بكيفية تطوير ونشر IBM للذكاء الاصطناعي والتقنيات الناشئة مثل الحوسبة الكمّية. يُتيح ذلك لفِرق IBM العمل بثقة وسرعة وتأثيرًا قابلًا للقياس بما يتماشى مع قيم الشركة - لتطوير التكنولوجيا بمسؤولية لصالح العملاء والشركاء والعالم.
إطار عمل التكنولوجيا المسؤولة والحوكمة
يحوِّل إطار التكنولوجيا المسؤولة والحوكمة في IBM المبادئ إلى تطبيق عملي عبر الأفراد والعمليات والتكنولوجيا.
مبادئ الثقة
ركائز الذكاء الاصطناعي الجدير بالثقة
يجب تصميم وتطوير أنظمة الذكاء الاصطناعي بحيث توفِّر تفسيرات واضحة ومستوى كافيًا من قابلية الملاحظة. يجب إتاحة المعلومات المتعلقة بتطويرها للأطراف المعنية ذات الصلة. يجب إخطار المستخدمين عند تفاعلهم مع نظام الذكاء الاصطناعي. يجب تطوير الذكاء الاصطناعي ضمن منظومة ابتكار مفتوحة تدعم التعاون والإبداع المشترك بين مختلف الأطراف المعنية.
يجب أن تعمل أنظمة الذكاء الاصطناعي بعدالة ضمن السياق المخصص لها، سواء في التنبؤ أم تقديم التوصيات أم توليد المحتوى أم تنفيذ المهام. ويجب أن تتوافق سلوكيات هذه الأنظمة مع القيم الإنسانية ذات الصلة، مثل تجنُّب إنتاج محتوى كراهية أو إساءة، أو تنفيذ أفعال ضارة.
يجب أن تكون أنظمة الذكاء الاصطناعي قادرة على التعامل بفاعلية مع الظروف العدائية، مثل الحالات الشاذة في المدخلات أو المخرجات، والسلوك غير المتوقع لأنظمة الذكاء الاصطناعي الأخرى، وتهديدات الأمن الإلكتروني. كما يجب أن تكون دقيقة، سواء في التنبؤ أم تقديم التوصيات أم توليد المحتوى أم تنفيذ المهام.
يجب تصميم وتطوير أنظمة الذكاء الاصطناعي بطريقة تُعطي الأولوية لخصوصية المستهلكين وحقوقهم في البيانات وتحميها، بما في ذلك أثناء التنبؤ أو التوصيات أو المحتوى المُولَّد أو القرارات أو الإجراءات. كما يجب تصميم وتنفيذ أفضل الممارسات للحد من النشر غير المناسب للمعلومات الشخصية، واحترام حقوق الملكية الفكرية وحقوق النشر.
أبعاد التأثير
يجب أن تعمل التكنولوجيا على تعزيز الوكالة البشرية والثقة والرفاهية.
يجب تصميم التكنولوجيا ونشرها واستخدامها بما يعود بالنفع على المجتمع، ويدعم الابتكار الذي يركِّز على الإنسان.
يجب تصميم التكنولوجيا لتكون ذات كفاءة مقصودة، بما يحقق قيمة عالية الأثر على المدى الطويل ونموًا مستدامًا.
الحوكمة باعتبارها العمود الفقري التشغيلي
تُعَد الحوكمة العمود الفقري التشغيلي لإطار التكنولوجيا والحوكمة المسؤولة من IBM، حيث تعمل على ترجمة المبادئ والركائز وأبعاد الأثر إلى ممارسات قابلة للتنفيذ.
يتم تشغيل الإطار عبر برنامج الحوكمة المتكاملة الخاص بـ IBM (Integrated Governance Program - IGP)، ومبادرات التعليم مثل IBM SkillsBuild، والتقنيات المفتوحة بما في ذلك Granite Guardian، بالإضافة إلى أدوات مفتوحة المصدر مثل AI Fairness 360 وAdversarial Robustness Toolbox، وكذلك القدرات المدمجة في المنتجات مثل IBM® watsonx.governance. تدعم عروض استراتيجية وحوكمة الذكاء الاصطناعي من IBM Consulting المؤسسات في تطبيق ممارسات الذكاء الاصطناعي المسؤول، إلى جانب التعاون مع شركاء السياسات والمعايير والبحث ضمن منظومة التكنولوجيا المسؤولة.
- أطلس المخاطر
- أفضل ممارسات المجلس
أطلس المخاطر
ساعد أطلس المخاطر التابع لمجلس التكنولوجيا المسؤولة في IBM، والذي أصبح الآن جزءًا أساسيًا من watsonx.governance، في قيادة تطورات IBM Research في حوكمة الذكاء الاصطناعي، ما أدى إلى ترسيخ مكانة IBM كشركة رائدة في هذا المجال.
أفضل ممارسات المجلس
يعمل مجلس IBM Responsible Technology Board على تطوير الرؤى وأفضل الممارسات والإرشادات القابلة للتنفيذ، بهدف مساعدة IBM والصناعة والعالم على استكشاف الفرص والتحديات التي يطرحها الذكاء الاصطناعي والتقنيات الناشئة والتعامل معها.
المسؤولية في التطبيق العملي
تعكس منهجية IBM في مجال التكنولوجيا المسؤولة التزامًا على مستوى الشركة بالثقة والمسؤولية وتحقيق قيمة طويلة الأمد، مدعومًا بممارسات الحوكمة التي توجِّه طريقة عملنا.
الأعمال المسؤولة
الشفافية في ممارسات الأعمال المسؤولة لدينا.
الأمان الكمّي
تأمين العالم الرقمي لعصر الحوسبة الكمّية.
