أحدث الأخبار التقنية، مدعومة برؤى خبراء
ابقَ على اطلاع دائم على أبرز الاتجاهات في مجالات الذكاء الاصطناعي، والأتمتة، والبيانات، وغيرها الكثير من خلال رسالة Think الإخبارية. راجع بيان الخصوصية لشركة IBM.
إن تكامل البيانات في الوقت الفعلي هو الحركة المستمرة ومعالجة البيانات من أنظمة المصدر إلى أنظمة الهدف بحيث تكون المعلومات الجديدة أو المحدثة متاحة بأقل تأخير.
على عكس تكامل الدفعات، الذي يجمع البيانات ويعالجها على فترات مجدولة، يستجيب تكامل البيانات في الوقت الفعلي باستمرار السجلات الواردة، أو تغييرات قاعدة البيانات، أو الأحداث. اعتمادًا على حالة الاستخدام والتقنية، يمكن أن يقتصر التأخير على أجزاء من الميلي ثانية.
يمكن للتكامل اللحظي ربط قواعد البيانات، والتطبيقات، وخدمات السحابة، وأجهزة إنترنت الأشياء (IoT)، وأنظمة CRM ومصادر أخرى بوجهات مختلفة، بما في ذلك التطبيقات التشغيلية، ومستودعات البيانات، وبحيرات البيانات، ومنصات التحليلات وأنظمة الذكاء الاصطناعي (AI).
تستخدم المؤسسات التكامل في الوقت الحقيقي عندما تنخفض قيمة البيانات بسرعة مع تقدمها في العمر. على سبيل المثال، في الكشف عن الغش، أو مراقبة المعدات الصناعية، أو تتبع المخزون، أو الاستجابة لنشاط العملاء أو تزويد تطبيقات الذكاء الاصطناعي والتعلم الآلي بالمعلومات الحالية.
ابقَ على اطلاع دائم على أبرز الاتجاهات في مجالات الذكاء الاصطناعي، والأتمتة، والبيانات، وغيرها الكثير من خلال رسالة Think الإخبارية. راجع بيان الخصوصية لشركة IBM.
يستقبل مسار التكامل في الوقت الفعلي البيانات الجديدة بشكل عام، وينقلها، ويعالجها أو يحولها، ويجعلها متاحة للأنظمة اللاحقة.
يمكن أن تشمل بنية تكامل البيانات في الوقت الحقيقي النموذجية ما يلي:
يمكن لهذه البنية دعم معالجة البيانات والتحليلات الفورية.
لا توجد طريقة واحدة لدمج البيانات في الوقت الفعلي. تشمل تقنيات تكامل البيانات في الوقت الحقيقي الشائعة تدفق البيانات، ورصد تغييرات البيانات، وتكامل التطبيقات، والتكامل المدفوع بالأحداث.
تدفق البيانات ينقل البيانات باستمرار أثناء توليدها، بدلاً من انتظار دفعة مجدولة.
غالبا ما تُستعمل مسارات التدفق للبيانات القياسية الضخمة، وسجلات المعاملات، ومسارات النقرات، وسجلات التطبيقات، وغيرها من المعلومات المتولدة بلا توقف. يمكنها تغذية التطبيقات التشغيلية،و أنظمة ذكاء الأعمال، وتطبيقات الذكاء الاصطناعي، والمنصات التحليلية.
تستخدم أنظمة التدفق غالبًا بنية تعتمد على الأحداث، حيث يقوم المنتجون بنشر الأحداث ويتفاعل معها المستهلكون في المراحل اللاحقة بشكل مستقل.
يستخدم Apache Kafka عادة لتخزين وتوزيع تدفقات الأحداث، بينما يمكن لمحرك Apache Flink ومحركات معالجة التدفق المماثلة تصفية ودمج وإثراء بيانات التدفق أثناء تحركها عبر النظام. ويمكنها أيضًا تتبع المعلومات من الأحداث السابقة، مثل تشغيل الإجماليات أو الأنشطة الحديثة أو الأنماط بمرور الوقت. تجمع منصات مثل IBM Confluent هذه القدرات مع الموصلات المدارة، والحوكمة، وخدمات أخرى لبناء وتشغيل مسارات البث.
تحدد عملية رصد تغييرات البيانات (CDC) التغييرات التي تم إجراؤها على قاعدة البيانات وتجعلها متاحة للأنظمة اللاحقة.
إن عملية CDC ليست هي نفسها عملية تكامل البيانات في الوقت الفعلي. بل تمثل بدلاً من ذلك إحدى الطرق للحصول على بيانات معدلة يمكن أن تصبح مصدرا لمسارات تكامل في الوقت الحقيقي.
على سبيل المثال، يقوم SQL Server بإدراج وتحديث وحذف النشاط من الجداول المتتبعة. يوفر PostgreSQL فك الترميز المنطقي وبروتوكول تكرار يمكنه كشف تغييرات قواعد البيانات لمستهلكي التكرار. يدعم Oracle GoldenGate تقنية CDC للمعاملات وتكرار البيانات عبر أنظمة غير متجانسة.
لأن عملية CDC تنقل التغييرات بدلاً من نسخ مجموعة البيانات بأكملها بشكل متكرر، فإنه يمكنها أن تقلل من كمية المعلومات المنقولة بين الأنظمة المصدر والهدف.
تُستخدم CDC بشكل متكرر لمزامنة قواعد البيانات التشغيلية مع المخازن التحليلية، أو تغذية منصات البث، أو الحفاظ على تحديث منصات بيانات السحابة.
تكامل التطبيقات ينقل المعلومات بين التطبيقات والخدمات.
واجهات برمجة التطبيقات هي آلية شائعة. على سبيل المثال، قد يكشف تطبيق CRM عن واجهة برمجة تطبيقات تسمح لتطبيق آخر بالاسترجاع أو تحديث معلومات العملاء.
يمكن لواجهات برمجة التطبيقات (APIs) دعم التكامل في الوقت الفعلي، ولكن ليس كل تفاعل مع واجهة برمجة التطبيقات يتم في الوقت الفعلي. يعتمد زمن الانتقال على التصميم، وظروف الشبكة، وحدود معدل النقل، وعوامل أخرى.
في البنية القائمة على الأحداث، ينشر المنتِج حدثًا عند حدوث شيء ما، مثل:
يشترك المستهلكون في تلك الأحداث أو يستجيبون لها بطريقة أخرى.
يمكن لتقنيات الرسائل وبث الأحداث فصل المنتجين عن المستهلكين، ما يسمح لأنظمة متعددة بالتفاعل بشكل مستقل مع المعلومات نفسها.
يعامل التكامل في الوقت الحقيقي أحيانا كبديل لخط ETL، لكن المفاهيم تصف جوانب مختلفة من هندسة البيانات.
يرمز ETL إلى "الاستخراج والتحويل والتحميل". يتم استخراج البيانات من الأنظمة المصدر، وتحويلها قبل وصولها وتحميلها إلى نظام مستهدف.
يرمز ETL إلى "الاستخراج والتحويل والتحميل". يتم تحميل البيانات غير منسقة أولاً إلى منصة وجهة وتحويلها هناك.
يمكن لكلا النمطين العمل باستخدام تقنيات معالجة الدفعات أو المعالجة المباشرة. أدوات ETL الحديثة التي تدعم تكامل البيانات في الوقت الحقيقي يمكنها العمل بشكل مستمر أو معالجة تحديثات تدريجية متكررة بدلاً من الاعتماد بالكامل على مهام الدفعات المجدولة.
وبالتالي، في التكامل اللحظي وETL، ليس القرار دائمًًا بين أحدهما. قد تستخدم عملية CDC لاستخراج تغييرات قاعدة البيانات بشكل مستمر، وKafka لنقلها، وKafka لتحويلها ثم تحميلها إلى مستودع. هذا المسار عبارة عن تكامل في الوقت الفعلي وسير عمل على غرار ETL.
ينطبق المبدأ نفسه على ELT: يمكن لمسارات CDC أو التدفق تحميل البيانات باستمرار إلى مستودع السحابة قبل حدوث عمليات التحول.
تعمل المعالجة في الوقت الفعلي ومعالجة الدفعات على تحسين المتطلبات المختلفة.
| الاعتبارات | التكامل في الوقت الفعلي | تكامل مجمّع |
|---|---|---|
| توافر البيانات | مستمر أو شبه مستمر | دوري |
| زمن الانتقال | مللي ثانية، ثوان أو دقائق، حسب المتطلبات | دقائق، ساعات أو أكثر |
| نموذج المعالجة | أحداث أو تغييرات يتم التعامل معها عند وصولها | مجموعات سجلات يتم معالجتها مع بعضها |
| البنية التحتية | تشغيل مستمر للمسارات والمستهلكين | وظائف مجدولة في كثير من الأحيان |
| التعقيد التشغيلي | عادة ما يكون أعلى | عادة ما يكون أقل |
| حسن التوافق | قرارات تشغيلية حساسة للوقت | أعباء عمل يكون فيها التأخير مقبولاً |
| أمثلة | تنبيهات الاحتيال، المخزون الحالي، مراقبة إنترنت الأشياء (IOT) | إعداد التقارير في نهاية اليوم، وإجراء نسخ احتياطية دورية |
تظل معالجة الدفعات مفيدة عندما لا تؤدي السرعة أو الفورية إلى تغيير النتيجة بشكل كبير. كما يمكنها تبسيط العمليات والتحكم في استهلاك الحوسبة لأحمال التشغيل الكبيرة التي لا تحتاج إلى معالجة مستمرة.
تستخدم العديد من المؤسسات كلا النهجين ضمن نفس بنية تكامل البيانات.
يكون التكامل اللحظي هو الأنسب عندما تتأثر قيمة المعلومات بشكل كبير بسرعة توفرها.
قد يكون مناسبًا من الناحية المعمارية، عندما:
تشمل الأمثلة تفويض المدفوعات وكشف الاحتيال، والمراقبة الصناعية، وتتبع اللوجستيات، والتخصيص عبر الإنترنت، وتكامل بيانات الوقت الفعلي لأجهزة إنترنت الأشياء.
قد يقدم التكامل في الوقت الفعلي قيمة أقل عندما لا يؤثر التأخير لعدة دقائق أو ساعات على النتيجة. يمكن أن تكون معالجة الدفعات عمومًا أو معالجة الدفعات الصغيرة أكثر ملاءمة للتقارير الدورية، والتحليل التاريخي، والتحويلات المجدولة الكبيرة، والمطابقة، وغيرها من أحيال العمل التي لا تتطلب تحديثاً مستمراً للبيانات.
في الواقع، غالبا ما تستخدم المؤسسات كلا النهجين. على سبيل المثال، قد تقوم مؤسسة مالية بمعالجة المعاملات في الوقت الفعلي لمراقبة الاحتيال أثناء استخدام الدفعات المجدولة للتسوية وإعداد التقارير التنظيمية.
الهدف ليس تقليل زمن الانتقال في كل مكان، بل مطابقة طريقة التكامل ومتطلبات زمن الانتقال مع عملية العمل.
تعتمد فوائد التكامل على أحمال التشغيل والبنية.
تقلل المسارات المستمرة من الوقت بين إنشاء البيانات وتوافرها في المراحل النهائية. وهذا من شأنه أن يدعم عمليات الرصد والتحليلات وصناعة القرار.
يمكن للتطبيقات الاستجابة للأحداث دون انتظار الدورة التالية من الدفعات. تدعم هذه القدرة تنبيهات الاحتيال، ومراقبة المعدات، وتحديثات المخزون، وسير العمل الآلي.
يوفر التكامل في التحليلات الفورية باستمرار للأنظمة التحليلية معلومات جديدة. يمكن أن تعكس لوحات المعلومات والنماذج والتطبيقات التشغيلية التغييرات الأخيرة بدلاً من الاعتماد بالكامل على لقطات يتم تحديثها بشكل دوري.
يمكن أن تؤدي CDC ومسارات التدفق إلى تقصير الفترات التي تحتوي خلالها الأنظمة المتعددة على إصدارات مختلفة من المعلومات نفسها.
تفيد إحدى فئات تكامل البيانات في الوقت الفعلي العمليات عن طريق أتمتة حركة المعلومات التي قد تتطلب الاستطلاع أو النقل المجدول أو التدخل اليدوي.
يمكن لمعماريات بث الأحداث أن تسمح لعدة مستهلكين باستخدام الأحداث نفسها بشكل مستقل، ما يقلل الحاجة إلى بناء تكامل النقطة إلى النقطة لكل تطبيق في مرحلة الانتقال.
ترتبط تحديات تكامل البيانات في الوقت الحقيقي بتشغيل الأنظمة الموزعة بشكل مستمر والحفاظ على الدقة مع تغير البيانات.
غالبا ما تعمل تطبيقات التدفق بشكل مستمر عبر أنظمة متعددة، مما يعني أن مشاكل في جزء واحد من المسار قد تؤثر على انتقال البيانات إلى الأسفل. تحتاج المؤسسات إلى مراقبة مكونات مثل قوائم الانتظار للرسائل، والموصلات، والمخططات، بالإضافة إلى أخطاء المعالجة وتوفر أنظمة الوجهة، حتى تتمكن من اكتشاف وحل الاضطرابات بسرعة.
توفر مسارات البيانات في الوقت الفعلي وقتًا أقل للمعالجة المسبقة المكثفة قبل استهلاك المعلومات. لذلك يجب دمج التحقق من الصحة وإلغاء البيانات المكررة وإنفاذ المخطط ومعالجة الأخطاء في خط الأنابيب أو تنفيذها في المراحل النهائية.
يجب أن تأخذ أنظمة التدفق الموزع في الحسبان السجلات المكررة أو المتأخرة أو الخارجة عن الطلب.
يمكن أن تؤثر التغييرات في مخططات قواعد البيانات أو تنسيقات الأحداث على المستهلكين النهائيين، لذا فإن إدارة المخططات وسياسات التوافق مهمة.
تتسبب البنية التحتية دائمة التشغيل في استهلاك مرتفع للموارد الحوسبية والسعات التخزينية والشبكية. قد تحتاج المؤسسات إلى تحديد ما إذا كانت قيمة زمن التأخير المنخفض تبرر تلك الموارد لكل حمل عمل.
يمكن أن يؤدي تكرار المعلومات باستمرار إلى زيادة عدد المواقع والتطبيقات التي تظهر فيها البيانات.
لذلك، يجب أن تتبع ضوابط الحوكمة البيانات عبر المسار. عندما يتعلق الأمر بـمعلومات التعريف الشخصية (PII،) يجب على البنى أيضا مراعاة قواعد الخصوصية.
على سبيل المثال، بموجب اللائحة العامة لحماية البيانات (GDPR)، يجب على المؤسسات التي تعالج البيانات الشخصية اتباع مبادئ تشمل تحديد الغرض، وتقليل البيانات، والدقة، وتحديد التخزين. تشمل اللوائح المحدثة لقانون CCPA في كاليفورنيا التي دخلت حيز التنفيذ في عام 2026 أيضا متطلبات تتعلق بحقوق الخصوصية، وتقييمات المخاطر، وتدقيقات الأمن السيبراني.
تجمع منصات تكامل البيانات في الوقت الحقيقي عادة بين عدة قدرات، بما في ذلك الموصلات، والاستيعاب، والرسائل، والتحويل، والمراقبة، وCDC، والتوصيل إلى الأنظمة اللاحقة.
تتضمن أمثلة التقنيات المستخدمة في بنى الوقت الحقيقي ما يلي:
قد تحتاج المؤسسات التي تقيّم أدوات أو برمجيات تكامل البيانات في الوقت الفعلي إلى مراعاة أنظمتها المصدرية، والوجهات، والبيئات السحابية، ومتطلبات إنتاجية البيانات، ومتطلبات زمن التأخير، ونماذج الحوكمة، والموارد الهندسية. تشمل الاعتبارات المهمة الأخرى موصلات البيانات المتاحة للتكامل في الوقت الحقيقي، ودعم CDC، وقدرات التحول، وإدارة المخططات، وقابلية الملاحظة، وضمانات التسليم، وقابلية التوسع، ونموذج النشر والتكامل مع الأنظمة السحابية والمحلية القائمة.
يُعد تكامل البيانات في الوقت الفعلي مفيدًا للعديد من الصناعات والسيناريوهات. بعض حالات الاستخدام الشائعة تشمل ما يلي:
يمكن لتكامل البيانات المالية في الوقت الفعلي الدمج بين بيانات المعاملات والحسابات والسلوك حتى تمكن أنظمة كشف الاحتيال أو المخاطر من تقييم النشاط الجديد فور حدوثه تقريباً.
على سبيل المثال، عندما يستخدم العميل بطاقة ائتمان، قد تقوم مؤسسة مالية بدمج المعاملة الجديدة مع نشاط الحساب الأخير ومعلومات الجهاز ومؤشرات الاحتيال المعروفة. يمكن لنظام كشف الاحتيال بعد ذلك تقييم المعاملة قبل التفويض مباشرة أو بعده. يمكن أن يؤدي ذلك إلى عمليات تحقق إضافية إذا كان النشاط يتطابق مع الأنماط المشبوهة.
يمكن لتكامل البيانات في الوقت الحقيقي للبيع بالتجزئة مزامنة المبيعات والمخزون والتجارة الإلكترونية وبيانات العملاء، بحيث يكون لدى أنظمة التشغيل رؤية أكثر حداثة لمستويات المخزون ونشاط العملاء.
على سبيل المثال، عندما يقوم عميل بشراء القطعة الأخيرة من منتج داخل متجر تقليدي، يمكن لنظام نقطة البيع إنشاء حدث يحدد أنظمة المخزون وتطبيق التجارة الإلكترونية لبائع التجزئة. يمكن أن تقلل هذه الطريقة من فرصة أن يحاول العميل عبر الإنترنت شراء سلعة لم تعد في المخزون.
يمكن لتكامل بيانات الرعاية الصحية في الوقت الحقيقي ربط الأنظمة السريرية والأجهزة الطبية والتطبيقات التشغيلية عندما تتطلب سير العمل في الرعاية أو المراقبة بيانات حديثة. يجب أن تأخذ التطبيقات في الاعتبار متطلبات الخصوصية والأمان وقابلية التشغيل البيني المعمول بها.
على سبيل المثال، قد تدمج مستشفى بيانات من أجهزة مراقبة المرضى الموجودة بجانب السرير مع نظام مراقبة سريري مركزي. ومع تغير مقاييس السلامة، يمكن توفير قراءات محدثة للتطبيقات المعتمدة فورا.
يمكن لأجهزة استشعار والمعدات إنترنت الأشياء (IOT) توليد بيانات الحرارة والاهتزاز واستهلاك الطاقة والتشغيل باستمرار. كما يمكن لبرامج تكامل بيانات المنشأة في الوقت الحقيقي توجيه هذه الإشارات إلى أنظمة المراقبة أو التحليلات أو الصيانة.
على سبيل المثال، قد تنقل أجهزة الاستشعار في آلة التصنيع قراءات الاهتزاز ودرجة الحرارة باستمرار. يمكن لمسار التدفق دمج تلك القراءات مع بيانات تشغيل المعدات وإرسالها إلى تطبيق تحليلات يحدد الحالات المرتبطة بسلوك غير طبيعي للمعدات. يصدر النظام إشعارات صيانة تلقائية عند تجاوز حد القراءات المسموح به أو اكتشاف أنماط غير طبيعية.
يتقاطع الذكاء الاصطناعي وتكامل البيانات في الوقت الفعلي عندما تتطلب أنظمة الذكاء الاصطناعي معلومات عن الظروف السريعة التغير (بدلاً من الاعتماد حصرياً على مجموعات البيانات الثابتة أو المحدثة دورياً).
يمكن لتكامل بيانات الذكاء الاصطناعي في الوقت الحقيقي أن يوفر نماذج تعلم آلي، أو محركات توصية، أو أنظمة استرجاع، أو وكلاء ذكاء اصطناعي بالبيانات الحالية.
على سبيل المثال، قد يحدث تكامل البيانات في الوقت الحقيقي فرقا لتطبيق خدمة عملاء ذكاء اصطناعي يسترجع معلومات الطلب أو الشحنة أو الحساب الحالية من الأنظمة التشغيلية قبل توليد الرد. يمكن أن يساعد التكامل في الوقت الحقيقي في ضمان أن النموذج يعمل مع أحدث بيانات الأعمال المتاحة.
تشمل أفضل الممارسات الشائعة لتكامل البيانات في الوقت الفعلي ما يلي:
بالنسبة للمؤسسات التي تطبق التكامل في الوقت الحقيقي في السحابة، تشمل هذه الممارسات أيضا تقييم عرض النطاق الترددي للشبكة، وتكاليف الخروج، وحدود الخدمات المدارة، والاتصال بين الأنظمة المحلية والسحابة.
نعم. ما إذا كان يمكن التكامل في الوقت الحقيقي هو في الأساس مسألة هندسة ومتطلبات زمن الانتقال. يمكن لمنصات التدفق، ومراكز البيانات، وواجهات برمجة التطبيقات، وأنظمة المراسلة، وغيرها من التقنيات نقل المعلومات باستمرار بين الأنظمة بدلاً من انتظار مهام الدفعات المجدولة.
ومع ذلك، فإن "الوقت الفعلي" لا يعني بالضرورة أنه فوري. يمكن أن يتراوح زمن الانتقال المقبول من ميلي ثانية إلى ثوان أو دقائق حسب التطبيق.
لا تحل المسارات في الوقت الفعلي بالضرورة محل تكامل الدفعات. معظم بيئات البيانات الكبيرة لديها أحمال التشغيل ذات متطلبات زمن الانتقال مختلفة. يمكن للمؤسسة استخدام التكامل في الوقت الحقيقي للعمليات التشغيلية مع الاستمرار في استخدام معالجة الدفعات للتحليل التاريخي، والتسوية، والتقارير الدورية، وأحمال التشغيل الأخرى حيث لا تكون هناك حاجة للتحديثات الفورية.
يعد رصد تغييرات البيانات تقنية لتحديد التغييرات التي تطرأ على البيانات، لا سيما عمليات الإدراج والتحديث والحذف في قواعد البيانات. التكامل البيانات في الوقت الحقيقي هو البنية الأوسع التي تحرِّك وربما تحوِّل المعلومات بين الأنظمة ذات زمن انتقال قصير.
يصف تدفق البيانات الحركة المستمرة أو معالجة البيانات.
يصف تكامل البيانات في الوقت الحقيقي العملية الأوسع لربط مصادر البيانات بالأنظمة المستهدفة بحيث تصبح البيانات متاحة بأقل قدر من التأخير.
يمكن لتكامل البيانات في الوقت الفعلي تزويد تطبيقات الذكاء الاصطناعي وتعلم الآلة بالسياق التشغيلي الحديث.
بالنسبة للتطبيقات التي تتغير فيها المدخلات بسرعة (مثل مراقبة الاحتيال أو التوصيات)، يمكن للبيانات المحدثة باستمرار تقليل الفجوة بين ما يحدث في البيئة المصدرية والمعلومات المتاحة للنموذج.
ينقل تكامل البيانات في الوقت الفعلي لأجهزة إنترنت الأشياء بيانات القياس عن بعد للمستشعرات أو الأجهزة إلى التطبيقات التي يمكنها مراقبة الظروف المتغيرة، أو تحليلها، أو التفاعل معها.
تشمل الأمثلة معدات التصنيع، وأنظمة النقل، والبنية التحتية للطاقة، والمباني المتصلة، والأجهزة الطبية.
نظرًا لأن بيئات إنترنت الأشياء يمكن أن تنتج أعدادًا كبيرة من الأحداث القادمة باستمرار، فإن الأنظمة غالبًا ما تستخدم تقنيات الرسائل أو معالجة التدفق المصممة للإنتاجية العالية.
صمم استراتيجية بيانات تقضي على صوامع البيانات، وتقلل من التعقيدات وتحسّن جودة البيانات للحصول على تجارب استثنائية للعملاء والموظفين.
يتيح لك watsonx.data توسيع نطاق التحليلات والذكاء الاصطناعي باستخدام جميع بياناتك، أينما كانت، من خلال مخزن بيانات مفتوح وهجين ومُدار.
استفِد من قيمة بيانات المؤسسة باستخدام IBM Consulting، من خلال بناء مؤسسة تعتمد على الرؤى التي تقدِّم ميزة للأعمال.
1 "6 نقاط عمياء يجب على قادة التكنولوجيا كشفها"، IBM Institute for Business Value. 20 أغسطس 2024.