يعد تقليل العينات طريقة فعالة لمعالجة حالات عدم التوازن داخل مجموعة البيانات. ويتم تعريف مجموعة البيانات غير المتوازنة على أنها مجموعة بيانات تكون فيها إحدى الفئات ممثلة تمثيلاً ناقصًا إلى حد كبير في مجموعة البيانات مقارنة بالمجموعة الحقيقية، مما يؤدي إلى حدوث تحيز غير مقصود. على سبيل المثال، تخيل أن هناك نموذجًا تم تدريبه على تصنيف الصور على أنها تعرض قطة أو كلبًا. وكانت مجموعة البيانات المستخدمة مكونة من قطط بنسبة 90% وكلاب بنسبة 10%. سنلاحظ في هذا السيناريو أن القطط ممثلة تمثيلاً زائدًا، فإذا كان لدينا مصنِّف يتنبأ بالقطط في كل مرة، فسوف يعطي دقة بنسبة 90% لتصنيف القطط، وسيعطي دقة بنسبة 0% لتصنيف الكلاب. وستؤدي مجموعة البيانات غير المتوازنة في هذه الحالة إلى جعل المصنِّفين يحابون الدقة لفئة الأغلبية على حساب فئة الأقلية. وقد تنشأ نفس المشكلة مع مجموعات البيانات متعددة الفئات.¹

تفيد عملية تقليل العينات في مواجهة مشكلة مجموعة البيانات غير المتوازنة. حيث إنها تحدد نقاط فئة الأغلبية المراد إزالتها بناءً على معايير محددة. ويمكن أن تتغير هذه المعايير باستخدام أسلوب تقليل العينات المختار. ويؤدي ذلك إلى موازنة مجموعة البيانات عن طريق تقليل عدد العينات بشكل فعال لكل فئة أغلبية ممثلة تمثيلاً زائدًا عن الحد، حتى تحتوي مجموعة البيانات على نسبة متساوية من النقاط في كل الفئات.

في حين أنه يمكن رؤية حالات عدم التوازن ببساطة عن طريق رسم عدد نقاط البيانات في كل فئة، إلا أن ذلك لا يفيدنا في معرفة إذا ما كان سيؤثر بدرجة كبير على النموذج أم لا. ولحسن الحظ، يمكننا استخدام مقاييس الأداء لقياس مدى نجاح أسلوب تقليل العينات في تصحيح عدم توازن الفئات. ومعظم هذه المقاييس مخصصة للتصنيف الثنائي، حيث توجد فئتان فقط: إيجابية وسلبية. وتكون الطبقة الإيجابية في الغالب هي فئة الأقلية بينما الطبقة السلبية تكون فئة الأغلبية. وهناك مقياسان شائعان هما منحنيات خصائص تشغيل المستقبل (ROC) ومنحنيات الاسترجاع الدقيق.¹

• متطلبات تخزين أقل: حينما يكلفنا التخزين كثيرًا من المال، في حالة التخزين السحابي مثلاً، حينئذ يفضل أن نختار تقليل العينات بدلاً من زيادة العينات لتجنب زيادة التكاليف.²
  
• تدريب أسرع: يؤدي تقليل حجم البيانات إلى تقليص حجم مجموعات البيانات مما يجعل التدريب أقل كثافة على وحدة المعالجة المركزية أو وحدة معالجة الرسومات، وهو ما يعد أكثر ملاءمة من الناحية الاقتصادية والبيئية.
• أقل عرضة لفرط التخصيص: تؤدي زيادة العينات إلى توليد بيانات جديدة من بيانات قديمة، مما يتسبب في فرط تخصيص النماذج بالبيانات المقدَّمة. أما تقليل العينات، فهو العكس (أي: يحذف البيانات)، ولا تظهر فيه هذه المشكلة.²

• فقدان المعلومات: قد يؤدي حذف النقاط من فئة الأغلبية إلى فقدان معلومات مهمة. وقد يمثل هذا مشكلة حين يلزم أن يكون تصنيف فئة الأغلبية دقيقًا. هناك مشكلة أخرى؛ إذا أصبحت مجموعة البيانات صغيرة جدًا بحيث لا يمكن للنموذج التدريب عليها.²
  
• التحيز الحادث: قد تكون نقاط عينة فئة الأغلبية المتبقية عبارة عن مجموعة متحيزة من البيانات الأصلية، مما يؤثر سلبًا على أداء المصنِّف.

يعتبر تقليل العينات العشوائي أسلوب حذف حيث يتم اختيار نقاط عشوائية في فئة الأغلبية دون استبدال ثم يتم حذفها من مجموعة البيانات حتى يصبح حجم فئة الأغلبية مساويًا لحجم فئة الأقلية. وهذه طريقة سهلة لحذف مجموعة فرعية من البيانات بشكل عشوائي لأغراض الموازنة. لكن قد تتسبب هذه الطريقة في اختفاء أنماط أو توزيعات مهمة في فئة الأغلبية، مما يؤثر سلبًا على أداء المصنِّف.²

يعد تقليل العينات بخوارزمية Near Miss أسلوبًا يهدف إلى تحقيق التوازن في توزيع الفئات عن طريق الإزالة العشوائية لعينات محددة من فئة الأغلبية.

من الناحية النظرية، تعمل خوارزمية Near Miss بمبدأ ضرورة الاحتفاظ بالبيانات في الأماكن التي تكون فيها فئات الأغلبية والأقليات متقاربة جدًا، حيث توفر لنا هذه الأماكن معلومات أساسية عند التمييز بين الفئتين.³ تُعرف هذه النقاط عمومًا بأنها نقاط بيانات يصعب تعلمها. وعمومًا يعمل تقليل العينات باستخدام خوارزمية Near Miss على خطوتين:

• الخطوة 1: احسب المسافة الزوجية بين جميع مثيلات فئة الأغلبية والأقليات.
• الخطوة 2: استنادًا إلى المسافات المحسوبة، قم بإزالة مثيلات فئة الأغلبية البعيدة عن نقاط الأقلية.

توجد ثلاثة أشكال مختلفة من خوارزمية Near Miss وتوفر طريقة أكثر تحديدًا لاختيار مثيلات فئة الأغلبية لإزالتها.

• الإصدار 1: يحتفظ هذا الإصدار بأغلبية مثيلات الفئة ذات أصغر مسافة متوسطة إلى مثيلات فئة أقلية N الأقرب الخاصة بها. ومن الممكن أن تكون البيانات الناتجة غير موزَّعة بالتساوي، حيث تكون بعض نقاط فئة الأغلبية قريبة من العديد من نقاط الفئة الأقلية ويكون البعض الآخر قريبًا من عدد قليل جدًا، مما يتسبب في انخفاض الدقة والاستدعاء.⁴

• الإصدار 2: يحتفظ هذا الإصدار من تقليل العينات باستخدام خوارزمية Near Miss بمثيلات فئة الأغلبية ذات أصغر متوسط مسافة إلى مثيلات فئة أقلية N الأبعد الخاصة بها. وعلى عكس الإصدار الأول، ينشئ هذا الإصدار توزيعًا أكثر توازنًا لفئة الأغلبية، مما يؤدي إلى نتائج أفضل واردة من المصنِّف⁴

• الإصدار 3: يحتفظ هذا الإصدار بأقرب عينات فئة الأغلبية لمثيلات فئة الأقلية الأقرب إلى فئة الأغلبية. ويعمل على خطوتين. أولاً، يتم الاحتفاظ بأقرب جيران من فئة الأغلبية M لكل مثيل من فئة الأقلية. ثم بعد ذلك، من بين مثيلات فئة الأغلبية المتبقية، يتم تحديد المثيلات التي لديها أكبر متوسط مسافة ويتم الاحتفاظ بها. ولأن هذا الإصدار يحتفظ بمثيلات فئة الأغلبية القريبة من العديد من مثيلات فئة الأقلية، فسوف يتمتع بدقة عالية لكن الاستدعاء سيكون منخفضًا.⁴

يتميز أسلوب الجار الأقرب المكثف (اختصاره الإنجليزي CNN، وينبغي عدم الخلط بينه وبين الشبكات العصبية التلافيفية) بأنه يحاول العثور على مجموعة فرعية من مجموعة البيانات التي يمكن استخدامها للتدريب دون خسارة في أداء النموذج. ويتم تحقيق ذلك من خلال تحديد مجموعة فرعية من البيانات التي يمكن استخدامها لتدريب نموذج يتنبأ بشكل صحيح بمجموعة البيانات بأكملها.

يمكن تقسيم عملية تقليل العينات بأسلوب الجار الأقرب المكثف إلى الخطوات التالية:⁵

1. يمكنك إنشاء مجموعة بيانات جديدة، S، تحتوي على كافة مثيلات فئة الأقلية ومثيل واحد يتم اختياره عشوائيًا لفئة الأغلبية.
2. ويمكن تدريب مصنِّف 1-NN على مجموعة البيانات الجديدة S.
3. ولكل نقاط بيانات فئة الأغلبية التي لا توجد في S، استخدم مصنِّف 1-NN للتنبؤ بتسميتها. أما إذا كان المصنِّف 1-NN يتنبأ بالتسمية بشكل صحيح، فتجاهل النقطة. وإلا فأضفها إلى S.

على نحو مماثل لخوارزمية Near Miss، تزيل هذه العملية بشكل أساسي جميع مثيلات فئة الأغلبية البعيدة عن حدود القرار، والتي كما سبق ووضحنا تعد نقاطًا يسهل تصنيفها. كما أنها تضمن إمكانية التنبؤ بكل البيانات الموجودة في مجموعة بياناتنا الأصلية بشكل صحيح باستخدام البيانات الموجودة داخل S فقط. وبهذه الطريقة، يمكن انكماش مجموعة البيانات بدرجة كبيرة مع الحفاظ على حدود القرار بشكل معقول.

تعرض هذه الصورة مثالاً لتطبيق أقرب جيران مكثفين باستخدام عدد 1 من أقرب جيران وعدد 21 من أقرب جيران إلى مجموعتين من مجموعات البيانات. والصورتان العلويتان قبل تطبيق أقرب الجيران المكثفين بينما الصورتان السفليتان بعد ذلك. وكما هو واضح، فإن حدود القرار محفوظة بشكل جيد إلى حد معقول.

الافتراض الأساسي الذي يتبعه تقليل العينات بطريقة Tomek Link هو تقليل التشويش في البيانات عن طريق إزالة النقاط القريبة من حدود القرار وزيادة الفصل بين الفئات. وتتمثل كيفية عمل هذه الطريقة في أنها تحدد "روابط توميك" (Tomek Links)؛ وهي عبارة عن تجميع نقطتين من فئتين مختلفتين دون وجود نقطة ثالثة أقرب إلى أي منهما.²

وفي جميع "روابط توميك"، يتم حذف النقطة الموجودة ضمن فئة الأغلبية. وعن طريق إزالة نقطة فئة الأغلبية القريبة من نقطة فئة الأقلية، يزداد الفصل بين الفئات. وأحد عيوب هذه الطريقة هو التعقيد الحسابي لحساب جميع المسافات الزوجية بين نقاط فئة الأغلبية والأقلية.² وتظهر فاعلية تقليل العينات بطريقة Tomek Link بشكل أكبر عند دمجها مع طرق أخرى.

تقليل العينات بطريقة أقرب الجيران المحرَّرة (ENN) يشبه تقليل العينات بطريقة Tomek Link، حيث الهدف هو إزالة الأمثلة القريبة من حدود القرار من أجل زيادة الفصل بين الفئات. وبشكل عام، تقوم هذه الطريقة بإزالة نقاط البيانات التي تختلف في فئتها عن غالبية النقاط المجاورة لها.² وهذا يعني أن تلك العملية تزيل نقاط بيانات فئة الأغلبية حيث تنتمي أغلبية أقرب جيرانها إلى فئة الأقلية، والعكس صحيح. ويمكن تعريف الأغلبية في هذا السياق بحرية: فقد يعني ذلك أن جارًا واحدًا على الأقل ينتمي إلى فئة مختلفة أو أن نسبة الجيران في فئة مختلفة تتجاوز حدًا معينًا.

وعادةً ما يتم إجراء تقليل العينات بطريقة أقرب الجيران المحرَّرة (ENN) مع أقرب 3 جيران، كما هو موضح أدناه.

وهذه الطريقة تعد استراتيجية مبسَّطة بشكل أكبر لأنها تنظر إلى المناطق المجاورة العامة للنقاط بدلاً من النظر إلى جار واحد، لكنها طريقة فعالة للتخلص من التشوش داخل البيانات. ويكون تقليل العينات بطريقة أقرب الجيران المحرَّرة (ENN) أكثر فاعلية عندما يقترن بطرق أخرى.