التقدير القائم على الانتروبيا للانحدار اللوجستي متعدد المتغيرات: نهج نيوتن-رافسون

الملخص

يقدّم هذا البحث نموذجًا جديدًا للانحدار اللوجستي المقيد بالإنتروبيا بهدف تحسين تحليل البيانات الفئوية. تم تطوير طريقة تقدير تعتمد على خوارزمية نيوتن–رافسون باستخدام إنتروبيا شانون كقيد تنظيمي لمعالجة مشكلات تقدير الإمكان الأعظم (MLE)، خصوصًا في حالات العينات الصغيرة أو البيانات غير الدقيقة. أُجريت محاكاة مونت كارلو بعدد 5000 تكرار لتقييم كفاءة الطريقة المقترحة، وأظهرت النتائج أن المُقدّر القائم على الإنتروبيا يُحقق انخفاضًا ملحوظًا في متوسط مربع الخطأ تراوح بين 56% و60% مقارنةً بتقدير الإمكان الأعظم، إضافةً إلى تمتّعه بمرونة أعلى تجاه القيم الشاذة. فعند نسبة تلوث بلغت 10%، ارتفع متوسط مربع الخطأ بنسبة 18.7% للمقدّر المقترح مقابل 65.1% لتقدير الإمكان الأعظم. يُفسَّر هذا التحسن نظريًا بتأثير تنظيم الإنتروبيا في تقليص دالة التأثير، مما يعزز الاستقرار العددي ويحدّ من تأثير القيم الشاذة على دقة التقدير. كما طُبّق النموذج على بيانات حقيقية شملت 847 مقترضًا من ثلاثة مصارف تابعة لمصرف الرافدين في محافظة كربلاء المقدسة لغرض التنبؤ بنوع المصرف، حيث بلغت دقة التنبؤ 64% مع انخفاض الخطأ المعياري بنسبة 27% مقارنةً بطريقة الإمكان الأعظم، مما يؤكد كفاءة الخوارزمية المحسّنة في التقدير والتنبؤ.