• صاحب المنشور: جواد المهدي
  
  ملخص النقاش:
  يتناول هذا الحوار القضايا الأخلاقية المرتبطة باستخدام الذكاء الاصطناعي في قطاع التعليم، خاصة فيما يتعلق بعدالة الوصول. جميع المشاركين - وهم طه الدين بن عبد الكريم، شيماء بناني، وسهيلة بن شماس - يؤكدون على أهمية مراعاة العدالة الاجتماعية عند تطوير واستخدام أنظمة الذكاء الاصطناعي.

\u200b

يجادل طه الدين بن عبد الكريم بأن التحيُّز داخل الخوارزميات ليس مجرّد احتمالية بل حقيقة ثابتة. فهو يرى أن الخطر يكمن في كيفية تكرار هذه الأنظمة للمتحيزات الإنسانية، وهو تهديد مباشر للعدالة. لذلك يدعو إلى تطبيق إجراءات مراقبة صارمة وإنشاء ثقافة مفتوحة ومباشرة تناقش المخاطر المحتملة.

وتوافق شيماء بناني, لكنها تضيف أنّ الرصد الدوري والمراجعات المنتظمة ضرورية أيضًا لأجل احتواء أي تشويهات محتملة. ومع ذلك، فهي تقترح أيضًا حاجتنا لبناء المنطق العادل في أساس هذه الأنظمة منذ بداية تطويرها، عوضًا عن الوثوق حصراً بكفاءة البشر في ضبط المسارات لاحقاً.

ومن جانبها، ترى سهيلة بن شماس أن هناك تحديين رئيسيين: الأول هو إدراك أن البشر الذين يقومون برسم السياسات وتصميم العمليات يمكن أن يكون لديهم انحيازات شخصية تؤثر على البرنامج نفسه؛ والثاني هو الاعتراف بأنه مهما بلغت دقة عمليات التدقيق والإصلاح، فقد تبقى بعض مظاهر التعصب مستترة وغير مرصودة. لهذا السبب تدعو للسعي نحو خلق منهج أكثر شمولاً حيث يعتبر العنصر الرئيسي للتعامل العادل جزءاً أصيلاً ومتكاملاً من النظام الأصيل للذكاء الإصطناعي بمجمله.

وفي النهاية، يبدو الاتفاق واضحا بين كافة المشاركين حول قضيتين مركزيتين: ضرورة رفع مستوى الانتباه للأخطار الناجمة عن تأثيرات المتحيزات داخل الخوارزميات وكذا الجهود المبذولة لإدخال مفاهيم العدالة الاجتماعية كتوجه أساسي ضمن الهيكل الأساسي لأنظمة الذكاء الاصطناعي.