• صاحب المنشور: رباب بن الطيب
  
  ملخص النقاش:
  تتناول هذه المناقشة قلقاً ناشئاً حول الاعتماد المكثف على الذكاء الاصطناعي، خاصة في قطاع الأمن السيبراني. يبدأ النقاش بتوضيح من "رباب بن الطيب"، الذي يشير إلى أن الثقة المفرطة في الذكاء الاصطناعي قد تؤدي إلى كارثة أكبر مما نواجه حاليًا، وذلك بسبب عدم الشفافية وعدم وجود ضبط أخلاقي عند البشر. يتم التركيز بشكل خاص على التعقيد والغموض المرتبط بخوارزميات الذكاء الاصطناعي، والذي يطرح تساؤلات حول قدرتنا على توقع كيفية تصرف هذه الأنظمة في ظل ظروف معينة.

يجادل "فادي 14_940" بأن تقدم الذكاء الاصطناعي يأتي مصاحبًا بمجموعة من المخاطر يستوجب منها موقفًا جديًا، وخصوصًا عندما يتعلق الأمر بالأمن السيبراني. ويذكر مثال أحداث سابقة where AI systems failed to comprehend the complexity of certain situations, highlighting how excessive trust could lead us into severe consequences without realizing their severity until it's too late. لذلك، يقترح العمل وفق قاعدة الاحتياط والتأكيد دائمًا أن there is a human being responsible behind every click. ليس بالإمكان الاعتماد الكامل على الآلات لاتخاذ قرارات حساسة متعلقة بالحياة والحريات الشخصية.

ويتابع "مسعود الراضي" بإشارة إلى أن الاعتراف بالمخاطر مهم لكن لا ينبغي تجاهل الفوائد الهائلة التي قدمها الذكاء الاصطناعي حتى الآن. واقترح اتباع نهج أكثر توازنًا - الاستفادة من قوة الذكاء الاصطناعي بينما نحافظ أيضا على عمليات تحقق بشرية ومراقبة مستمرة تفاديًا للعواقب المحتملة الخطيرة.

وفي المقابل، تدعم "مها التازي" فكرة الحاجة لحوكمة جيدة ومتابعة دقيقّة لاستخدام تكنولوجيتنا المتقدمة للحفاظ على القيم الإنسانية والأخلاقية الأساسية. تُشدد أيضًا على ضرورة تطبيق نظام لمراجعة القرارات مدعومة بالتكنولوجيا لمنع أي انحرافات كبيرة محتملة.

ويرى "عابدين العروسي" أن التوازن بين استغلال قدرة الذكاء الاصطناعي والإشراف البشري أمراً أساسياً، إلا أنه يشجع كذلك على إجراء مراجع شاملة لنظم الذكاء الاصطناعي منعاً لأي احتمالية لكوارث كارثية. فهو يدفع باتجاه النهجين – التغيير التشريعات وتعزيز دور humans in making critical decisions regarding our lives and freedoms.

في نهاية المطاف، توضح هذه الدائرة من الآراء حاجتنا الملحة لإعادة التفكير في مستوى ثقافتنا الحالي للذكي الاصطناعي وكيف يمكن لهذا النظام الضخم التأثير السلبي إذا تم تركه بدون رقابة مناسبة.