أخبار عاجلة
هذا الأسبوع في العلوم -

خوارزمية ذكاء اصطناعي تجد بديلًا مهذبًا لخطاب الكراهية والكلام البذيء على الإنترنت

خوارزمية ذكاء اصطناعي تجد بديلًا مهذبًا لخطاب الكراهية والكلام البذيء على الإنترنت
خوارزمية ذكاء اصطناعي تجد بديلًا مهذبًا لخطاب الكراهية والكلام البذيء على الإنترنت

عبارة شائعة بين الصحفيين: لا تقرأ التعليقات. إذ تعد أقسام التعليقات على مواقع تويتر وريديت وغيرها من أكثر الأماكن شرًا على الإنترنت، إذ تتطاير الإهانات والانتقادات المدوية كالرصاص بصورة فوضوية. ولذلك، ابتكر مهندسون في آي بي إم خوارزمية ذكاء اصطناعي تحاول تصفية الألفاظ النابية من رسائلنا، وتقترح بدائل أنسب.

ويدرك العلماء الذين ابتكروا هذا الذكاء الاصطناعي احتمال إساءة استخدامه؛ إذ قد تستخدم الحكومات وشركات التقنية خوارزميات مشابهة لمنع الناس من التعبير عن توجهات سياسية أو جمل محددة على الإنترنت. ولهذا ليس مستغربًا تخيل أن تصبح أداة كهذه سلطة مدمرة إذا وقعت في الأيدي الخطأ. لذا، فبدلًا من تغيير اللغة الهجومية، يقترح الباحثون استخدام خوارزميتهم لتقديم تذكيرات لطيفة واقتراحات، كأداة تشبه مايكروسوفت كليبي (مساعد برامج أوفيس)، وتطرح السؤال التالي «هل تريد حقًا أن تخبر هذا الشخص الغريب على موقع ريديت أن يذهب إلى الجحيم ويموت؟» بدلاً من تعديل ما نكتبه تلقائيًا.

ولتقنية كهذه محاسن عدة، فهي تشبه التنفيس عن الغضب أو الابتعاد عن لوحة المفاتيح قبل ضغط زر الإرسال. وبعد التدرب على ملايين المناشير على تويتر وريديت، أصبح هذا الذكاء الاصطناعي فعالًا جدًا في إزالة الكلمات البذيئة والبغيضة، لكنه لم يكن كافيًا لإعادة تكوين الجمل بطريقة مهذبة تحافظ على المعنى. إذ حول كلمات بذيئة كثيرة إلى كلمات لا تناسب السياق، وغير إحدى المشاركات على ريديت من «ما هذه المهزلة الغبية؟!» إلى «ما هذا العرض الكبير؟!»



ولم يدمج الباحثون خوارزميتهم بالإنترنت ليستخدمها المستخدمون أو المواقع ذاتها بعد، إذ ينتظرون تطويرها لتقترح بدائل لغوية أفضل قبل تعميمها.

ويدرك الفريق الذي ابتكر هذه الخوارزمية عيوبها، إذ يقتصر عمل مرشحات الذكاء الاصطناعي هذه على إزالة الإساءات الواضحة على الإنترنت، ولا يمكنها اكتشاف الجمل التي تحض على الكراهية إلا إذا كانت تتضمن كلمات غاضبة أو بذيئة محددة. وإذا كانت اللغة ذاتها عادية وتحتاج إلى سياق لفهمها، فلن تتعرف عليها الخوارزمية.

وستظل الإهانات الضمنية التي لا تحوي كلمات دنيئة دون فلترة. ولن تنفع الأداة في محاربة المضايقات الأخطر على الإنترنت كملاحقة الناس وإزعاجهم أو فضحهم أو تهديدهم. ولن تستطيع هذه الخوارزمية إنهاء ثقافة الإنترنت السامة، لكن هذا الذكاء الاصطناعي الجديد قد يساعدنا في التفكير جديًّا قبل أن نقرر نشر كتابات بغيضة ومؤذية.

اشترك فى النشرة البريدية لتحصل على اهم الاخبار بمجرد نشرها

تابعنا على مواقع التواصل الاجتماعى

التالى طبقة من زيت الطبخ تمنع نمو البكتيريا على معدات تجهيز الطعام