«خوارزميات الموت».. ثغرات جوجل وفيسبوك قد تشجع الانتحار في مصر ودول عربية ..كتبت/ داليا فوزى..


كشف تحقيق تليفزيوني عن ثغرات في أنظمة الذكاء الصناعي في موقعي جوجل وفيسبوك، قد تشجع على الانتحار. وأوضح التحقيق أن الموقعين يقدمان خدمات لمكافحة الانتحار في بريطانيا باللغة الانجليزية ولكن الخدمة محدودة أو غير متاحة عند استخدام اللغة العربية أو البحث من مصر ودول عربية.
جاء التحقيق تحت عنوان «خوارزميات الموت» وبثته قناة «الغد» الفضائية وأجرى التحقيق تجربة البحث عن وسائل ومواد الانتحار من بريطانيا ومصر عبر جوجل وفيسبوك باستخدام اللغتين العربية والانجليزية، ليكتشف أن الموقعين يشاركان في جهود منع الانتحار عند البحث باللغة الانجليزية من بريطانيا حيث يعدل الموقعان قائمة النتائج لتظهر على رأسها بيانات الخط الساخن لمكافحة الانتحار كما تظهر نتائج أخرى تكافح الانتحار، أما عند البحث باللغة العربية من مصر يقدم الموقعان معلومات ومقاطع فيديو تشرح طرق الانتحار مما قد يشجع المستخدم على التخلص من حياته.
قدم التحقيق أحمد الشيخ الصحفي المتخصص في المنصات الرقمية، وعضو مجلس الإعلام الجديد في نقابة الصحفيين البريطانية، وقال انه كرر التجربة على مدار ثلاث سنوات وأوضح أن هذه التجربة تسلط الضوء على حاجة المستخدم في مصر والدول العربية إلى أن يلقى نفس الخدمة التي يتلقاها المستخدم في بريطانيا والدول الغربية خاصة وأن الدول العربية تشهد حوادث انتحار وهناك حالة وقعت مؤخرا في مصر وتم تنفيذها وبثها مباشرة عبر فيسبوك.
وخلال التحقيق قام الدكتور محمد عبد المجيد مساعد رئيس جامعة كانتربري لشؤون العلوم والتكنولوجيا والهندسة والرياضيات بإجراء تجارب على خوارزميات البحث باللغة العربية والإنجليزية عبر جوجل واكتشف أن الخوارزميات تقدم الخط الساخن للمساعدة في حالة البحث بضمائر المذكر باللغة العربية ولا تقدم الخدمة في حالة البحث بضمائر المؤنث، كما أنها تعجز أحيانا عن تقديم الدعم باللغة الإنجليزية في حالة استخدام مرادفات أخرى لكلمة
انتحار، وهو ما يشير إلى أن هناك ثغرات في تقنيات الذكاء الصناعي حتى في حالة البحث باللغة الانجليزية.
واستشهد التحقيق بتقرير للكلية الملكية للأطباء النفسيين في بريطانيا الذي طالب شبكات التواصل الاجتماعي بتقديم البيانات التي تمتلكها عن أنشطة المستخدمين لمكافحة الانتحار، واستضاف الطبيبين النفسيين جمال فرويز من مصر ومحمود اللواتي من بريطانيا وأشار الطبيبان إلى ان هناك اجماعا على تأثر مستخدمي الشبكات الاجتماعية بالمواد التي تشجع على الانتحار أو تكافحه.
وعرض التحقيق حادث انتحار الفتاة الانجليزية مولي راسل التي كانت تبلغ من العمر 15 عاما وقالت أسرتها إنها تأثرت بمشاهدة مواد تشجع على الانتحار عبر تطبيق انستجرام وتواجه شركة ميتا المالكة للتطبيق مطالبات رسمية بريطانية بتقديم نسخة من المواد التي شاهدتها راسل قبل انتحارها ومن المقرر أن ينطلق تحقيق قضائي في الحادث لتوضيح مدى مسؤلية التطبيق عن انتحارها.
وأشار تحقيق قناة الغد إلى أن الدول العربية تفتقد إلى القوانين التي تحمي المستخدمين من المحتوى الضار والمواد التي تشجع على الانتحار.
وأجرى التحقيق مقابلة مع الدكتورة أيشيم فانبرج أستاذ القانون بجامعة لندن والتي قدمت شهادة للبرلمان البريطاني بشأن مشروع قانون السلامة الرقمية الذي يبحثه مجلس العموم البريطاني.
وقالت فانبرج إن هناك حاجة لسن قوانين تمنع انتشار المواد التي تشجع على الانتحار عبر الانترنت ولكنها عارضت مشروع القانون المطروح واعتبرت أنه لا يقدم تعريفاً واضحا للمواد الضارة عبر الانترنت وعارضت الفقرة التي تنص على تحريك دعاوى جنائية ضد رؤساء شركات التواصل الاجتماعي وقالت إن القانون من شأنه تشجيع المنصات الاجتماعية على محاربة حرية الرأي .

أحدث أقدم

إعلان أدسنس أول الموضوع

إعلان أدسنس أخر الموضوع