نشر انستجرام تقنية التعلم الآلي في تطبيقه في أوروبا، التي يمكنها تحديد محتوى الانتحار وإيذاء النفس بشكل أفضل، حيث تبحث أداة الكشف عن المحتوى من منصة التواصل الاجتماعي المملوكة لشركة فيس بوك تلقائيا عن الصور والكلمات المتعلقة بالانتحار على المنصة.
وفقا لما ذكرته صحيفة "ديلى ميل" البريطانية، تجعل المنصة هذا المحتوى أقل وضوحًا في التطبيق أو في بعض الحالات تزيله تمامًا بعد 24 ساعة إذا قرر التعلم الآلي أنه يخالف قواعد التطبيق.
وهذه التكنولوجيا، التي ستعمل عبر كل من انستجرام وفيس بوك، كانت موجودة بالفعل للمستخدمين خارج أوروبا قبل اليوم، إلا أن وجود مشكلة تتعلق باللائحة العامة لحماية البيانات (GDPR)، يعني أن المستخدمين الأوروبيين لا يزالون غير قادرين على الحصول على الإصدار الكامل من الأداة.
يأتي الإطلاق بعد انتحار فتاة في مدرسة لندن تبلغ من العمر 14 عامًا "مولي راسل"، والتي شاهدت محتوى انستجرام المرتبط بالقلق والاكتئاب وإيذاء النفس والانتحار قبل إنهاء حياتها في نوفمبر 2017.
تتعرض منصات وسائل التواصل الاجتماعي لضغوط متزايدة لإزالة المحتوى الذي يمكن أن يمجد إيذاء النفس بأسرع ما يمكن، بدلاً من الاعتماد على بلاغات المستخدمين.
هناك مشكلة متأصلة في خوارزميات انستجرام، وهي أن المستخدمين يتم توجيههم إلى مجموعة من المنشورات المتعلقة بمنشور واحد شاهدوه.
كما يرى المستخدم الذي يُظهر اهتمامًا بلاعب كرة قدم معين من خلال الضغط على منشوراته المزيد من المنشورات المتعلقة بكرة القدم، ولكن في حالة المحتوى المؤذي يمكن أن ينتهي الأمر بإيذاء النفس، أو المنشورات المتعلقة بالانتحار بتأثيرات سلبية جدا على المستخدم.
ويمكن لفريق من المراجعين البشريين توصيل مستخدم انستجرام الذي ينشر المحتوى بالمنظمات المحلية التي يمكنها المساعدة أو في الحالات الشديدة، الاتصال بخدمات الطوارئ، لكن انستجرام أخبر وكالة الأنباء التابعة لجمعية الصحافة البريطانية، أن هذا الجزء من الأداة غير متاح كجزء من طرحها اليوم بسبب اعتبارات خصوصية البيانات المرتبطة باللائحة العامة لحماية البيانات.
