رغم تحسن إمكانيات الذكاء الاصطناعى على موقع فيس بوك فى اكتشاف الانتقام الجنسى، إلا أن الشركة لا تزال تعانى من مشكلة عندما يتعلق الأمر بمعاملة الضحايا، إذ كشف تقرير لموقع "ديلى دوت" البريطانية أن الشركة لا تخطط لإخطار الضحايا إذا تمت مشاركة صورة حميمة لهم على الموقع، بدلاً من ذلك تتم مراجعة الصور المسيئة وإزالتها من قبل فريق مدربين خصيصًا من موظفى فيس بوك، دون إخطار الضحية.
بدأ فيس بوك استخدام تقنية مطابقة الصور لقمع الانتقام الإباحى فى عام 2017، بعد أن اكتشف مراجعوه حالات من الانتقام الإباحى على الموقع، وقاموا بتصنيفها بعلامة خاصة أو"بصمة رقمية"، للتأكد من عدم إمكانية مشاركتها مرة أخرى، على حد قول متحدث باسم فيس بوك لصحيفة ديلى دوت.
وفى مارس من نفس العام، أطلق فيس بوك أدوات جديدة للتعلم الآلى للكشف عن الصور ومقاطع الفيديو الحميمة المنشورة دون موافقة المستخدم، وبمجرد وضع علامة على الصور، يتم إرسالها إلى المشرفين لمزيد من المراجعة.
كتب Antigone Davis ، رئيس السلامة العالمية فى فيس بوك بمنشور بالمدونة معلنا عن الأدوات الجديدة: "باستخدام التعلم الآلى والذكاء الاصطناعى، يمكننا الآن اكتشاف الصورأومقاطع الفيديو القريبة التى يتم مشاركتها دون إذن على فيس بوك و انستجرام، هذا يعنى أنه يمكننا العثور على هذا المحتوى قبل الإبلاغ عنه، هو أمر مهم لسببين: غالبًا ما يخشى الضحايا من الانتقام، لذلك يترددون فى الإبلاغ عن المحتوى بأنفسهم أو أنهم غير مدركين لمشاركة المحتوى."
تعتمد هذه الميزات على برنامج تجريبى سابق، تم إطلاقه فى عام 2018، حيث بدأ فيس بوك فى السماح للمستخدمين بإرسال الصور العارية التى يخشون أن يتم نشرها على الملأ.
