كشفت مؤسسة مراقبة الإنترنت (IWF)، وهي منظمة لمكافحة المواد الإباحية عن الأطفال ومقرها المملكة المتحدة، عن اتجاه مثير للقلق فيما يتعلق بمواد الاعتداء الجنسي على الأطفال التي ينتجها الذكاء الاصطناعي (AI CSAM)، أو ما يسمى بالتزييف العميق للذكاء الاصطناعي.
ويقول تقرير يوليو 2024، الذي نُشر يوم الاثنين، إن مثل هذا المحتوى يتم إنتاجه "بمعدل مخيف"، بين مارس وأبريل 2024، اكتشف الباحثون تسعة مقاطع فيديو جديدة مزيفة بعمق لإساءة معاملة الأطفال على منتدى الويب المظلم، والتي لم تكن موجودة في تحقيق سابق بتاريخ أكتوبر 2023.
وعلاوة على ذلك، وجدت الدراسة أيضًا أكثر من 12000 صورة جديدة تم إنشاؤها بواسطة الذكاء الاصطناعي تم نشرها في شهر واحد، مع أكثر من 3500 صورة تعتبر إجرامية وتصور إساءة معاملة شديدة، تتيح هذه التكنولوجيا، وخاصة نماذج LoRA، للمجرمين إنشاء صور واقعية للغاية للضحايا المزيفين والحقيقيين.
وجاء في التقرير أن أداة إنشاء صور الذكاء الاصطناعي لأوليفيا تظل قانونية في المملكة المتحدة "لسوء الحظ، فإن تشريعات المملكة المتحدة تتخلف عن التقدم في تكنولوجيا الذكاء الاصطناعي، في حين أن AI CSAM غير قانوني، ويمكن لـ IWF اتخاذ خطوات لإزالته، فإن الأمر نفسه لا ينطبق على نماذج الذكاء الاصطناعي التي يتم ضبطها بدقة على صور الاعتداء الجنسي على الأطفال".
ووجد تقرير أكتوبر السابق 2023 أكثر من 20200 صورة اعتداء جنسي على الأطفال تم إنشاؤها بواسطة الذكاء الاصطناعي وتم نشرها على منتدى الويب المظلم في شهر واحد، ومن بين هذه الصور، تم تقييم أكثر من 11,100 صورة، وتم تصنيف أكثر من 2,500 صورة على أنها صور زائفة إجرامية ونحو 400 صورة محظورة.
يعمل IFW في المملكة المتحدة منذ ما يقرب من ثلاثة عقود، في سبتمبر 2022، أطلقت IFW & Pornhub برنامج الدردشة الآلي "reThink" لردع المستخدمين الذين يبحثون عن مواد الاعتداء الجنسي على الأطفال، وإشراك أكثر من 173000 مستخدم في شهره الأول وتوجيههم إلى خدمات الدعم.
وجاء التقرير نفسه وسط الجدل الأخير الذي أثارته شركة Apple بشأن عدم الإبلاغ عن الاعتداءات الجنسية على الأطفال على منصاتها، مقارنة بعمالقة التكنولوجيا الآخرين مثل Meta وGoogle.
وتقول الجمعية الوطنية لمنع القسوة على الأطفال في المملكة المتحدة (NSPCC) إن خدمات iCloud وiMessage وFacetime التابعة لشركة Apple كانت متورطة في حالات الاعتداء الجنسي على الأطفال في إنجلترا وويلز أكثر مما أبلغت عنه شركة التكنولوجيا العملاقة على مستوى العالم، كانت لدى شركة Apple خطط لدمج الذكاء الاصطناعي للبحث عن مثل هذا المحتوى على iCloud، ولكن بسبب مخاوف الخصوصية المتعلقة بجمع البيانات، تم التخلي عن الخطة.
