كشفت دراسة أجراها مزود التحقق Sumsub فى مايو وهي إحدى المنصات العالمية المتخصصة في مجال التحقق الكامل من الهوية وتعمل على تأمين رحلة المستخدم بأكملها، أن عمليات الاحتيال باستخدام مقاطع فيديو مزيفة زادت بنسبة 245% على مستوى العالم بين عامي 2023 و2024، مع زيادة بنسبة 303% فى الولايات المتحدة على وجه التحديد.
وارتفعت عدد عمليات الاحتيال عبر الإنترنت باستخدام مقاطع الفيديو المزيفة والتى تم إنشاؤها بواسطة الذكاء الاصطناعي، ففي فبراير على سبيل المثال تم خداع ممول مقيم في هونج كونج لتحويل 25 مليون دولار إلى محتالين انتحلوا صفة المدير المالي للشركة خلال مكالمة فيديو.
وهنا ستبدأ شبكات التواصل الاجتماعى فى اتخاذ إجراءات جديدة من خلال وضع علامات على الصور التى تم إنشائها بالذكاء الاصطناعى خلال الشهور المقبلة ومنها جوجل ستقوم الشركة بوضع علامة على هذة الصور وسيتم تطبيقها على البحث و Google Lens وميزات دائرة البحث في نظام التشغيل Android .
كما تطبق جوجل التكنولوجيا على خدماتها الإعلانية وتفكر في إضافة علامة مماثلة لمقاطع فيديو يوتيوب، ولكن "ستكون هناك المزيد من التحديثات حول ذلك في وقت لاحق من العام.
كما انضمت عدد من الشركات الكبرى في الصناعة إلى C2PA وهو تحالف منشأ المحتوى وأصالته يعمل على معالجة انتشار المعلومات المضللة عبر الإنترنت من خلال تطوير المعايير الفنية اللازمة لإصدار شهادات المصدر وتاريخ المحتوى الإعلامى، ومنها Amazon وMicrosoft وOpenAI وAdobe.
كما رفض عدد قليل من مطورى أدوات جيل الذكاء الاصطناعى البارزين تبنى المعيار، مثل Black Forrest Labs، التي تصنع نموذج Flux الذي يستخدمه Grok لتوليد الصور.
وفى مايو، قال ديفيد فيرمان، كبير مسؤولي المعلومات ورئيس مسؤولي الأمن في منطقة آسيا والمحيط الهادئ في شركة نتسكوب لشبكة سي إن بي سي : "لقد أدى الوصول العام إلى هذه الخدمات إلى خفض حاجز الدخول أمام مجرمي الإنترنت ، ولم يعد من الضروري أن يمتلكوا مجموعات خاصة من المهارات التكنولوجية".
