اعتقد فريق Google DeepMind لسنوات أن بناء أدوات ذكاء اصطناعى رائعة وتوليدية يتطلب أيضًا بناء أدوات رائعة لاكتشاف ما تم إنشاؤه بواسطة الذكاء الاصطناعى، فيما يقول ديميس هاسابيس، مسؤول Google DeepMind، أن هناك الكثير من الأسباب الواضحة عالية المخاطر .
وقال "في كل مرة نتحدث عنها وعن الأنظمة الأخرى، يكون السؤال: ماذا عن مشكلة التزييف العميق؟"، ومع اقتراب موسم انتخابي آخر مثير للجدل في عام 2024 في كل من الولايات المتحدة والمملكة المتحدة، يقول هاسابيس إن بناء أنظمة لتحديد صور الذكاء الاصطناعي واكتشافها هو أكثر أهمية في كل وقت.
وعمل هاسابيس وفريقه على هذه الأداة خلال الأعوام القليلة الماضية، والتي ستصدرها جوجل ويطلق عليه اسم SynthID، وهو مصمم لوضع علامة مائية بشكل أساسي على الصورة التي تم إنشاؤها بواسطة الذكاء الاصطناعي بطريقة غير محسوسة للعين البشرية ولكن يمكن التقاطها بسهولة بواسطة أداة كشف مخصصة للذكاء الاصطناعى.
العلامة المائية مدمجة في بكسلات الصورة، لكن هاسابيس يقول إنها لا تغير الصورة نفسها بأي طريقة ملحوظة، ويقول: "إنها لا تغير الصورة، أو جودتها، أو تجربتها". "لكنها قوية بالنسبة للتحولات المختلفة - الاقتصاص، وتغيير الحجم، وكل الأشياء التي قد تفعلها لمحاولة التغلب على العلامات المائية العادية والتقليدية والبسيطة."
ومع تحسن النماذج الأساسية لـ SynthID، كما يقول هاسابيس، ستصبح العلامة المائية أقل وضوحًا بالنسبة للبشر، ولكن سيتم اكتشافها بسهولة أكبر بواسطة أدوات DeepMind، وهذا أمر تقني كما يريد هاسابيس وجوجل ديب مايند أن يكونا في الوقت الحالي حتى منشور مدونة الإطلاق قليل التفاصيل لأن SynthID لا يزال نظامًا جديدًا.
ويقول هاسابيس: "كلما كشفت أكثر عن الطريقة التي تعمل بها، أصبح من الأسهل على المتسللين والكيانات الشريرة الالتفاف عليها"، يتم طرح SynthID أولاً بطريقة تتمحور حول Google: سيتمكن عملاء Google Cloud الذين يستخدمون منصة Vertex AI الخاصة بالشركة ومولد الصور Imagen من تضمين العلامة المائية واكتشافها.
