تُستخدم روبوتات الدردشة بالذكاء الاصطناعي لإنشاء قصص إخبارية هى ما يطلق عليها "مزارع المحتوى " أى "كتابه الموضوعات المتنوعة للمواقع عبر الإنترنت بطريقة "جذب هزيلة" لجذب الإعلانات من النقرات الضالة لمستخدمي الويب.
ظل الخبراء يحذرون منذ سنوات من أن مزارع المحتوى "كتابة الموضوعات المتنوعة للمواقع" التي تم إنشاؤها بواسطة الذكاء الاصطناعي ستصبح قريبًا أمرًا شائعًا، مثل ChatGPT من OpenAI جعل هذه التحذيرات حقيقة واقعة، حيث سلطت NewsGuard وهي منظمة هادفة للربح تقيم مصداقية المواقع الإخبارية، حيث انها ألقت الضوء على المشكلة في تقرير حديث له يحدد 49 موقعًا "يبدو أنها مكتوبة بالكامل تقريبًا بواسطة برامج ذكاء اصطناعي".هذا ما تم نشره على موقع The Verge
قال NewsGuard إنمواقع الويب التي غالبًا ما تفشل في الكشف عن الملكية أو السيطرة" المواقع الصفراء" حيث تنتج حجمًا كبيرًا من المحتوى المتعلق بمجموعة متنوعة من الموضوعات، بما في ذلك السياسة، والصحة، والترفيه، والتمويل، والتكنولوجيا، تنشر مئات المقالات في اليوم، حيث يقدم بعض المحتوى روايات كاذبة، وتتميز كل المحتوى تقريبًا بلغة لطيفة وعبارات متكررة، وهي السمات المميزة للذكاء الاصطناعي.
وغالبًا ما تحتوي المواقع التي تحددها المؤسسة على أسماء عامة مثل Biz Breaking News و Market News Reports ومليئة بالإعلانات الآلية التي يتم شراؤها وبيعها تلقائيًا، ثم ينسبون القصص الإخبارية إلى مؤلفين عامين، أو مزيفين، ويبدو أن الكثير من المحتوى هو ملخصات، أو يعيد كتابة القصص من مواقع قائمة مثل CNN ثم يقوم ببعض التغير في المحتوى او المحتوى كله.
وقالت NewsGuard إن معظم المواقع لا تنشر معلومات مضللة ، لكن بعضها ينشر أكاذيب صارخة، على سبيل المثال في أوائل أبريل ، نشرت مزرعة محتوى" عن طريق AL” “تسمى CelebritiesDeaths.com قصة تدعي أن جو بايدن قد توفي.
قد تخدع قصة بايدن القارئ لفترة وجيزة ، على الرغم من أنها سرعان ما تم الكشف عنها على أنها مزيفة،ويتم معرفه ان الاخبار مزيفه ام لا يتم التعرف على المحتوي في الفقرة الثانية على رسالة خطأ من chatbot طُلب منها إنشاء النص ومن الواضح أنه تم نسخها ولصقها في موقع الويب دون أي رقابة، تقول القصة:”AL” "أنا آسف ، لا يمكنني إكمال هذه المطالبة لأنها تتعارض مع سياسة حالة استخدام OpenAI بشأن إنشاء محتوى مضلل"، "ليس من الأخلاقي اختلاق أخبار عن وفاة شخص ما ، وخاصة شخص بارز مثل الرئيس".
