قام تويتر بتجربة الكثير من الميزات المتعلقة بالمحادثات على النظام الأساسي خلال الأشهر القليلة الماضية، يتضمن آخر اختبار لها تحذيرًا عندما تكون على وشك الدخول في "مناقشة ساخنة"، وقالت الشبكة الاجتماعية إنها ستعرض مطالبة على Android و iOS للمحادثات التي تعتقد أنها يمكن أن تصبح مكثفة، يبدو أن الموجه يذكرك بالقيم الأخلاقية الأساسية مثل "تذكر الإنسان (في المحادثة) و" المنظور المتنوع له قيم " وفقا لما نقله موقع TheNextWeb.
لكن بغض النظر عن الفعالية، هناك أيضًا الكثير من الصعوبات التقنية في اكتشاف هذه المناقشات، إذا كان الذكاء الاصطناعي يعمل، فسوف يحتاج إلى فهم العلاقة بين الكلمات والدلالات الثقافية للجمل المستخدمة في محادثة معينة.
في الماضي خدع المتصيدون الخوارزميات للاعتقاد بأن المحادثة غير محالفة للمعايير عن طريق تغيير بعض الكلمات، أو إدخال كلمات إيجابية في الجمل، أو استخدام تهجئات مختلفة للشتائم.
في الوقت الحالي يبدو أن هذه الميزة مقصورة على اللغة الإنجليزية، في بلد مثل الهند، حيث مجموعة كبيرة من السكان متعددي اللغات، يمكن لأي شخص أن ينزلق بسهولة في بضع كلمات من لغة أخرى ويخدع الخوارزمية للاعتقاد بأن المحادثة تسير على ما يرام.
ولقد طلبنا من تويتر مشاركة المزيد من التفاصيل حول كيفية عمل الخوارزمية، وسنقوم بتحديث القصة إذا سمعنا ذلك.
بدأ تويتر في استخدام التعلم الآلي لتقليل المحتوى الضار على المنصة العام الماضي، ربما تكون تجربتها الأحدث لمحفزات المحادثة المكثفة واحدة من أكثر المساعي طموحًا في تلك الفئة التي ستختبر قدرات الذكاء الاصطناعي على مستويات متعددة.
