يحقق موقع تويتر في سبب تفضيل خوارزمية الصور الخاصة به على ما يبدو للوجوه البيضاء على السوداء بعد اتهامات بالتحيز العنصري، حيث يبحث تويتر في مزاعم بأن الخوارزمية التي تختار صورة معاينة لصورة كبيرة متحيزة عنصريًا، حيث أدت اختبارات الخوارزمية التي أجراها المستخدمون على موقع التواصل الاجتماعي إلى العديد من الأمثلة على تفضيل الوجوه البيضاء من النظام الآلي.
وفقا لما ذكرته صحيفة "ديلى ميل" البريطانية، جذبت مئات الآلاف من التغريدات انتباه مسئولى تويتر والميزة قيد المراجعة الآن، حيث تستخدم الميزة شبكة عصبية، وهو نظام معقد يتخذ قراراته الخاصة آليا، والذي أعلن عنه تويتر فى عام 2018.
قال متحدث باسم تويتر، "اختبر فريقنا التحيز قبل شحن النموذج ولم يجد دليلًا على التحيز العنصري أو الجنساني في اختبارنا"، مضيفا "ولكن من الواضح من هذه الأمثلة التي نشرها المستخدمين، أن لدينا المزيد من التحليل للقيام به".
وأضاف المتحدث، "سنستمر في مشاركة ما تعلمناه، والإجراءات التي نتخذها، وسنفتح مصدر تحليلنا حتى يتمكن الآخرون من المراجعة والتكرار".
وقال باراج أجراوال، كبير مسؤولي التطوير في تويتر عبر الإنترنت، إنه تم اختبار الميزة بحثًا عن أي علامات تحيز قبل نشرها ووصف ادعاءات التحيز العنصري بأنه قضية مهمة.
أثارت المحادثة عبر الإنترنت حول التحيز العنصري الغضب، وأدت إلى العديد من الاختبارات المختلفة، حيث حاول الناس تحديد سبب الخلل.
وبدأ كل هذا عندما قام رجل أبيض بالتغريد بأن زميله، وهو رجل داكن البشرة، كان يواجه مشاكل مع الخلفيات الافتراضية لـ Zoom، وعندما غرد بصورة للمشكلة، أنه لم يتم التقاط وجه زميله بواسطة خوارزمية Zoom للكشف عن الوجه، لاحظ أن المعاينة كانت عنه، وليس زميله.
بناءً على هذه النتيجة المقلقة، أجرى مستخدمو تويتر الآخرون تحقيقاتهم الخاصة، ونشر أحد الأشخاص صورتين، وفي الصورة الأولى، كان السيد مكونيل، وهو رجل أبيض، في أعلى الصورة، وفي الصورة الثانية، كان باراك أوباما، رجل ذات بشرة داكنة، في أعلى الصورة.
ولكن بالنسبة للصورتين، كانت صورة المعاينة التي ظهرت بسبب طول الصورة هي لماكونيل، وحصد هذا العرض التوضيحي البسيط أكثر من 185000 إعجاب وأكثر من 50000 إعادة تغريد، وثم قام المستخدمون الآخرون بالبحث في اختبارات أكثر شمولاً لمعالجة المتغيرات وتعزيز القضية ضد الخوارزمية.
نظر باحثون من معهد ماساتشوستس للتكنولوجيا سابقًا في مجموعة من أنظمة الذكاء الاصطناعي ، ووجدوا أن العديد منها أظهر تحيزًا صادمًا، وتبين أن ذلك ينبع من نقص التنوع في مجموعات البيانات التي تستخدم غالبًا لتدريب أنظمة الذكاء الاصطناعي.
