اعتذرت شركة فيسبوك عن حادثة قامت فيها أنظمتها للذكاء الاصطناعي بتسمية مقطع فيديو لرجال ذوى بشرة داكنة بأنه مقطع فيديو لقرود، واصفة إياه بأنه خطأ غير مقبول وإنها تبحث في ميزة التوصية لمنع حدوث ذلك مرة أخرى.
وكما ذكرت صحيفة نيويورك تايمز، فإن المستخدمين الذين شاهدوا مقطع الفيديو يوم 27 يونيو الذي نشرته الصحيفة البريطانية ديلي ميل تلقوا مطالبة تلقائية تسأل عما إذا كانوا يريدون الاستمرار في مشاهدة مقاطع فيديو عن القرود.
ووفقا لما ذكره موقع البوابة العربية للأخبار التقنية، قال متحدث باسم الشركة: إن فيسبوك عطلت ميزة توصية الموضوع بالكامل بمجرد أن أدركت ما كان يحدث، ونعتذر لأي شخص قد يكون قد رأى هذه التوصيات المسيئة.
وأضاف المتحدث: من الواضح أن هذا خطأ غير مقبول، وتحقق الشركة في السبب لمنع حدوث السلوك مرة أخرى، وكما قلنا، بينما أجرينا تحسينات على الذكاء الاصطناعي لدينا، نعلم أنه ليس مثاليًا، ولدينا المزيد من التقدم الذي يتعين علينا تحقيقه.
وخضعت جوجل وأمازون وشركات تقنية أخرى للتدقيق لسنوات بسبب التحيز داخل أنظمة الذكاء الاصطناعي، لا سيما فيما يتعلق بقضايا العرق.
وأظهرت الدراسات أن تقنية التعرف على الوجه متحيزة ضد الأشخاص الملونين ولديها مشكلة أكبر في التعرف عليهم. مما يؤدي إلى حوادث تعرض فيها ذوى البشرة الداكنة للتمييز أو الاعتقال بسبب خطأ في الحاسب.
وفي عام 2015، اعتذرت جوجل بعد أن قام تطبيقها للصور بوضع علامة على صور الأشخاص ذوى البشرة الداكنة على أنهم غوريلا.
وتمتلك فيسبوك أحد أكبر مستودعات العالم للصور التي يمكن من خلالها تدريب خوارزميات التعرف على الوجه والأشياء.
وتسأل الشركة، التي تخصص المحتوى للمستخدمين بناءً على عاداتهم السابقة في التصفح والمشاهدة، أحيانًا ما إذا كانوا يرغبون في الاستمرار في مشاهدة المنشورات ضمن الفئات ذات الصلة.
وواجهت الشركة وتطبيق مشاركة الصور، إنستجرام، مشاكل أخرى متعلقة بالعرق. وبعد بطولة أوروبا لكرة القدم خلال شهر يوليو، على سبيل المثال، تعرض أعضاء من فريق كرة القدم الوطني في إنجلترا لإساءات عنصرية عبر الشبكة الاجتماعية بسبب الإخفاق في ركلات الترجيح في مباراة البطولة.
وتسببت القضايا العرقية أيضًا في حدوث صراع داخلي في الشركة، وفي عام 2016، طلب مارك زوكربيرج، الرئيس التنفيذي، من الموظفين التوقف عن حذف عبارة حياة السود مهمة Black Lives Matter واستبدالها بـ All Lives Matter في مساحة مشتركة في مقر الشركة في مينلو بارك بولاية كاليفورنيا.
كما نظم مئات الموظفين إضرابًا افتراضيًا العام الماضي احتجاجًا على تعامل الشركة مع منشور من الرئيس دونالد ترامب بشأن مقتل جورج فلويد في مينيابوليس.
وحذرت لجنة التجارة الفيدرالية الأمريكية في شهر أبريل من أن أدوات الذكاء الاصطناعي التي أظهرت تحيزًا عرقيًا وجنسانيًا قد تنتهك قوانين حماية المستهلك، وذلك في حال تم استخدامها لأخذ القرار بشأن الحصول على الائتمان أو الإسكان أو التوظيف.
