يظهر الذكاء الاصطناعي بشكل روتيني مع التقدم التكنولوجي ومزودي البرمجيات، حيث يقومون ببناء ودمج الذكاء الاصطناعي في منتجاتهم، ومن المتوقع أن يشهد العالم نموًا في الناتج المحلي الإجمالي مدفوعًا بالذكاء الاصطناعي بقيمة 15.7 تريليون دولار بحلول عام 2030، وتواصل تطبيقات الذكاء الاصطناعي النمو عبر المؤسسات والصناعات، ومع زيادة فوائد أنظمة الذكاء الاصطناعي، تزداد المخاطر المصاحبة لهذه الأدوات، فما هي هذه المخاطر؟ وهل تفوق فوائد الذكاء الاصطناعي المخاطر، فيما يلي الإجابة عن هذه الأسئلة:.
ما هي مخاطر الذكاء الاصطناعي؟
ينطوي الذكاء الاصطناعي على العديد من المخاطر المحتملة مع توسع قدرات الذكاء الاصطناعي وانتشاره، ستستمر المخاطر المرتبطة به في التطور، فيما يلي أكثر خمسة مخاطر للذكاء الاصطناعي انتشاراً.
1. الافتقار إلى إمكانية تتبع تنفيذ الذكاء الاصطناعي
من منظور إدارة المخاطر، غالبًا ما نبدأ بقائمة جرد للأنظمة والنماذج التي تتضمن الذكاء الاصطناعي، ويتيح لنا استخدام عالم المخاطر تتبع مخاطر الذكاء الاصطناعي وتقييمها وتحديد أولوياتها والتحكم فيها.
لسوء الحظ فإن الشعبية المتزايدة للتكنولوجيا بشكل عام تعني أن يتم تنفيذها بشكل متزايد خارج نطاق اختصاص فريق تكنولوجيا المعلومات الرسمي، وتشير دراسة أجرتها شركة McAfee إلى أن 80٪ من موظفي المؤسسة يستخدمون تطبيقات SaaS (البرمجيات كخدمة) غير المعتمدة في العمل في أغلب الأحيان، ولا يتم ذلك بشكل ضار ولكن لزيادة الإنتاجية. قد تختار الإدارات أنظمة قائمة على العمليات سهلة الشراء تتضمن أحد مكونات الذكاء الاصطناعي، في أوقات أخرى، وقد تؤدي ترقية النظام الروتينية إلى إدخال الذكاء الاصطناعي في أحد التطبيقات، في كلتا الحالتين، يمكن تقديم الذكاء الاصطناعي بسهولة دون معرفة إدارة المخاطر وتكنولوجيا المعلومات.
2. إدخال التحيز البرنامجي في صنع القرار
أحد أكثر المخاطر المدمرة للذكاء الاصطناعي هو إدخال التحيز في خوارزميات صنع القرار، وتتعلم أنظمة الذكاء الاصطناعي من مجموعة البيانات التي تم تدريبها عليها، واعتمادًا على كيفية حدوث هذا التجميع، هناك احتمال أن تعكس مجموعة البيانات الافتراضات أو التحيزات، ويمكن أن تؤثر هذه التحيزات بعد ذلك على عملية صنع القرار في النظام.
3. مصادر البيانات وانتهاك الخصوصية الشخصية
مع توقع مؤسسة البيانات الدولية أن ينمو مجال البيانات العالمي من 33 تريليون غيغابايت في عام 2018 إلى 175 غيغابايت بحلول عام 2025، حيث تتوفر كميات هائلة من البيانات المنظمة وغير المهيكلة للشركات لتعدينها ومعالجتها.
ستصبح الخصوصية الشخصية أكثر صعوبة في الحماية في ظل انتشار الذكاء الاصطناعي، عند حدوث تسرب للبيانات أو حدوث انتهاكات، يمكن أن تلحق التداعيات الناتجة ضررًا كبيرًا بسمعة الشركة وتمثل انتهاكات قانونية محتملة مع قيام العديد من الهيئات التشريعية الآن بتمرير لوائح تقيد كيفية معالجة البيانات الشخصية.
4. خوارزميات الصندوق الأسود ونقص الشفافية
الغرض الأساسي من العديد من أنظمة الذكاء الاصطناعي هو إجراء تنبؤات، وعلى هذا النحو يمكن أن تكون الخوارزميات معقدة للغاية لدرجة أنه حتى أولئك الذين أنشأوا الخوارزمية لا يمكنهم شرح كيفية وصول المتغيرات مجتمعة معًا إلى التنبؤ الناتج، وهذا النقص في الشفافية هو السبب في الإشارة إلى بعض الخوارزميات على أنها "الصندوق الأسود"، ولماذا بدأت الهيئات التشريعية الآن في التحقيق في الضوابط والتوازنات التي قد تحتاج إلى وضعها، على سبيل المثال، رفض عميل مصرفي بناءً على توقع الذكاء الاصطناعي حول الجدارة الائتمانية للعميل، فإن الشركات تخاطر بعدم القدرة على تفسير السبب.
5. المسؤولية القانونية غير واضحة
بالنظر إلى المخاطر المحتملة للذكاء الاصطناعي التي تمت مناقشتها حتى الآن، تؤدي هذه المخاوف إلى مسألة المسؤولية القانونية، إذا كان نظام الذكاء الاصطناعي مصممًا بخوارزميات غامضة، ويسمح التعلم الآلي لاتخاذ القرار بتحسين نفسه، فمن المسؤول قانونيًا عن النتيجة؟ هل هي الشركة أم المبرمج أم النظام؟ هذا الخطر ليس نظريًا، في عام 2018، اصطدمت سيارة ذاتية القيادة بأحد المشاة وقتلتهم، في هذه الحالة، لم يكن سائق النسخ الاحتياطي البشري للسيارة منتبهًا وكان مسؤولاً عندما فشل نظام الذكاء الاصطناعي.
هل فوائد الذكاء الاصطناعي تفوق المخاطر؟
مخاطر الذكاء الاصطناعي كبيرة، لكن استخدام هذه الأدوات ونموها أمر حتمي أيضًا، حيث تتجاوز الفوائد مكاسب الكفاءة البسيطة وتشمل سيناريو اتخاذ قرار أكثر إنصافًا عندما يتم تدريب الخوارزميات على تجنب التحيز، مع زيادة فهمنا من منظور إدارة المخاطر والتدقيق، حيث يجب أن نبحث عن مفتاح المميزات في أنظمة الذكاء الاصطناعي:
يجب أن تتضمن أنظمة الذكاء الاصطناعي وثائق تصميم واضحة.
يجب أن يشمل التعلم الآلي الاختبار والتحسين.
يجب أن يحظى التحكم في الذكاء الاصطناعي وحوكمته بالأولوية على الخوارزميات والكفاءة.
نتحمل جميعًا مسؤولية معرفة المزيد عن مخاطر الذكاء الاصطناعي والتحكم في تلك المخاطر، ولن يختفي الموضوع، وستستمر المخاطر في النمو والتغير مع زيادة تقدم التكنولوجيا وانتشارها، وستكون المنظمات التي تتبنى النقاط الرئيسية الثلاث المذكورة أعلاه مجهزة بشكل أفضل لإدارة مخاطر أنظمة الذكاء الاصطناعي التي قد يكون لها عواقب قانونية وخيمة.
