سلطت OpenAI الضوء على مخاوف جديدة في وضع الصوت الخاص بروبوت الدردشة الخاص بها ChatGPT 4o، حيث تم إطلاق الميزة في أواخر يوليو من هذا العام، وأجرت OpenAI اختبار أمان على ChatGPT 4o ووجدت أنه لديه القدرة على إغراء بعض المستخدمين ليصبحوا مرتبطين به عاطفيًا.
ووفقًا لما ذكره موقع "India today" أصدرت الشركة الأم لـChatGPT تحليلاً للسلامة يشير إلى مخاطر وضع الصوت والذكاء الاصطناعي في الحياة اليومية، وأضافت ملاحظات تحذيرية في وثيقة فنية شاملة، تُعرف باسم بطاقة النظام، لـ GPT 4o.
تحدد هذه الوثيقة المخاطر المحتملة المرتبطة بالنموذج، وتصف إجراءات اختبار السلامة، وتسلط الضوء على التدابير التي تتخذها الشركة لتقليل وإدارة المخاطر المحتملة المرتبطة بـ GPT 4o.
تسلط بطاقة النظام الخاصة بـ GPT 4o الضوء على مجموعة واسعة من المخاطر المحتملة، بما في ذلك إمكانية تفاقم التحيزات المجتمعية، ونشر معلومات كاذبة، وتسهيل إنشاء عوامل بيولوجية أو كيميائية ضارة.
كما يكشف عن نتائج الاختبارات الصارمة التي تهدف إلى منع نموذج الذكاء الاصطناعي من محاولة الهروب من قيوده، أو الانخراط في سلوك خادع، أو ابتكار مؤامرات كارثية.
تؤكد بطاقة النظام المحدثة على المشهد المتغير بسرعة لمخاطر الذكاء الاصطناعي، خاصة في ضوء الابتكارات المتطورة مثل واجهة الصوت الخاصة بشركة OpenAI، والتي تقدم تحديات جديدة ونقاط ضعف محتملة يجب معالجتها.
يتناول قسم بطاقة النظام "التشبيه والاعتماد العاطفي" القضايا التي تحدث عندما يعزو المستخدمون صفات تشبه الإنسان إلى الذكاء الاصطناعي، وهي الظاهرة التي يبدو أنها تتفاقم بسبب وضع الصوت الشبيه بالإنسان في الذكاء الاصطناعي، مما يؤدي إلى تكوين المستخدمين روابط عاطفية والاعتماد على الذكاء الاصطناعي بطرق قد لا تكون مقصودة أو مفيدة.
لاحظ باحثو OpenAI، أن المستخدمين يظهرون ارتباطًا عاطفيًا بالنموذج، كما هو واضح في عبارات مثل "هذا هو آخر يوم لنا معًا". تشير مثل هذه العبارات إلى وجود رابطة عاطفية بين البشر والذكاء الاصطناعي، مما يسلط الضوء على إمكانية قيام المستخدمين بتكوين روابط عاطفية قوية مع نماذج اللغة المتقدمة.
كيف ستخفف OpenAI من هذه المخاطر؟
نفذت OpenAI تدابير مختلفة للسلامة والتخفيف من حدة المخاطر طوال عملية تطوير ونشر GPT 4o.
وتتطلع الشركة إلى التركيز على عدة فئات، بما في ذلك البحث حول التأثيرات الاقتصادية للنماذج الشاملة، وكيف يمكن لاستخدام الأدوات أن يعزز قدرات النموذج.
تم أضافة تعليقك سوف يظهر بعد المراجعة