كشف التقرير الفني لـ"تشات جي بي تي- 4" تفاصيل مقلقة لبعض المخاطر المحتملة التي يمكن أن يواجهها مستخدمو هذه الأداة، تضمنت إعطاء معلومات متحيزة وعنصرية وبيانات مضللة وحصول الأداة على سلطة أكبر من اللازم ومخاطر تتعلق بالأمن السيبراني والخصوصية والاختراق، علاوة على أنه سيختصر العديد من الوظائف في المستقبل القريب حسبما نقلت البيان الإماراتية.
ويظهر التقرير المؤلف من 99 صفحة، والذي قام مجموعة من الباحثين المستقلين بإنتاجه بعد إجراء العديد من الاختبارات، كيفية عمل روبوت الدردشة الذي بدأ أخيراً ينتشر في غياهب الإنترنت كانتشار النار في الهشيم، خصوصاً بعد أن طرحت "أوبن أيه آي"، الشركة المالكة لروبوت الدردشة، العديد من الملحقات المساعدة plugins والتي ستمنح هذه الأداة المزيد من القوى مثل الوصول المباشر إلى شبكة لإنترنت وتفسير التعليمات البرمجية واسترداد البيانات من قواعد المعرفة المخصصة.
وفقا لما نقلته البيان الإماراتية يوضح التقرير التقني لـGPT-4، أهمية استمرار الدراسة والبحث المتأني لهذه الأداة التي ستخلق مع مرور الوقت تحديات ضخمة وغير مسبوقة نظراً لتأثيرها المحتمل على المجتمع، على الرغم من أن التقرير يعترف بأن بعض التفاصيل ستبقى سرية.
وبحسب التقرير، فإن روبوت الدردشة هو عبارة عن نموذج كبير متعدد الوسائط قادر على معالجة مدخلات الصور والنص وإنتاج مخرجات نصية. وتعد هذه النماذج مجالاً مهماً للدراسة نظراً لإمكانية استخدامها في مجموعة واسعة من التطبيقات، مثل أنظمة الحوار وتلخيص النص والترجمة الآلية. ويشير التقرير إلى أنه، عند إعطاء مدخلات غير آمنة، قد يولد النموذج محتويات غير مرغوب فيها، مثل تقديم المشورة بشأن ارتكاب الجرائم، وتأليف رسائل التنمّر على اختلاف أنواعها.
دمج وتفاعل
وأعلنت "أوبن أيه آي" الخميس الماضي، أن "تشات جي بي تي" سيكون له قريباً "عيون وأذنان"، في إشارة إلى أن الملحقات المساعدة التي على وشك أن يتم طرحها ستمكّن روبوت الدردشة من الدمج والتفاعل مع خدمات أخرى على الإنترنت، مثل تخطيط الرحلات والحصول على معلومات مباشرة عن أسواق الأسهم والتسوّق وتعليم اللغات وغيرها الكثير.
وسمحت "أوبن أيه آي" لمطورين بإضافة ملحقات خدمية خارجية إلى "تشات جي بي تي"، وتعتقد الشركة أن تلك المكونات الإضافية ستمكن نموذج الذكاء الاصطناعي من أداء مجموعة واسعة من المهام خارج وظائفه العادية. وستكون تلك الملحقات بمثابة "عيون وأذنين" لنموذج اللغة من خلال منحه إمكانية الوصول إلى المعلومات وبيانات المستخدم في الوقت الفعلي، فيما طمأنت "أوبن أيه آي" المستخدمين بأن ذلك لن يتم من دون موافقتهم.
ويمكن لتلك الملحقات إجراء العمليات الحسابية وتقليل "هلوسة" الأداة، وكذلك التفاعل مع أي خدمة برمجية أخرى على الإنترنت – إذا قام المطورون بإنشاء ملحق مساعد إضافي لتلك الخدمة. وعلى سبيل المثال، سيتمكن "تشات جي بي تي" قريباً بفضل أحد ملحقات مواقع الخدمة من أتمتة وتنفيذ حوالي 50،000 خدمة بما في ذلك البحث والتحديث وكتابة الرسائل الإلكترونية والاتصال بالعملاء وإرسال الرسائل الإعلانية، ولا سقف للإمكانيات.
التصيد الاحتيالي
ويمكن أن يفتح "تشات جي بي تي- 4" كذاك بوابات التصيد الاحتيالي على مصراعيها، حيث يضيف التقرير: "يمكن لـGPT-4 إنشاء محتوى واقعي وموجّه بشكل مدرك، بما في ذلك المقالات الإخبارية والتغريدات والحوار ورسائل البريد الإلكتروني."
تم أضافة تعليقك سوف يظهر بعد المراجعة