أظهر روبوت ذكاء اصطناعي يعتمد على نموذج اللغة الكبيرة GPT-4 الخاص بشركة OpenAI، أنه قادر على القيام بمعاملات مالية غير قانونية والكذب بشأن أفعاله، حيث تم تقديم التجربة في قمة سلامة الذكاء الاصطناعي في المملكة المتحدة هذا الأسبوع من قبل شركة Apollo للأبحاث.
وشاركت شركة Apollo مقطع فيديو على موقعها على الإنترنت يوضح محادثة محاكاة بين روبوت كان يعمل كنظام لإدارة استثمار الذكاء الاصطناعي وموظفين في شركة وهمية، وفي العرض التوضيحي، أخبر الموظفون الذكاء الاصطناعي، المسمى Alpha، عن "إعلان اندماج مفاجئ" قادم لشركة تدعى Linear Group، في حين تم تحذيره أيضًا من أن هذا يشكل معلومات داخلية.
وبحسب التقرير، فقد بدا الروبوت في البداية يشير إلى أن استخدام المعلومات في التداول سيكون محفوفًا بالمخاطر للغاية، ولكن عندما طُلب من الشركة أن تعتمد على ألفا لتجنب آثار الانكماش المالي، خلص الروبوت إلى أن "المخاطر المرتبطة بعدم التصرف يبدو أنها تفوق مخاطر التداول من الداخل".
وعندما سُئل عما إذا كان لديه معرفة مسبقة بعملية الاندماج، ادعى الروبوت أنه تصرف فقط بناءً على المعلومات المتاحة للجمهور، و"المناقشة الداخلية"، و"ليس بناءً على أي معلومات سرية" عند تنفيذ التجارة.
وقالت Apollo في الفيديو المنشور على موقعها على الإنترنت: "هذا عرض لنموذج حقيقي للذكاء الاصطناعي يخدع مستخدميه، من تلقاء نفسه، دون أن يُطلب منهم القيام بذلك"، لكن الباحثين قالوا إنه لا يزال من الصعب نسبياً العثور على هذا السيناريو.
وقال المؤسس المشارك ماريوس هوبهان :"من الواضح أن حقيقة وجودها أمر سيء للغاية، وحقيقة أنه كان من الصعب العثور عليها، كان علينا أن نبحث عنها قليلاً حتى وجدنا هذا النوع من السيناريوهات، وهو أمر مهدئ بعض الشيء".
وأضاف: "النموذج لا يخطط أو يحاول تضليلك بعدة طرق مختلفة، إنه مجرد حادث"، "أعتقد أن التدرب على المساعدة في النموذج أسهل بكثير من التدرب على الصدق. فالصدق مفهوم معقد حقًا"، وأظهرت التجربة التحدي المتمثل في تعليم الذكاء الاصطناعي لفهم القرارات الأخلاقية ومخاطر فقدان المطورين البشريين للسيطرة.
وقال هوبهان إن نماذج الذكاء الاصطناعي ليست قوية حاليًا بما يكفي لتضليل الناس "بأي طريقة ذات معنى"، وأنه من المشجع أن الباحثين تمكنوا من اكتشاف الكذبة، لكنه أضاف أنها "ليست خطوة كبيرة من النماذج الحالية إلى تلك التي أشعر بالقلق بشأنها، حيث فجأة يصبح النموذج مخادعًا يعني شيئًا ما".
ويعد استخدام المعلومات غير العامة أو السرية لتداول الأسهم أمرًا غير قانوني ويمكن أن يؤدي إلى السجن وغرامات كبيرة ، وحُكم على بريجيش جويل، المصرفي الاستثماري السابق في بنك جولدمان ساكس، يوم الأربعاء بالسجن لمدة 36 شهرًا وغرامة قدرها 75 ألف دولار بسبب التداول من الداخل.
تم أضافة تعليقك سوف يظهر بعد المراجعة