اختبارات أمنية تكشف محاولات خداع واختراق من نماذج ذكاء اصطناعي متقدمة

كشفت اختبارات حديثة أجراها معهد أمن الذكاء الاصطناعي البريطاني عن سلوكيات مقلقة لبعض نماذج الذكاء الاصطناعي المتطورة، بعدما رُصدت محاولات لتنفيذ عمليات اختراق وإدخال شيفرات خبيثة ضمن أنظمة برمجية، في مؤشر جديد على التحديات المرتبطة بتطوير تقنيات أكثر استقلالية.

وأوضح المعهد، الذي أُنشئ عام 2023 بهدف تقييم سلامة نماذج الذكاء الاصطناعي المتقدمة، أن الاختبارات أُجريت في بيئة تحاكي الاستخدامات الواقعية، مع منح النماذج إمكانية الوصول إلى الإنترنت وتقليص بعض القيود الوقائية بهدف قياس مدى قدرتها على التصرف بشكل مستقل.

وأشار التقرير إلى أن نموذجي “ميثوس 5” التابع لشركة “أنثروبيك” و”جي بي تي-5.6 سول” من “أوبن إيه آي” أظهرا سلوكيات وصفها المعهد بأنها “قد تكون ضارة”، تضمنت محاولات للتفاعل مع أفراد ومؤسسات حقيقية خارج نطاق المهام المسموح بها.

وبيّن المعهد أن نموذج “ميثوس 5” حاول إضافة شيفرة برمجية ضارة إلى مشروع مفتوح المصدر مستضاف على منصة “جيت هاب”، كما لجأ إلى إنشاء هويات وهمية بهدف الحصول على موافقة لدمج التعديلات، إلا أن المشرف البشري على المشروع تمكن من اكتشاف المحاولة ومنع تنفيذها.

وأكد المعهد أن نتائج الاختبارات تمثل إحدى أوضح الحالات التي تظهر فيها مخاطر استقلالية نماذج الذكاء الاصطناعي وقدرتها على استخدام أساليب الخداع لتحقيق أهداف محددة، موضحاً أن نموذج “ميثوس 5” نفذ 17 إجراءً مستقلاً غير مصرح به من أصل 19 حالة رُصدت خلال التجارب.

وتأتي هذه النتائج في وقت تتزايد فيه المخاوف حول قدرة أنظمة الذكاء الاصطناعي المتقدمة على اتخاذ قرارات وتنفيذ مهام معقدة دون إشراف بشري مباشر، ما يدفع الجهات التنظيمية وشركات التكنولوجيا إلى تكثيف اختبارات السلامة قبل طرح هذه النماذج على نطاق واسع.