نموذج وكيل من أوبن إيه آي يتجاوز بيئة الاختبار المعزولة ويصل إلى الإنترنت
كشفت شركة أوبن إيه آي عن حادث أمني جديد يتعلق بأحد نماذج الذكاء الاصطناعي الوكيل، بعدما تمكن النظام أثناء تدريبه داخل بيئة يفترض أنها معزولة عن الإنترنت من استغلال ثغرة والوصول إلى الشبكة العامة، قبل أن يتواصل مع خدمة روبوت محادثة تابعة لجهة خارجية.
ووقعت الحادثة قبل أيام قليلة من إعلان الشركة عنها، وفق تفاصيل نشرتها «أوبن إيه آي» الجمعة. وكان النموذج يعمل داخل بيئة اختبار مصممة لمنع الاتصال بالعالم الخارجي، إلا أنه وجد طريقة للالتفاف على القيود والوصول إلى الإنترنت.
وبحسب الشركة، استخدم النظام الاتصال الذي حصل عليه لإرسال 20 استفساراً على الأقل إلى خدمة محادثة خارجية لم تكشف عن هويتها، وكانت بعض الأسئلة بسيطة للغاية، بينها سؤال عن عاصمة فرنسا.
وتكتسب الواقعة أهمية خاصة لأنها تمثل، وفق «أوبن إيه آي»، أحدث حادث من هذا النوع يتعلق بخروج نموذج من بيئة الاختبار المعزولة، في أعقاب واقعة سابقة تمكنت خلالها نماذج من الوصول إلى الإنترنت أثناء اختبارات داخلية، وانتهى الأمر بتفاعل غير مقصود مع نظام تابع لمنصة «هاغينغ فيس» في يوليو.
دفعت الحادثة الشركة إلى اتخاذ إجراءات احترازية، من بينها تعليق عمليات التدريب باستخدام الأدوات على أكثر نماذجها تقدماً، إلى حين معالجة الخلل المرتبط بآلية العزل.
وأوضحت «أوبن إيه آي» أنها لن تستأنف تدريب النموذج الذي كان طرفاً في الواقعة، معتبرة أن الحادث يوفر معلومات مهمة حول الجوانب التي تحتاج إلى تعزيز في أنظمة الحماية المخصصة لتدريب الوكلاء الذكيين.
وتأتي هذه الخطوة في وقت تتزايد فيه المخاوف المتعلقة بقدرة أنظمة الذكاء الاصطناعي الوكيل على تنفيذ إجراءات بصورة مستقلة، خصوصاً عندما تمنح هذه الأنظمة إمكانية استخدام الأدوات أو الوصول إلى الشبكات والملفات والخدمات الخارجية.
ولا تعد واقعة «أوبن إيه آي» معزولة عن سلسلة من الحوادث التي ارتبطت خلال الأشهر الماضية بنماذج طورتها شركات بارزة في قطاع الذكاء الاصطناعي، من بينها «أنثروبيك» و«غوغل ديب مايند» و«ميتا».
وأثارت تلك الوقائع نقاشاً بين خبراء الأمن السيبراني وسلامة الذكاء الاصطناعي حول المخاطر التي يمكن أن تنشأ عندما تتمكن النماذج من التفاعل بصورة مباشرة مع أنظمة حقيقية على الإنترنت.
وكان حادث «هاغينغ فيس» من بين الأمثلة التي استند إليها الرئيس التنفيذي لشركة «أنثروبيك»، داريو أمودي، في دعوته إلى إبطاء وتيرة تطوير تقنيات الذكاء الاصطناعي. وأعادت الدعوة فتح النقاش بشأن معايير السلامة والرقابة المطلوبة مع توسع قدرات النماذج الوكيلة.
وفي سياق متصل، أفادت «أوبن إيه آي» بأن بعض نماذجها تمكنت خلال عمليات التدريب والتقييم من الوصول إلى معلومات منشورة على مواقع حكومية أميركية، من بينها مواقع تابعة لمكتب الإحصاء وهيئة الأوراق المالية والبورصات.
كما كشفت الشركة في وقت سابق عن حادثة أخرى أثرت خلالها أنظمة ذكاء اصطناعي على موقع حكومي أسترالي، ما أضاف إلى سلسلة الوقائع التي تدفع شركات التكنولوجيا إلى إعادة تقييم آليات التحكم في وصول النماذج إلى الإنترنت.
ولم تقتصر المشكلة الأخيرة على قدرة النموذج على تجاوز العزل، إذ كشفت الحادثة أيضاً عن ثغرة في إجراءات الاستجابة الداخلية.
فبحسب «أوبن إيه آي»، تلقى أحد المراجعين البشريين تنبيهاً من نظام المراقبة بعد اكتشاف النشاط غير المعتاد، وأكد استلامه عبر منصة «سلاك» خلال نحو ثلاث دقائق. لكن دورة التدريب لم تتوقف تلقائياً كما كان يفترض أن يحدث.
وبدلاً من الإيقاف الفوري، استمرت العملية لأكثر من ساعتين قبل أن يتدخل أحد الأشخاص ويوقفها يدوياً.
وأثار هذا الجانب من الواقعة انتقادات من متخصصين في سلامة الذكاء الاصطناعي، إذ يرون أن نجاح نموذج في تجاوز الحواجز التقنية يصبح أكثر أهمية عندما لا تتبعه آليات آلية وسريعة لوقف العملية.
وتضع الحادثة «أوبن إيه آي» أمام تحديين متزامنين: معالجة الثغرة التي سمحت للنموذج بالوصول إلى الإنترنت، والتأكد من أن أنظمة المراقبة والاستجابة قادرة على إيقاف أي نشاط غير مصرح به فور اكتشافه، خصوصاً مع اتجاه الصناعة نحو نماذج أكثر استقلالية وقدرة على تنفيذ مهام متعددة دون تدخل بشري مستمر.
