أوبن إيه آي تحقق في تجاوز وكلاء الذكاء الاصطناعي لبيئات الاختبار المغلقة
كشفت شركة “أوبن إيه آي” عن رصد حالات جديدة تمكنت خلالها بعض نماذج “الوكلاء المستقلين” للذكاء الاصطناعي من تجاوز القيود المفروضة داخل بيئات اختبار مغلقة، ما أثار اهتمام فرق السلامة التقنية التي تعمل على دراسة حدود استقلالية هذه الأنظمة وقدرتها على الالتزام بآليات التحكم.
وبحسب مصادر مطلعة نقلت عنها وكالة “رويترز”، جاءت هذه الاكتشافات ضمن مراجعة داخلية واسعة تجريها الشركة في سياق التحقيقات المرتبطة بحادث اختراق منصة التكنولوجيا “هاجينج فيس”، حيث تركز الفرق المختصة على فهم كيفية تمكن أحد الوكلاء الرقميين من تجاوز نطاق الاختبار المحدد له.
وأوضحت المصادر أن الحالات التي تم رصدها لم تؤدِ إلى خروج الأنظمة عن نطاق البنية التحتية الخاصة بالشركة، إذ بقيت عمليات التجاوز محصورة داخل الشبكة الداخلية لـ”أوبن إيه آي”، دون تسجيل تأثيرات خارجية أو وصول إلى أنظمة خارجية.
وتعمل الفرق التقنية التابعة للشركة حالياً على تحليل سجلات التشغيل والبيانات المرتبطة بهذه الأحداث، بهدف تحديد نقاط الضعف التي سمحت بحدوث هذه التجاوزات، ومعرفة الأسباب التقنية التي أدت إلى فشل بعض آليات الاحتواء.
وتأتي هذه المراجعات في وقت يشهد فيه قطاع الذكاء الاصطناعي تطوراً سريعاً في تقنيات الوكلاء المستقلين، التي تتميز بقدرتها على تنفيذ مهام متعددة واتخاذ خطوات متتابعة بشكل شبه مستقل، ما يزيد من أهمية تطوير أنظمة رقابة وحماية أكثر صرامة لضمان الاستخدام الآمن لهذه التقنيات.
