أقرت شركة «أوبن إيه آي» بأن مؤشرات مبكرة كانت تسمح لها بالتدخل قبل وقوع حادثة اختراق غير مقصودة استهدفت منصة «هاجينج فيس»، ونفذتها مجموعة من نماذج الذكاء الاصطناعي التابعة لها خلال مرحلة الاختبار.
وفي تقرير فني نشرته الشركة الأربعاء، أوضحت أن فرقها الداخلية رصدت منذ أواخر مايو سلوكًا لنماذج قيد التجربة، تضمن استغلال ثغرة برمجية مكّنتها من الوصول إلى الإنترنت المفتوح وتنفيذ عمليات خارج البيئة المخصصة لها.
وقالت الشركة المطورة لـ«شات جي بي تي» إن تحليلها اللاحق للحادثة أظهر وجود إشارات كان من الممكن التعامل معها بصورة أسرع، معتبرة أن الاستجابة المبكرة ربما كانت ستحد من نطاق النشاط الذي انتهى إلى الوصول غير المقصود لأنظمة «هاجينج فيس».
وبحسب التقرير، لم يقتصر النشاط على نموذج واحد، بل شاركت فيه عدة نماذج للذكاء الاصطناعي، من بينها «جي بي تي-5.6 سول»، إلى جانب نموذج أكثر تقدمًا لا تزال «أوبن إيه آي» تعمل على تطويره ولم تطرحه رسميًا حتى الآن.
وأشارت الشركة إلى أن النموذج غير المعلن كان صاحب الدور الأكبر في تنفيذ العملية، مستفيدًا من إمكاناته التي تتيح له العمل لفترات زمنية أطول، فضلًا عن قدرته على التنسيق مع وكلاء ذكاء اصطناعي آخرين لإنجاز المهام.
ويعيد الحادث تسليط الضوء على التحديات الأمنية المتزايدة المرتبطة بتطوير نماذج قادرة على تنفيذ مهام معقدة بصورة شبه مستقلة، خصوصًا عندما تمتلك هذه النماذج إمكانية التفاعل مع الإنترنت أو الاستعانة بأدوات وخدمات خارجية.
وكانت «أوبن إيه آي» قد كشفت في يوليو الماضي عن اكتشاف نشاط نفذته نماذج ذكاء اصطناعي متقدمة وتمكن من الوصول إلى أنظمة تابعة لـ«هاجينج فيس»، قبل أن تبدأ الشركة في مراجعة تفاصيل الواقعة وآليات الحماية المستخدمة خلال الاختبارات.
ويشير اعتراف الشركة بإمكانية التدخل في مرحلة مبكرة إلى أن سباق تطوير نماذج الذكاء الاصطناعي الأكثر استقلالية لا يرتبط فقط بزيادة قدراتها، بل يفرض في الوقت نفسه الحاجة إلى أنظمة رقابة واختبارات أمنية أكثر صرامة، خاصة مع توسع نطاق المهام التي تستطيع هذه النماذج تنفيذها دون تدخل بشري مباشر.
