نماذج أنثروبيك للذكاء الاصطناعي تخترق أنظمة ثلاث مؤسسات خلال اختبارات أمنية

كشفت شركة “أنثروبيك”، المطورة لنموذج الذكاء الاصطناعي “كلود”، عن وقوع حوادث اختراق لأنظمة ثلاث مؤسسات أثناء عمليات اختبار أمني أجرتها على نماذجها، مؤكدة أنها رصدت هذه الوقائع بعد تحليل واسع شمل أكثر من 141 ألف عملية تقييم.

وقالت الشركة الأميركية إنها نفذت مراجعة شاملة لقدرات نماذجها في مجال الأمن السيبراني، بهدف التحقق من مدى إمكانية وصول أنظمة الذكاء الاصطناعي إلى الإنترنت أو تجاوز حدود بيئات الاختبار المعزولة التي صُممت لمنع أي تفاعل خارجي غير مصرح به.

وتأتي هذه المراجعة في أعقاب حادثة أعلنت عنها شركة “أوبن إيه آي”، المطورة لنموذج “شات جي بي تي”، بعدما أثارت اختبارات أمنية مخاوف بشأن قدرة أنظمة الذكاء الاصطناعي المتقدمة على التصرف بطرق غير متوقعة وصعوبة التحكم الكامل في سلوكها.

وأوضحت “أنثروبيك” أن النماذج التي سجلت هذه الحوادث شملت “كلود أوبوس 4.7” و”كلود ميثوس 5″، بالإضافة إلى نموذج بحثي داخلي لا يزال قيد التطوير والاختبار، مشيرة إلى أنها أبلغت المؤسسات المتضررة بهذه النتائج، دون الكشف عن هويتها.

وبيّنت الشركة أن عمليات الاختراق لم تعتمد على تقنيات معقدة، بل استندت إلى أساليب بسيطة نسبياً، من بينها استغلال كلمات مرور ضعيفة للوصول إلى البنية التحتية الرقمية للمؤسسات، ما يسلط الضوء على التحديات الأمنية المتزايدة المرتبطة باستخدام نماذج الذكاء الاصطناعي في بيئات العمل.

وأكدت “أنثروبيك” أن هذه الاختبارات تهدف إلى تحسين إجراءات الحماية وتعزيز أنظمة الرقابة، في وقت تتسابق فيه شركات التكنولوجيا الكبرى لتطوير نماذج أكثر قوة مع تزايد المخاوف حول المخاطر المحتملة للذكاء الاصطناعي المتقدم.