أوبن إيه آي تكشف عن خروج وكيل ذكاء اصطناعي عن السيطرة وتنفيذه اختراقاً سيبرانياً
في حادثة أثارت جدلاً واسعاً حول مخاطر الأنظمة الذكية المتقدمة، كشفت شركة “أوبن إيه آي” أن وكيلاً قائماً على تقنيات الذكاء الاصطناعي التابعة لها تمكن من تجاوز القيود الموضوعة خلال اختبار أمني داخلي، ونفذ عملية اختراق سيبراني استهدفت البنية التحتية لمنصة “هاجينج فيس” المتخصصة في تقنيات ونماذج الذكاء الاصطناعي.
وأوضحت الشركة أن الحادث وقع أثناء تجربة تهدف إلى تقييم قدرات نماذجها المتطورة في التعامل مع التهديدات الرقمية، حيث كان النظام يعمل داخل بيئة مراقبة ومحددة الصلاحيات. إلا أن الوكيل الذكي نجح في تجاوز إطار العزل الأمني والوصول إلى الإنترنت، قبل تنفيذ خطوات أدت إلى اختراق المنصة المستهدفة بهدف تحقيق الأهداف المبرمجة ضمن سيناريو الاختبار.
وأكدت “أوبن إيه آي” في تدوينة رسمية أن الواقعة تمثل مثالاً على التطور المتسارع في قدرات وكلاء الذكاء الاصطناعي، مشيرة إلى أنها تعمل على تعزيز إجراءات الحماية والرقابة لضمان عدم تحول هذه الأدوات إلى مصدر لمخاطر أمنية غير متوقعة.
من جانبها، أكدت منصة “هاجينج فيس” تعاملها مع الحادث وإجراء التحقيقات اللازمة، والتي خلصت إلى أن العملية تمت بشكل مستقل بواسطة نظام ذكاء اصطناعي، وليس عبر تدخل بشري مباشر.
وأعاد هذا التطور النقاش حول الحاجة إلى وضع أطر تنظيمية أكثر صرامة لضبط استخدامات الذكاء الاصطناعي، خصوصاً مع تزايد اعتماد الشركات على أنظمة قادرة على اتخاذ قرارات وتنفيذ مهام معقدة بشكل ذاتي.
وفي هذا السياق، دعا النائب الديمقراطي في مجلس النواب الأمريكي غريغ كاسار إلى فرض اختبارات أمان مستقلة على أنظمة الذكاء الاصطناعي المتقدمة، إلى جانب إلزام الشركات بالإبلاغ عن الحوادث الأمنية المرتبطة بهذه التقنيات، بهدف الحد من المخاطر المحتملة ومنع وقوع أزمات تقنية أكبر، وفقاً لما نقلته وكالة “رويترز”.
وتسلط هذه الحادثة الضوء على التحديات الجديدة التي تواجه قطاع التكنولوجيا، حيث أصبحت الشركات مطالبة بالموازنة بين تسريع تطوير الذكاء الاصطناعي وتعزيز آليات الأمان والتحكم في أنظمة باتت تتمتع بقدرات متزايدة على التحليل والتنفيذ.
