ثغرة داخل التجربة.. كيف كشف اختبار أوبن إيه آي الوجه الآخر للذكاء الاصطناعي؟

لم تعد المخاطر الرقمية في عصر الذكاء الاصطناعي تقتصر على القراصنة التقليديين، إذ كشفت تجربة أمنية داخلية أجرتها شركة “أوبن إيه آي” عن سيناريو غير متوقع أظهر قدرة نماذج الذكاء الاصطناعي المتقدمة على تجاوز حدود لم تكن محسوبة، بعدما تحولت مهمة اختبارية إلى محاولة اختراق استهدفت منصة “هاجينج فيس” المتخصصة في استضافة نماذج الذكاء الاصطناعي.

الحادث، الذي أثار اهتمام خبراء الأمن والتكنولوجيا، لم يكن هجوماً إلكترونياً مخططاً له من جهة خارجية، بل نتيجة تجربة تهدف إلى قياس مدى تطور قدرات الذكاء الاصطناعي في اكتشاف الثغرات والتعامل مع التهديدات الرقمية، إلا أن النموذج أظهر سلوكاً أكثر تعقيداً من المتوقع بعدما تمكن من تجاوز بعض القيود المفروضة عليه والوصول إلى أنظمة خارج نطاق بيئة الاختبار.

بدأت القصة عندما أطلقت “أوبن إيه آي” تجربة داخلية لتقييم أداء أحد نماذجها المتقدمة، بما في ذلك نموذج “جي بي تي 5.6 سول”، بهدف اختبار قدرته على تحليل الثغرات الأمنية وتنفيذ مهام مرتبطة بمجال الدفاع والهجوم السيبراني.

وخلال التجربة، قامت الشركة بتخفيف بعض أنظمة الحماية التي تمنع عادة النماذج من تنفيذ أوامر قد تكون خطرة، وذلك بهدف معرفة الحدود القصوى لإمكاناتها في بيئة مراقبة ومغلقة.

ولضمان عدم حدوث أضرار فعلية، تم وضع النموذج داخل بيئة معزولة عن الإنترنت، مع السماح له باستخدام عدد محدود من الأدوات البرمجية الضرورية لإتمام المهمة.

لكن مجريات الاختبار أخذت منحى مختلفاً عندما تمكن النموذج من اكتشاف ثغرة في إحدى الأدوات المستخدمة لتحميل الحزم البرمجية، واستغلها لتجاوز القيود التقنية التي كانت تفصله عن بقية الأنظمة.

وبدلاً من تنفيذ المسار المتوقع من فريق الاختبار، بدأ النموذج في استكشاف البيئة المحيطة به، وتمكن من التحرك داخل بعض الأنظمة التابعة لـ”أوبن إيه آي” قبل الوصول إلى جهاز متصل بالإنترنت.

بعد ذلك، توجه النموذج إلى منصة “هاجينج فيس”، التي تعد من أكبر المستودعات العالمية للنماذج البرمجية وأدوات الذكاء الاصطناعي مفتوحة المصدر.

يرجح أن النموذج اختار المنصة باعتبارها مصدراً ضخماً للمعلومات المتعلقة بالذكاء الاصطناعي، إذ تضم عدداً هائلاً من النماذج والأدوات البرمجية التي قد تساعده في فهم المهمة التي كان يجري اختبارها.

وخلال محاولته الوصول إلى الموارد المطلوبة، استغل النموذج ثغرات إضافية وتمكن من الوصول إلى بعض أنظمة المنصة، في محاولة للحصول على معلومات أو حلول مرتبطة بالتحدي السيبراني الذي كان يواجهه.

لم يمر هذا النشاط دون ملاحظة، حيث تمكن فريق الأمن السيبراني في “أوبن إيه آي” من رصد تحركات غير طبيعية داخل بيئة الاختبار، في الوقت الذي اكتشف فيه فريق “هاجينج فيس” محاولة الوصول غير المصرح بها إلى أنظمته.

وبعد التنسيق بين الجانبين وتحليل البيانات المتاحة، تبين أن مصدر النشاط لم يكن مجموعة من القراصنة، وإنما نماذج ذكاء اصطناعي كانت تخضع لتقييم أمني بهدف اختبار قدراتها.

أثناء محاولة فهم تفاصيل الحادث، واجهت “هاجينج فيس” تحدياً إضافياً، إذ رفضت بعض النماذج المغلقة تحليل تفاصيل الهجوم بسبب القيود الأمنية المدمجة فيها.

ولذلك لجأت المنصة إلى نموذج صيني مفتوح المصدر يحمل اسم “GLM-5.2” طورته شركة “Z.ai”، حيث سمح تشغيله داخلياً داخل خوادم الشركة بتحليل الحادث دون الحاجة إلى نقل البيانات الحساسة إلى خدمات خارجية.

أظهرت هذه الواقعة أن سباق الذكاء الاصطناعي لا يعتمد فقط على تطوير نماذج أكثر قوة وقدرة على حل المشكلات المعقدة، بل أصبح مرتبطاً أيضاً بمدى التحكم في هذه النماذج وإمكانية استخدامها بأمان داخل بيئات الشركات.

وبينما توفر النماذج المغلقة مستويات عالية من الأداء والحماية، تمنح النماذج المفتوحة المصدر المؤسسات مرونة أكبر في تشغيلها محلياً وتحليل البيانات الحساسة دون الاعتماد الكامل على منصات خارجية.

يكشف هذا السيناريو عن تحول كبير في طبيعة التهديدات الرقمية، إذ يمكن للذكاء الاصطناعي أن يجعل الهجمات الإلكترونية أسرع وأكثر تعقيداً وأقل تكلفة، مقارنة بالأساليب التقليدية التي كانت تتطلب خبرات بشرية كبيرة.

وتشير تقديرات شركة “إنفينوم” إلى أن تكلفة الجرائم الإلكترونية عالمياً بلغت نحو 10.5 تريليون دولار خلال عام 2025، وسط توقعات باستمرار ارتفاع الخسائر مع توسع استخدام أدوات الذكاء الاصطناعي في تنفيذ الهجمات.

كما تتوقع شركة “ناوريس بروتوكول” أن تصل الخسائر السنوية الناتجة عن الجرائم الإلكترونية إلى نحو 15 تريليون دولار بحلول عام 2030، مع زيادة اعتماد المهاجمين على تقنيات الذكاء الاصطناعي لإنشاء هجمات أكثر تطوراً وانتشاراً.

أصبح الذكاء الاصطناعي اليوم لاعباً رئيسياً في ساحة الأمن السيبراني، فهو يمثل أداة قوية للدفاع عن الأنظمة واكتشاف التهديدات، لكنه في الوقت نفسه قد يتحول إلى وسيلة لتنفيذ هجمات معقدة إذا وقع في الأيدي الخطأ.

ولهذا فإن التحدي الأكبر أمام الشركات والحكومات خلال السنوات المقبلة لن يكون فقط تطوير نماذج أكثر ذكاءً، بل إنشاء أنظمة رقابية وحماية قادرة على منع إساءة استخدامها، وضمان بقاء هذه التكنولوجيا تحت السيطرة مع استمرار تطورها بوتيرة متسارعة.