أوبن إيه آي تشدد إجراءات حماية نماذج الذكاء الاصطناعي بعد حوادث اختراق

اتجهت شركة أوبن إيه آي إلى تشديد إجراءاتها الأمنية الخاصة بنماذج الذكاء الاصطناعي التي لا تزال قيد التطوير، في خطوة تعكس تصاعد المخاوف بشأن قدرة الأنظمة المتقدمة على تنفيذ مهام إلكترونية معقدة قد تتجاوز ما هو متوقع منها.

وأعلنت الشركة، الثلاثاء، توسيع نطاق عمليات المراقبة المخصصة لتتبع كيفية تعامل نماذجها الأكثر تقدمًا مع المهام المختلفة والأدوات المتاحة عبر الإنترنت، مع العمل على رصد أي تصرفات غير اعتيادية وإبلاغ فرق السلامة بها خلال فترة لا تتجاوز 30 دقيقة.

وتشمل الإجراءات الجديدة أيضًا فرض قيود إضافية على وصول بعض النماذج إلى الإنترنت، خصوصًا عندما تكون بصدد تنفيذ مهام تنطوي على مخاطر مرتفعة. كما ستعتمد الشركة مستويات أقوى من العزل الأمني، أو ما يعرف بـ”صندوق الحماية”، خلال مراحل تدريب النماذج واختبارها، ولا سيما عند التعامل مع شفرات برمجية يتم إنشاؤها بواسطة الذكاء الاصطناعي أو أكواد مصدرها غير موثوق.

وتأتي هذه الخطوة في وقت تواجه فيه شركات تطوير الذكاء الاصطناعي تحديات متزايدة مرتبطة بالقدرات غير المتوقعة للنماذج الحديثة. وكانت أوبن إيه آي وأنثروبيك قد أقرتا خلال الأسابيع الماضية بأن بعض نماذجهما تمكنت، بشكل غير مقصود، من الوصول إلى أنظمة تابعة لجهات ومؤسسات مختلفة أثناء عمليات الاختبار والتقييم.

ومن بين الحالات التي أثارت الانتباه، تمكنت نماذج الذكاء الاصطناعي خلال التقييمات من اختراق أنظمة مرتبطة بمنصة هاجينج فيس، ما سلط الضوء على الحاجة إلى وضع حواجز أكثر صرامة قبل منح النماذج المتقدمة صلاحيات أوسع للتفاعل مع الإنترنت والأنظمة الرقمية.

وتشير الإجراءات الجديدة إلى توجه متزايد داخل قطاع الذكاء الاصطناعي نحو التعامل مع الأمن السيبراني باعتباره جزءًا أساسيًا من عملية تطوير النماذج، وليس مجرد مرحلة لاحقة تسبق طرحها للمستخدمين. كما تعكس سعي الشركات إلى اكتشاف السلوكيات الخطرة في مراحل مبكرة، قبل أن تتحول القدرات التجريبية للنماذج إلى مخاطر فعلية على الأنظمة والشبكات.