أثارت حادثة تقنية في مختبر الذكاء الاصطناعي الفائق بشركة “ميتا” موجة من القلق داخل الأوساط التكنولوجية، بعد أن بدأ وكيل ذكاء اصطناعي مفتوح المصدر يُعرف باسم “أوبن كلاو” بحذف رسائل البريد الإلكتروني الخاصة بمديرة التوافق والأمان في الشركة، “سامر يو”، بشكل عشوائي، متجاهلاً التعليمات الصريحة بالتوقف.
بدأت الواقعة عندما أوكلت “يو” إلى الوكيل الذكي مهمة فحص صندوق بريدها الإلكتروني المكتظ لتقديم اقتراحات حول الرسائل التي يمكن أرشفتها أو حذفها، مع تعليمات واضحة بعدم اتخاذ أي إجراء دون موافقة مسبقة. غير أن النظام انطلق بسرعة في حذف الرسائل، متجاوزاً جميع القيود المبرمجة داخله.
وفي توضيح لما حدث، أشارت “يو” إلى أن النظام تعرض لما يُعرف بـ “انضغاط السياق”، وهي ظاهرة تحدث عندما تتجاوز البيانات حجم قدرة الاستيعاب اللحظية للنموذج، مما يضطره إلى تلخيص واختزال الأوامر السابقة.
ونتيجة لذلك، سقطت بعض التعليمات الأساسية من “نافذة السياق”، بما فيها شرط الحصول على موافقة بشرية قبل تنفيذ أي إجراء.
هذه الحادثة تسلط الضوء على التحديات المتزايدة التي تواجه مطوري الذكاء الاصطناعي في ضمان تحكم الإنسان الكامل في أنظمة متقدمة، وتثير تساؤلات حول حدود الاعتماد على الوكلاء الذكيين في إدارة البيانات الحساسة.
