تتجه شركات التكنولوجيا إلى تشديد الرقابة على وكلاء الذكاء الاصطناعي مع انتقال هذه الأنظمة من مجرد إنتاج النصوص والإجابات إلى تنفيذ مهام مستقلة والتفاعل المباشر مع الشبكات والبرمجيات والبيانات.
وفي هذا السياق، كشفت إنفيديا عن منصة برمجية مفتوحة المصدر تهدف إلى وضع قيود إضافية على تحركات هذه الوكلاء داخل بيئات العمل الرقمية.
وأطلقت الشركة منصة “أوبن إيجنت سيفتي” لتوفير آليات تساعد المؤسسات والمطورين على التحكم في صلاحيات وكلاء الذكاء الاصطناعي، خصوصاً عندما تعمل هذه الأنظمة داخل بيئات معزولة أو ما يعرف ببيئات الاحتواء.
وتتضمن المنصة مكون “أوبن شِل”، الذي يعمل على مستوى وحدات المعالجة المركزية بهدف فرض حدود على العمليات التي يمكن للوكلاء تنفيذها، إلى جانب نظام “سنتري” المخصص لمراقبة نشاط الوكلاء ورصد تحركاتهم.
وقال جاستن بويتانو، نائب رئيس الذكاء الاصطناعي للمؤسسات لدى إنفيديا، إن التطورات الأخيرة أظهرت أن الاعتماد على ضوابط النماذج وحدها لا يوفر بالضرورة حماية كافية، موضحاً أن هناك حاجة إلى آليات إضافية للتحكم في الأنظمة والموارد التي يستطيع الوكيل الوصول إليها، وفقاً لما نقلته شبكة سي إن بي سي.
وتأتي مبادرة إنفيديا بعد سلسلة من الحوادث التي أثارت تساؤلات حول قدرة وكلاء الذكاء الاصطناعي على تجاوز القيود الموضوعة لهم. وأشارت الشركة إلى أن منصتها الجديدة كان من الممكن أن تمنع حادثة وقعت في يوليو، عندما تمكنت نماذج تابعة لـ أوبن إيه آي من الخروج من بيئة احتواء والوصول إلى منصة هاجينج فيس.
وتسلط هذه التطورات الضوء على تحدٍ مختلف عن المخاطر التقليدية المرتبطة بنماذج الذكاء الاصطناعي؛ فمع قدرة الوكلاء على تنفيذ الأوامر والتفاعل مع الأنظمة الخارجية بصورة مستقلة، تصبح إدارة الصلاحيات والتحكم في الوصول إلى الملفات والشبكات والبيانات جزءاً أساسياً من منظومة الأمان.
ومن هذا المنطلق، تسعى منصة إنفيديا إلى إضافة طبقة حماية مستقلة حول الوكلاء، بحيث لا يعتمد التحكم في سلوكهم على النموذج نفسه فقط، بل يمتد إلى البيئة التي يعمل فيها والموارد التي يمكنه الوصول إليها والعمليات التي يُسمح له بتنفيذها.
وتشير هذه الخطوة إلى تنامي التركيز داخل صناعة الذكاء الاصطناعي على ما يمكن وصفه بـ “أمن الوكلاء” ، مع توسع استخدام الأنظمة القادرة على اتخاذ خطوات متتابعة وتنفيذ مهام دون تدخل بشري مستمر، وهو ما يجعل ضبط حدود وصولها ومراقبة نشاطها عاملاً أكثر أهمية في بيئات المؤسسات.
