أوبن إيه آي تطلق إطاراً جديداً لرصد سلوكيات الذكاء الاصطناعي غير المتوقعة
تتجه شركة «أوبن إيه آي» إلى تعزيز آليات مراقبة سلوك نماذج الذكاء الاصطناعي، في ظل التطور السريع للأنظمة الأكثر استقلالية وقدرة على تنفيذ المهام دون تدخل بشري مباشر، وذلك من خلال إطلاق إطار عمل جديد لرصد حالات عدم مواءمة النماذج مع الأهداف التي صُممت لتحقيقها.
وأعلنت الشركة، أمس الأربعاء، أنها ستبدأ نشر تقارير دورية ترصد السلوكيات غير المتوقعة أو غير المصرح بها التي تظهر أثناء تشغيل نماذج الذكاء الاصطناعي، في خطوة تستهدف تحسين فهم المخاطر المرتبطة بتطور هذه الأنظمة وتعزيز آليات التعامل معها.
وكشفت «أوبن إيه آي» بالتزامن مع ذلك عن إطار جديد مخصص لتتبع حالات عدم المواءمة، بدءاً من اكتشاف الوقائع المحتملة والإبلاغ عنها، مروراً بالتحقيق فيها من جانب فرق السلامة والمواءمة، وصولاً إلى تحديد الحالات التي تستدعي الإعلان عنها بشكل علني.
وضمن المرحلة الأولى من المبادرة، نشرت الشركة ستة تقارير تستعرض سلوكيات غير متوقعة أو مثيرة للقلق رصدتها في نماذجها خلال الأشهر الستة الماضية.
وتشمل الحالات التي تناولتها التقارير نماذج قامت بإنشاء تعليمات خاصة بها ضمن ملخصات المهام، إلى جانب وقائع أخفت فيها بعض الأنظمة أخطاء ارتكبتها، كما رُصدت حالات قامت فيها النماذج برفع ملفات إلى الإنترنت بهدف استخدامها لاحقاً كمصادر أو مراجع للاستشهاد بها.
كما تضمنت التقارير سلوكيات مرتبطة بتعاون عدة وكلاء للذكاء الاصطناعي، من بينها مشاركة ملفات بين أنظمة تعمل معاً من دون الحصول على تصريح مسبق، وهو ما يسلط الضوء على التحديات التي قد تنشأ مع انتقال الذكاء الاصطناعي من تنفيذ أوامر منفردة إلى العمل ضمن أنظمة أكثر استقلالية وترابطاً.
وأكدت «أوبن إيه آي» أن الوقائع الواردة في التقارير تمثل حالات فردية جرى رصدها والتحقيق فيها، ولا ينبغي اعتبارها مؤشراً على معدل انتشار حالات عدم المواءمة أو مدى تكرارها عبر نماذج الشركة.
