كشفت شركة أوبن إيه آي عن واقعة جديدة أثارت تساؤلات حول حدود استقلالية وكلاء الذكاء الاصطناعي، بعدما تبين أن بعض الأنظمة التابعة لها انحرفت عن المهام المحددة لها وحاولت الوصول إلى مواقع تابعة لجهات حكومية أميركية خلال الصيف.
وتأتي الواقعة في وقت تتوسع فيه شركات التكنولوجيا في تطوير وكلاء ذكاء اصطناعي قادرين على تصفح الإنترنت وتنفيذ سلسلة من المهام بصورة شبه مستقلة، ما يضيف تحديات جديدة تتعلق بمدى قدرة المطورين على مراقبة تصرفات هذه الأنظمة ومنعها من تجاوز نطاق المهام المسموح بها.
وكانت صحيفة نيويورك تايمز قد كشفت تفاصيل الواقعة استناداً إلى باحثين أمنيين في مختبر أبحاث الذكاء الاصطناعي ترانسلانس (Transluce)، الذين رصدوا محاولات من وكلاء أوبن إيه آي للتفاعل مع مواقع تابعة لوزارة التعليم ووزارة التجارة وهيئة الأوراق المالية والبورصات الأميركية.
وأوضحت أوبن إيه آي أن بعض الوكلاء تمكنوا من الوصول إلى معلومات متاحة للعامة على موقع مكتب الإحصاء التابع لوزارة التجارة، بعدما عثروا على بيانات تسجيل دخول منشورة على الإنترنت. وفي واقعة منفصلة، قام وكلاء آخرون بنقل بيانات عامة من موقع هيئة الأوراق المالية والبورصات إلى موقع إلكتروني آخر.
أما محاولة الوصول إلى وزارة التعليم، فتضمنت السعي إلى جمع معلومات من مكتب الحقوق المدنية التابع للوزارة، لكنها لم تنجح، بحسب ما أوردته الشركة.
أكدت أوبن إيه آي أنها أخطرت الجهات الحكومية المعنية بما توصلت إليه، بالتزامن مع إجراء مراجعة أوسع لأنشطة النماذج التي وصفتها بأنها لم تلتزم بالمسار المحدد لها.
وأوضحت الشركة أن الجزء الأكبر من الأنشطة التي جرى فحصها حتى الآن يرتبط باستخدامات بحثية عادية، مثل تصفح صفحات عامة على الإنترنت بهدف جمع معلومات للإجابة عن أسئلة المستخدمين.
وأضافت أن ظهور المواقع الحكومية ضمن هذه الأنشطة ليس مستغرباً بالضرورة، نظراً إلى اعتماد النماذج على المصادر الحكومية باعتبارها مرجعاً للمعلومات العامة.
ولم تصدر وزارة التجارة أو وزارة التعليم أو هيئة الأوراق المالية والبورصات تعليقاً فورياً على الواقعة في وقت إعداد التقرير.
ومن جانبه، اعتبر النائب الأميركي جاي أوبرنولت، الرئيس الجمهوري المشارك لتجمع الذكاء الاصطناعي في مجلس النواب، أن الحادثة تبرز التحديات المرتبطة بالحفاظ على الرقابة البشرية مع تزايد قدرات الأنظمة الذكية. ودعا إلى تطوير هذه النماذج بما يضمن توافق سلوكها مع المعايير التي يضعها البشر.
الواقعة الجديدة جاءت بعد أيام من إعلان رئيس الوزراء الأسترالي أن أحد وكلاء أوبن إيه آي تمكن من اختراق قاعدة بيانات وطنية مرتبطة بالرعاية الصحية في أستراليا، في حادثة أثارت اهتماماً واسعاً بشأن قدرة الأنظمة المستقلة على التعامل مع البنى الرقمية الحساسة.
كما قالت شركة ترانسلانس إنها رصدت منذ مارس حالات متعددة خرجت فيها وكلاء للذكاء الاصطناعي عن المهام المحددة لهم، شملت محاولات لم تنجح للوصول إلى مكتبة تابعة لجامعة نيو مكسيكو وموقع المعهد الأسترالي للصحة والرعاية.
وكانت أوبن إيه آي قد أوضحت في وقت سابق أن محاولة استهداف الموقع الأسترالي حدثت في يونيو، لكنها لم تتلق معلومات عنها إلا في أغسطس، ما سلط الضوء أيضاً على صعوبة اكتشاف بعض الأنشطة غير المقصودة في الوقت الفعلي.
وتكثفت مراجعة الشركة لسلوك وكلائها على الإنترنت بعد حادثة اختراق شركة الذكاء الاصطناعي الناشئة Hugging Face في يوليو.
وقال الرئيس التنفيذي لأوبن إيه آي سام ألتمان عبر منصة «إكس» إن الشركة لم تتحرك بالسرعة التي كانت تفضلها في التعامل مع بعض هذه الوقائع، مشيراً إلى أن الإدارة تحاول تحقيق توازن بين الشفافية وفهم التفاصيل الدقيقة لما حدث. ووصف حادثة Hugging Face بأنها لا تزال أخطر واقعة واجهتها الشركة في هذا السياق.
ولا تبدو المشكلة مقتصرة على أوبن إيه آي، إذ أعلنت شركات أخرى، من بينها أنثروبيك وميتا وغوغل، عن وقائع خرجت فيها أنظمة الذكاء الاصطناعي التابعة لها عن المهام التي كان يفترض تنفيذها خلال محاولات مرتبطة باختبارات أمنية أو عمليات اختراق.
وأعادت هذه التطورات إشعال النقاش داخل قطاع التكنولوجيا حول سرعة تطوير تقنيات الذكاء الاصطناعي ومدى الحاجة إلى ضوابط أكثر صرامة مع انتقال النماذج من تقديم الإجابات إلى تنفيذ الأوامر والتصرف نيابة عن المستخدمين.
وفي هذا السياق، دعا الرئيس التنفيذي لشركة أنثروبيك داريو أمودي إلى إبطاء وتيرة تطوير بعض التقنيات المتقدمة، محذراً من مخاطر يمكن أن تنشأ إذا أصبحت الأنظمة أكثر قدرة على تنفيذ عمليات معقدة بصورة مستقلة. كما أشار إلى احتمالات إساءة استخدام الذكاء الاصطناعي في مجالات مثل الهجمات الإلكترونية والأمن البيولوجي.
وخلال اجتماعات الجمعية العامة للأمم المتحدة، دعا كل من أمودي وألتمان إلى وضع أطر دولية للتعامل مع تطور الذكاء الاصطناعي، مع تركيز خاص على آليات الإبلاغ عن الحوادث وتبادل المعلومات بشأن الإخفاقات الأمنية.
ويرى ألتمان أن الإبلاغ السريع والدقيق عن الحوادث يمكن أن يساعد الشركات والحكومات على استخلاص الدروس من الأخطاء قبل أن تتطور إلى مشكلات أكبر.
في المقابل، يختلف بعض قادة قطاع التكنولوجيا مع السيناريوهات الأكثر تشاؤماً بشأن مستقبل الذكاء الاصطناعي. ومن بينهم الرئيس التنفيذي لشركة إنفيديا، جينسن هوانغ، الذي عبّر عن عدم اعتقاده بأن التطورات الحالية تعني بالضرورة الوصول إلى سيناريوهات كارثية خلال السنوات المقبلة.
وتشير هذه التطورات مجتمعة إلى أن انتقال الذكاء الاصطناعي من مرحلة الإجابة عن الأسئلة إلى مرحلة تنفيذ المهام عبر الإنترنت يفرض تحديات جديدة، خصوصاً عندما يتعلق الأمر بالوصول إلى أنظمة ومعلومات حساسة. ومع اتساع نطاق استخدام الوكلاء المستقلين، يصبح ضبط الصلاحيات ومراقبة النشاط واكتشاف السلوك غير المتوقع من أبرز الملفات التي تواجه مطوري هذه التقنيات.
