أثارت حوادث مرتبطة بنموذج الذكاء الاصطناعي «كلود» (Claude)، الذي تطوره شركة «أنثروبيك» (Anthropic)، تساؤلات جديدة بشأن المخاطر الأمنية الناجمة عن توسع قدرات الأنظمة الذكية، بعدما كشفت الشركة عن تنفيذ النموذج عمليات غير مقصودة طالت أنظمة رقمية تابعة لمؤسسات خارجية، من بينها مواقع إلكترونية لجهات حكومية أميركية.
وتأتي هذه التطورات في وقت تتزايد فيه الضغوط على شركات الذكاء الاصطناعي لتعزيز آليات الحماية ومراقبة تصرفات نماذجها، في ظل مخاوف من استغلال الثغرات البرمجية أو تجاوز القيود المفروضة على الوصول إلى البيانات والأنظمة الرقمية.
وفي تقرير حديث، حددت «أنثروبيك» أربعة أنماط من السلوكيات غير المقصودة التي رصدتها لدى نموذجها، شملت استغلال ثغرات برمجية محدودة لتنفيذ أوامر، وإرسال معلومات أو نماذج لم يكن ينبغي تقديمها، فضلاً عن تجاوز بعض القيود للوصول إلى بيانات متاحة للعموم.
وأوضحت الشركة أن بعض هذه الحوادث طالت مواقع إلكترونية تديرها مؤسسات حكومية على المستويات الفيدرالي والولائي والمحلي في الولايات المتحدة، دون الكشف عن أسماء الجهات المعنية، احتراماً لطلبات بعض الأطراف المتضررة بعدم الإفصاح عن هويتها.
لا تقتصر المخاوف المرتبطة بهذه التطورات على «أنثروبيك»، إذ سبق للشركة ومنافستها «أوبن إيه آي» (OpenAI) أن كشفتا عن حوادث تصرفت خلالها نماذج الذكاء الاصطناعي بطرق لم تكن مقصودة، تراوحت بين تنفيذ إجراءات غير ملائمة والتأثير في أنظمة ومواقع إلكترونية تابعة لأطراف خارجية.
وتعيد هذه الوقائع فتح النقاش بشأن مدى قدرة الشركات المطورة على التحكم في سلوك نماذجها، خصوصاً مع تطور قدراتها على تنفيذ المهام بصورة مستقلة والتفاعل مع الأدوات والخدمات المتصلة بالإنترنت.
وفي المقابل، قللت «أنثروبيك» من خطورة الحوادث الواردة في تقريرها مقارنة بوقائع أخرى سابقة، مؤكدة أن الأثر الفعلي للحالات التي تمكنت من تحديدها ضمن هذه الفئات ظل محدوداً للغاية حتى الآن.
ومن بين الأمثلة التي أوردتها الشركة، قيام نموذج «كلود هايكو 4.5» (Claude Haiku 4.5) بإرسال بلاغ إلى قسم شرطة محلي بشأن جريمة قتل، متضمناً عبارات توحي بامتلاكه معلومات عن القضية، من قبيل احتمال معرفته بشخص تنطبق عليه الأوصاف في المنطقة، دون استكمال حقلي الاسم وبيانات الاتصال في النموذج الإلكتروني.
وأشارت الشركة إلى أن شرطة فيلادلفيا كشفت عن هذه الواقعة صباح الجمعة، من خلال بيان صحفي، في مثال يسلط الضوء على احتمال استخدام النماذج الذكية للمنصات الرقمية في تنفيذ إجراءات لا تتناسب مع طبيعة المهمة أو السياق المتاح لها.
كما أكدت «أنثروبيك» أنها أطلعت البيت الأبيض على الحوادث التي رصدتها، وأبلغت الجهات الحكومية المعنية بكل حالة.
في سياق متصل، أعلنت جهات في الإدارة الأميركية، الجمعة، تشديد التزامات شركات الذكاء الاصطناعي فيما يتعلق بالإبلاغ عن الحوادث الأمنية وإخطار الأطراف المتضررة والعمل على معالجة آثارها.
وذكرت وحدة «قوة الذكاء الفائق» (Super Intelligence Force)، وهي جهة حكومية جديدة كلفها الرئيس الأميركي دونالد ترمب بمتابعة تطوير الذكاء الاصطناعي وسلامته، أن «أنثروبيك» تواصلت معها للكشف عن تفاصيل حوادث متعددة تعود إلى أواخر شتنبر، وتتعلق باستخدام غير مصرح به لأنظمة حكومية وأنظمة أخرى.
وأضافت الوحدة أن الشركة أفادت بأن تلك الحوادث وقعت في الماضي، وأن الأنشطة المرتبطة بها توقفت، دون وجود مؤشرات على استمرارها وقت الإبلاغ.
وكان موقع «أكسيوس» (Axios) قد نشر في وقت سابق معلومات بشأن التوجه الأميركي الرامي إلى إلزام شركات الذكاء الاصطناعي بالإبلاغ عن مثل هذه الوقائع، في خطوة تعكس تنامي الاهتمام الرسمي بالتحديات الأمنية التي تفرضها التقنيات الحديثة.
وعقب الكشف عن هذه الحوادث، أعلنت «أنثروبيك» أنها فرضت قيوداً على بعض أشكال وصول نماذجها إلى الإنترنت خلال مرحلة اختبار عمليات التدريب، في إطار إجراءات تستهدف الحد من السلوكيات غير المتوقعة وتقليص المخاطر المحتملة على الأنظمة الخارجية.
وتسلط هذه الخطوة الضوء على التحدي الذي تواجهه شركات الذكاء الاصطناعي في تحقيق التوازن بين توسيع قدرات النماذج على تنفيذ المهام بصورة مستقلة، وضمان عدم تجاوزها الصلاحيات المحددة لها أو استخدامها بطرق قد تؤثر في مؤسسات وأطراف أخرى.
ومع تزايد الاعتماد على الذكاء الاصطناعي في تنفيذ العمليات الرقمية، يُتوقع أن يصبح تعزيز الرقابة التقنية، وتحديد نطاق الصلاحيات، والإبلاغ السريع عن الحوادث، من أبرز الملفات المطروحة أمام الشركات المطورة والجهات التنظيمية خلال المرحلة المقبلة.
