الذكاء الاصطناعي يقترب من حدود القياس فهل أصبحت أدوات الرقابة أبطأ من التكنولوجيا

لم تعد المخاوف المرتبطة بالذكاء الاصطناعي المتقدم تدور فقط حول ما تستطيع هذه الأنظمة فعله، بل حول سؤال أكثر تعقيدًا: هل نملك أصلًا الأدوات الكافية لمعرفة حدود ما تستطيع فعله؟

فكلما ارتفعت قدرات النماذج، أصبح تقييم مخاطرها أكثر صعوبة، خصوصًا عندما تنتقل من الإجابة عن الأسئلة وتنفيذ الأوامر البسيطة إلى استخدام الأدوات، وكتابة الأكواد، والتعامل مع أنظمة رقمية معقدة، وتنفيذ سلسلة طويلة من المهام بصورة شبه مستقلة.

وهنا تظهر مفارقة تشبه واحدة من أكثر اللحظات شهرة في تاريخ التكنولوجيا النووية.

في الساعات الأولى التي أعقبت انفجار مفاعل تشرنوبل عام 1986، أظهرت إحدى أجهزة قياس الإشعاع رقمًا بلغ 3.6 رونتجن في الساعة. بدا الرقم مرتفعًا ومقلقًا، لكنه لم يكن يعكس حجم الكارثة الحقيقي.

فالرقم لم يكن يمثل مستوى الإشعاع الفعلي في الموقع، وإنما الحد الأقصى الذي يستطيع الجهاز تسجيله. وبمجرد تجاوز الإشعاع هذا المستوى، أصبح الجهاز عاجزًا عن إعطاء صورة دقيقة عن الخطر الموجود حوله.

لم يكن الجهاز يقدم معلومة خاطئة، لكنه كان يعمل داخل نطاق أصغر من الواقع الذي يفترض أن يقيسه.

وهذه هي النقطة التي تجعل تشبيه تشرنوبل حاضرًا مجددًا في النقاش حول الذكاء الاصطناعي: ماذا يحدث عندما تتطور قدرات التكنولوجيا بوتيرة أسرع من قدرة أدوات القياس والرقابة على رصد مخاطرها؟

السؤال لم يعد افتراضيًا بالكامل. فقد كشفت اختبارات حديثة عن سلوكيات وقدرات سيبرانية لنماذج متقدمة لم تكن متوقعة بالكامل من جانب مطوريها، بينما بدأ بعض قادة قطاع الذكاء الاصطناعي أنفسهم يحذرون من أن سباق تطوير النماذج قد يتقدم بوتيرة أسرع من أنظمة السلامة المصممة لمراقبتها.

عاد الجدل حول سرعة تطوير الذكاء الاصطناعي إلى الواجهة بقوة خلال سبتمبر 2026، بعدما دعا الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، إلى إبطاء وتيرة زيادة قدرات النماذج المتقدمة، بحيث تحصل أنظمة السلامة والتقييم على وقت كافٍ لمواكبة التطور التقني.

ولا تعني هذه الدعوة وقف الابتكار، بل تقوم على فكرة أن استمرار التطوير بوتيرة شديدة السرعة قد يؤدي إلى ظهور قدرات جديدة قبل أن تتوافر الأدوات الكافية لاختبارها وفهم مخاطرها.

ويطرح أمودي، ضمن هذا السياق، فكرة تعزيز دور جهات تقييم مستقلة تستطيع اختبار النماذج المتقدمة بصورة مستمرة، بدلًا من الاكتفاء بتقييمها قبل طرحها أو عند مراحل محددة من عملية التطوير.

لكن هذه الرؤية تواجه موقفًا مختلفًا داخل قطاع التكنولوجيا، حيث يرى مؤيدو استمرار السباق أن تطوير قدرات الذكاء الاصطناعي وتطوير أنظمة السلامة يمكن أن يحدثا في الوقت نفسه، وأن تأخير الابتكار قد يحمل تكاليف اقتصادية واستراتيجية.

الجانب الأكثر حساسية في النقاش لا يتعلق فقط بالقدرات التي تعلن عنها الشركات، وإنما بالسلوك الذي يظهر عندما توضع النماذج أمام ظروف معقدة أو بيئات لم تكن معدة بالطريقة المقصودة.

وفي يوليو 2026، أعلنت أنثروبيك عن ثلاث حوادث مرتبطة باختبارات للأمن السيبراني، تمكنت خلالها نماذج Claude من الوصول إلى أنظمة حقيقية تابعة لجهات خارجية بسبب وجود اتصال بالإنترنت في بيئات كان يفترض أن تكون معزولة.

وفي سبتمبر، كشفت الشركة عن حادثة رابعة تعود إلى يناير من العام نفسه، وقالت إنها وسعت نطاق مراجعتها لتشمل نحو 481 مليون سجل من سجلات الاختبارات والتقييمات.

ولا تعني هذه الوقائع أن نماذج الذكاء الاصطناعي أصبحت واعية أو تمتلك إرادة مستقلة، كما أنها لا تشكل دليلًا على أن التكنولوجيا أصبحت خارج السيطرة.

لكنها تكشف تحديًا مختلفًا وأكثر واقعية: كلما أصبحت النماذج قادرة على تنفيذ عدد أكبر من الخطوات واستخدام أدوات خارجية والتفاعل مع بيئات رقمية حقيقية، ازدادت صعوبة التنبؤ بكل مسارات سلوكها.

وفي إحدى الحالات التي أعلنت عنها أنثروبيك، تمكن نموذج خلال اختبار للأمن السيبراني من الوصول إلى بنية تحتية حقيقية نتيجة خطأ في إعداد البيئة التجريبية.

وفي حادثة أخرى، نشر النموذج حزمة برمجية خبيثة على منصة عامة بعدما تعامل معها باعتبارها جزءًا من البيئة التجريبية، قبل اكتشاف النشاط وإزالة الحزمة.

هذه الوقائع لا تثبت وقوع كارثة، لكنها تطرح سؤالًا مهمًا بشأن مدى كفاية الاختبارات الحالية عندما تصبح النماذج أكثر قدرة على استخدام الأدوات واتخاذ سلسلة من الخطوات للوصول إلى هدف محدد.

في الجهة المقابلة، يرى أنصار مواصلة التطوير أن المخاطر يمكن التعامل معها من خلال تحسين أنظمة السلامة، وزيادة الاختبارات، وتعزيز الرقابة، بدلًا من إبطاء التطور التقني نفسه.

ويستند هذا الاتجاه إلى أن الذكاء الاصطناعي لم يعد مجرد صناعة تكنولوجية ناشئة، بل أصبح مرتبطًا بالاستثمار والإنتاجية والبنية التحتية الرقمية وأشباه الموصلات ومراكز البيانات، فضلًا عن المنافسة الجيوسياسية.

وتتبنى الإدارة الأمريكية الحالية موقفًا يركز على الحفاظ على الريادة في الذكاء الاصطناعي، مع التأكيد على تطوير أنظمة قوية وقابلة للتوجيه وخاضعة للمساءلة.

كما تؤكد واشنطن أهمية تجنب ما تعتبره تنظيمًا مفرطًا قد يؤدي إلى الحد من الابتكار، خصوصًا في ظل المنافسة التكنولوجية المتزايدة مع الصين.

وبذلك، لا تنظر الولايات المتحدة إلى الذكاء الاصطناعي باعتباره ملفًا تنظيميًا فقط، وإنما باعتباره أيضًا عنصرًا من عناصر القوة الاقتصادية والتكنولوجية والأمنية.

المشكلة أن قرار إبطاء السباق لا يتعلق بشركات التكنولوجيا وحدها.

فخلف النماذج المتقدمة توجد استثمارات ضخمة في مراكز البيانات والرقائق وشبكات الكهرباء والحوسبة السحابية، إضافة إلى آلاف الشركات التي أصبحت مرتبطة بصورة مباشرة أو غير مباشرة بتوسع الذكاء الاصطناعي.

ولهذا فإن أي تباطؤ كبير في الإنفاق على البنية التحتية للذكاء الاصطناعي يمكن أن يمتد تأثيره إلى قطاعات أخرى.

وقد تظهر التداعيات أولًا في أسهم شركات التكنولوجيا وأشباه الموصلات، قبل أن تنتقل إلى الاستثمار والتوظيف والإنفاق الاستهلاكي إذا أصبح التراجع واسعًا ومستمرًا.

وفي الوقت نفسه، فإن استمرار السباق دون تعزيز أدوات السلامة قد يرفع تكلفة أي حادث كبير في المستقبل.

وهنا تتشكل معادلة صعبة: التباطؤ قد يحمل تكلفة اقتصادية واستراتيجية، بينما استمرار التسارع قد يزيد من صعوبة مراقبة المخاطر.

تكتسب هذه المعضلة بعدًا إضافيًا بسبب المنافسة الأمريكية الصينية في مجال الذكاء الاصطناعي.

فبالنسبة لواشنطن، لا يتعلق الأمر فقط بمن يمتلك أفضل نموذج، وإنما بمن يملك البنية التحتية والرقائق ومراكز البيانات والقدرة الحاسوبية والشركات التي تستطيع تحويل هذه التكنولوجيا إلى تطبيقات اقتصادية وعسكرية وأمنية.

ومن هذا المنطلق، فإن فرض قيود واسعة على تطوير الذكاء الاصطناعي داخل الولايات المتحدة قد يثير مخاوف من منح المنافسين مساحة أكبر للحاق بالركب.

لكن الجانب الآخر من المعادلة يرى أن المنافسة نفسها يمكن أن تصبح عامل ضغط يدفع الشركات والدول إلى إطلاق قدرات جديدة قبل اكتمال اختبارات السلامة.

وهكذا يصبح السباق التكنولوجي أشبه بمسار لا يمكن لأحد أطرافه أن يبطئه بسهولة من دون أن ينظر إلى ما يفعله الآخرون.

داخل الولايات المتحدة، يتجه جزء من النقاش إلى محاولة بناء قواعد جديدة للتعامل مع النماذج الأكثر تقدمًا.

وتشمل المقترحات المطروحة أفكارًا بشأن التقييم المستقل للنماذج، والإفصاح عن حوادث السلامة، وتوثيق الاختبارات، وتشديد متطلبات الرقابة على الأنظمة التي تتجاوز مستويات معينة من القدرة.

ومن بين الأفكار التي ظهرت في النقاش التشريعي الأمريكي مشاريع تستهدف ما يعرف بـ”النماذج الحدودية”، أي الأنظمة التي تمثل أحدث جيل من قدرات الذكاء الاصطناعي.

وفي حال تطبيق قواعد أكثر صرامة، فقد تصبح شركات التكنولوجيا مطالبة بإثبات أن أنظمتها اجتازت اختبارات محددة قبل نشرها أو توسيع نطاق استخدامها.

وهذا يعني أن المنافسة المستقبلية قد لا تدور فقط حول سؤال: من يطور النموذج الأقوى؟

بل أيضًا حول سؤال آخر: من يستطيع إثبات أن النموذج الأقوى يمكن التحكم فيه؟

التداعيات المحتملة لا تقتصر على المختبرات وشركات التكنولوجيا، إذ أصبحت طفرة الذكاء الاصطناعي أحد المحركات المهمة للاستثمار في الاقتصاد الأمريكي.

وفي حال تعرضت الاستثمارات المرتبطة بالذكاء الاصطناعي لتراجع حاد، فقد تواجه الأسواق إعادة تقييم للتوقعات المرتفعة المرتبطة بأرباح شركات التكنولوجيا وقدرتها على تحقيق عوائد مستقبلية ضخمة.

ويمكن تصور ثلاثة مسارات افتراضية:

لكن هذه السيناريوهات تظل افتراضية، وتعتمد نتائجها على حجم الصدمة ومدة استمرارها وقدرة القطاعات الأخرى على تعويض التراجع في الاستثمار التكنولوجي.

في النهاية، قد لا يكون السؤال الأكثر أهمية هو ما إذا كان الذكاء الاصطناعي أصبح بالفعل خطرًا لا يمكن السيطرة عليه.

لا توجد أدلة تثبت وصول التكنولوجيا إلى هذه المرحلة.

لكن التطورات الأخيرة تفرض سؤالًا أكثر دقة: هل تتطور أدوات قياس المخاطر بالسرعة نفسها التي تتطور بها قدرات النماذج؟

وهنا يعود مشهد تشرنوبل إلى الواجهة.

فالرقم 3.6 رونتجن لم يكن كاذبًا، لكنه لم يكن كافيًا لوصف الواقع.

وهذا هو الفارق الجوهري بين معرفة رقم ما وفهم ما يعنيه.

وفي الذكاء الاصطناعي، قد لا تكمن المشكلة المستقبلية في أن أدوات الرقابة تعطي معلومات خاطئة، وإنما في أن نطاق ما تقيسه قد يصبح أصغر من نطاق القدرات التي يفترض أن تراقبها.

حتى الآن، لم يثبت أن هذه الفجوة وصلت إلى نقطة خطيرة لا يمكن التعامل معها، لكن الحوادث التي ظهرت خلال الاختبارات، والنقاش المتزايد داخل شركات الذكاء الاصطناعي نفسها، يجعلان مسألة تطوير أدوات السلامة بالتوازي مع القدرات التقنية واحدة من أكثر القضايا حساسية في المرحلة المقبلة.

فالسباق لم يعد فقط بين نموذج وآخر، أو بين شركة وأخرى.

إنه سباق بين سرعة اكتساب الذكاء الاصطناعي لقدرات جديدة، وسرعة بناء الأدوات التي تستطيع قياس تلك القدرات والسيطرة على مخاطرها.

وربما لهذا السبب لا يكون السؤال الحقيقي في المرحلة المقبلة هو ما إذا كان ينبغي الضغط على المكابح أو مواصلة الضغط على دواسة الوقود.

بل: ماذا يحدث عندما يصل مؤشر المخاطر إلى نهاية المقياس، بينما يستمر سباق التكنولوجيا في التسارع؟