الذكاء الاصطناعي كاد يشعل مواجهة بين واشنطن وبكين بسبب تقرير استخباراتي خاطئ
كاد خطأ ناتج عن استخدام أداة للذكاء الاصطناعي داخل منظومة الاستخبارات والجيش الأميركي أن يدفع الولايات المتحدة إلى تنفيذ عملية عسكرية ضد سفينة صينية، بعدما صنّف تقرير استخباراتي بصورة خاطئة شحنة كانت على متن السفينة باعتبارها مرتبطة ببرنامج للأسلحة النووية.
وبحسب أربعة مصادر مطلعة على الواقعة، بدأت القصة خلال الربيع بالتزامن مع الحرب بين الولايات المتحدة وإيران، عندما جرى تداول تقرير استخباراتي داخل أوساط الجيش الأميركي يتحدث عن سفينة صينية موجودة في الشرق الأوسط ويزعم أنها تنقل مكونات مرتبطة ببرنامج نووي.
وأثار التقرير تحركاً سريعاً داخل المؤسسة العسكرية، حيث بدأت خطط لاعتراض السفينة، فيما كانت عناصر عسكرية تستعد لتنفيذ عملية صعود إلى متنها. كما كانت طائرات عسكرية تحلق في المنطقة، وفق مصدرين مطلعين على التطورات.
لكن العملية توقفت قبل تنفيذها بعدما أعاد مسؤولون فحص المعلومات التي استند إليها التقرير، لتظهر مشكلة جوهرية في مصدر الاستنتاجات التي تضمنها.
فقد تبين أن محللاً تابعاً لقيادة العمليات الخاصة استخدم أداة للذكاء الاصطناعي في تحليل المعلومات المتوافرة حول السفينة، وأن النموذج أخطأ في تفسير طبيعة المواد التي كانت تحملها. ولم يتضح ما إذا كانت الأداة المستخدمة نظاماً تجارياً متاحاً للعامة أو نموذجاً طورته الحكومة الأميركية.
ووفق المصادر، لم تكن المشكلة مجرد خطأ تحليلي محدود، إذ جرى تحويل مخرجات الذكاء الاصطناعي لاحقاً إلى تقرير استخباراتي رسمي، قبل أن يتم توزيعه على الجهات المعنية باعتباره معلومات يمكن الاعتماد عليها.
ووصف أحد المصادر التقرير بأنه كان بعيداً تماماً عن الحقيقة، محذراً من أن تبعاته كانت يمكن أن تكون خطيرة للغاية، نظراً إلى أن اعتراض سفينة صينية من جانب القوات الأميركية كان قد يفتح الباب أمام تصعيد عسكري مباشر بين أكبر قوتين اقتصاديتين وعسكريتين في العالم.
تشير التفاصيل المتاحة إلى أن المحلل استخدم روبوت محادثة لتحليل معلومات مرتبطة بقائمة شحنات السفينة. وكانت البيانات الأولية قد وصلت من قيادة العمليات الخاصة الأميركية في منطقة المحيط الهادئ، التي تتخذ من هاواي مقراً لها.
وبحسب المصادر، جمع النظام المستخدم بين بيانات متاحة من مصادر مفتوحة ومعلومات استخباراتية سرية، بما في ذلك بيانات تم الحصول عليها من إشارات الاتصالات التي تمتلكها الحكومة الأميركية.
وبناءً على هذه المعطيات، توصل النظام إلى استنتاج خاطئ بشأن طبيعة الشحنة، قبل أن يستعين المحلل بالأداة مرة أخرى لصياغة النتيجة في قالب تقرير استخباراتي رسمي.
وتكمن أهمية هذه الخطوة في أن التقرير لم يبق مجرد مخرجات أولية لنظام ذكاء اصطناعي، بل دخل في مسار العمل الاستخباراتي المعتاد، ما منحه وزناً أكبر لدى المسؤولين الذين اطلعوا عليه.
وقال مسؤول أميركي سابق رفيع المستوى، مطلع على أنظمة الذكاء الاصطناعي المستخدمة لدى المحللين العسكريين والاستخباراتيين، إن الأدوات الداخلية تعتمد في كثير من الحالات على نسخ من تقنيات تجارية أُدخلت عليها تعديلات وتحسينات.
ولم ترد قيادة العمليات الخاصة الأميركية في منطقة المحيط الهادئ ووزارة الدفاع الأميركية على طلب للتعليق على الواقعة، وفق المصدر الذي أورد التفاصيل.
تأتي الحادثة في وقت تتجه فيه المؤسسة العسكرية الأميركية بسرعة نحو دمج الذكاء الاصطناعي في عدد متزايد من وظائفها، بدءاً من تحليل كميات ضخمة من المعلومات الاستخباراتية وصولاً إلى دعم عمليات تحديد الأهداف وتوزيع الموارد العسكرية.
كما تمتد الاستخدامات إلى مهام أقل حساسية، مثل إدارة الميزانيات والخدمات اللوجستية وسلاسل الإمداد.
وتقوم الفكرة الأساسية على الاستفادة من قدرة الأنظمة الذكية على معالجة البيانات بسرعة تفوق قدرة البشر، بما يسمح للقادة والمحللين بالوصول إلى المعلومات واتخاذ القرارات في وقت أقصر.
ويرى مسؤولون أميركيون أن تسريع تبني هذه التقنيات أصبح ضرورياً في ظل المنافسة الاستراتيجية مع الصين، خصوصاً مع المخاوف من أن يؤدي التأخر في تطوير القدرات العسكرية المعتمدة على الذكاء الاصطناعي إلى فقدان ميزة تقنية في أي مواجهة مستقبلية.
وفي يناير، أطلق وزير الدفاع الأميركي بيت هيغسيث استراتيجية حملت اسم “استراتيجية تسريع الذكاء الاصطناعي”، بهدف توسيع نطاق استخدام التكنولوجيا داخل وزارة الدفاع.
وأكد هيغسيث عند الإعلان عن الاستراتيجية أن الوزارة تريد تسريع التجارب وإزالة العقبات البيروقراطية وتركيز الاستثمارات، بما يعزز قدرة الجيش الأميركي على الحفاظ على موقع متقدم في مجال الذكاء الاصطناعي العسكري.
وتدعو الاستراتيجية إلى إتاحة نماذج الذكاء الاصطناعي أمام نطاق واسع من الموظفين العسكريين والمدنيين، بما يشمل مستويات مختلفة من التصنيف الأمني، بهدف جعل هذه التكنولوجيا جزءاً من العمليات اليومية داخل وزارة الدفاع.
لكن التوسع السريع في استخدام الذكاء الاصطناعي يواجه مشكلة أخرى تتمثل في اختلاف الأنظمة والمعايير المستخدمة بين المؤسسات والجهات الحكومية.
وبحسب مسؤولين مطلعين على طريقة عمل هذه المنظومة، فإن استخدام الذكاء الاصطناعي يتم بدرجة كبيرة من اللامركزية، إذ تعتمد جهات مختلفة على أدوات ونماذج متباينة، بينما تختلف كذلك قواعد الاستخدام وإجراءات السلامة.
ولا توجد، وفق المصادر، مجموعة موحدة من المعايير التي تضمن التحقق من دقة المعلومات التي تنتجها مختلف أدوات الذكاء الاصطناعي المستخدمة في المؤسسات العسكرية والاستخباراتية.
ويعني ذلك أن مستوى الثقة في مخرجات هذه الأنظمة يمكن أن يختلف من أداة إلى أخرى، ومن جهة حكومية إلى أخرى، وهو ما يزيد أهمية المراجعة البشرية للمعلومات قبل استخدامها في القرارات الحساسة.
تسلط حادثة السفينة الصينية الضوء على نوع مختلف من المخاطر التي تثيرها أنظمة الذكاء الاصطناعي. فبدلاً من سيناريوهات فقدان البشر السيطرة على التكنولوجيا، يتمثل الخطر الأكثر مباشرة في إمكانية أن يستخدم البشر مخرجات خاطئة أو مضللة لاتخاذ قرارات ذات تبعات حقيقية.
ويزداد هذا الخطر عندما يتعلق الأمر بتحديد الأهداف العسكرية، حيث يمكن لخطأ في تحليل البيانات أو تفسيرها أن يؤثر في قرار يتعلق بعملية ميدانية.
وقال مصدر مطلع على السياسات الحالية للجيش إن استخدام الذكاء الاصطناعي في عمليات تحديد الأهداف يتوسع، بينما لا تزال هناك تساؤلات بشأن مدى كفاية الإرشادات المتعلقة بالدور الذي يجب أن يحتفظ به العنصر البشري في عملية اتخاذ القرار.
ولا تقتصر المشكلة على احتمال وقوع خطأ تقني، بل تشمل أيضاً سرعة إنتاج المعلومات. فكلما أصبحت الأنظمة قادرة على إعداد التحليلات والتقارير خلال وقت أقصر، زاد الضغط على المحللين لتقييم المعلومات وتعميمها بالوتيرة نفسها.
ويرى بعض المسؤولين أن هذه السرعة قد تخلق بيئة يصبح فيها التحقق من النتائج أقل عمقاً، خصوصاً عندما يتعامل المستخدم مع مخرجات الذكاء الاصطناعي باعتبارها نقطة انطلاق موثوقة بدلاً من كونها فرضية تحتاج إلى اختبار.
وتشير المصادر إلى أن الخطأ الذي وقع في تحليل شحنة السفينة لا يمثل حالة منفردة من الأخطاء التي يمكن أن تنتجها أنظمة الذكاء الاصطناعي داخل المؤسسات الاستخباراتية.
وتعرف هذه الظاهرة باسم “الهلوسة”، عندما ينتج النظام معلومات تبدو منطقية ومقنعة لكنها لا تستند إلى وقائع صحيحة.
وتصبح هذه المشكلة أكثر حساسية عندما يتم التعامل مع المخرجات في بيئة عسكرية، لأن الخطأ قد لا يتوقف عند تقرير غير دقيق، بل يمكن أن ينتقل إلى سلسلة من القرارات التي تبنى عليه.
كما يرى بعض مسؤولي الاستخبارات أن الأجيال الأصغر من المحللين، الذين اعتادوا استخدام أدوات الذكاء الاصطناعي في حياتهم اليومية، قد يكونون أكثر ميلاً إلى الاعتماد عليها، ما يجعل تدريبهم على التدقيق والتحقق من النتائج جزءاً أساسياً من عملية دمج التكنولوجيا.
وتختصر الواقعة التحدي الذي تواجهه المؤسسات العسكرية والاستخباراتية مع توسع استخدام الذكاء الاصطناعي: التكنولوجيا قادرة على تسريع الوصول إلى المعلومات وتحليلها، لكنها قادرة أيضاً على تسريع انتشار الاستنتاج الخاطئ إذا لم تخضع مخرجاتها لمراجعة بشرية صارمة.
وفي حالة السفينة الصينية، لم تكن المشكلة في أن النظام أنتج إجابة خاطئة فحسب، وإنما في أن الإجابة انتقلت من شاشة روبوت محادثة إلى تقرير استخباراتي ثم إلى خطط عسكرية، قبل اكتشاف الخطأ في اللحظة الأخيرة.
