ثقة زائدة في الذكاء الاصطناعي.. عندما تتحول الإجابة الخاطئة إلى خسائر حقيقية

مع دخول الذكاء الاصطناعي إلى تفاصيل الحياة اليومية، لم يعد استخدامه مقتصرًا على كتابة النصوص أو البحث عن المعلومات أو إنجاز المهام الروتينية، بل أصبح حاضرًا في قرارات تتعلق بالزراعة والصحة والأعمال والاستثمار.

ومع اتساع نطاق استخدام هذه الأدوات، يبرز تحدٍ جديد لا يتعلق فقط بقدرة الأنظمة على ارتكاب الأخطاء، وإنما بمدى استعداد المستخدمين لتصديق تلك الأخطاء وتنفيذها دون مراجعة.

وتزداد خطورة هذه الظاهرة عندما يقدم النظام معلومة غير صحيحة بصياغة تبدو دقيقة ومنطقية، خصوصًا إذا كان المستخدم قد اعتاد الحصول منه على إجابات مفيدة في السابق. فالثقة التي تتراكم مع الوقت قد تجعل لحظة الخطأ أكثر تكلفة، وتحول أداة رقمية يفترض أن تساعد في اتخاذ القرار إلى مصدر لخسائر يصعب تداركها.

برزت إحدى هذه الحالات في الصين، بعدما تعرض مزارع يبلغ من العمر 67 عامًا لخسارة محصوله بالكامل إثر اعتماده على توصية صادرة عن تطبيق للذكاء الاصطناعي.

وكان المزارع، المعروف باسم “وو”، قد اعتاد استخدام التطبيق لأكثر من عام في إدارة عدد من العمليات الزراعية، بدءًا من تحديد مواعيد الزراعة والتسميد، وصولًا إلى اختيار المبيدات والتعامل مع الآفات.

وبمرور الوقت، أصبحت توصيات التطبيق جزءًا من قراراته اليومية، قبل أن ينتقل من الاستفادة منها كمصدر للمعلومات إلى تنفيذها بصورة مباشرة، دون العودة إلى مختصين أو مقارنة التوصيات بمصادر زراعية موثوقة.

بدأت المشكلة عندما طلب المزارع من التطبيق اقتراح طريقة للقضاء على الحشائش والآفات التي تهدد محصول السمسم.

واقترح النظام استخدام خليط من المبيدات، من بينها مادة “فلوبيريميثالين”، إلى جانب مواد أخرى، ليقرر المزارع رش كامل المحصول بهذه الوصفة.

لكن النتائج ظهرت سريعًا وبصورة عكسية؛ ففي اليوم التالي بدأت شتلات السمسم في الذبول، إلى جانب الحشائش التي كان المزارع يستهدف التخلص منها.

وبعد فحص الحالة، أوضح خبراء في المجال الزراعي أن أحد المبيدات المستخدمة في الخليط لم يكن مناسبًا لمحصول السمسم، ما أدى إلى تضرر النباتات وتعرض المزارع لخسارة محصوله على مساحة تقارب 25 فدانًا.

الأكثر إثارة في الواقعة أن التطبيق نفسه لم يقدم التوصية دون أي تنبيه، إذ تضمنت واجهة المحادثة تحذيرًا واضحًا من احتمال احتواء المحتوى المولد على معلومات غير دقيقة، مع توصية بالتحقق من المعلومات قبل استخدامها.

غير أن المزارع لم يجرِ هذا التحقق، وهو ما قد يكون مرتبطًا بالثقة التي بناها خلال أكثر من عام من الاستخدام.

وعندما لجأ إلى الشركة المطورة للتطبيق، أفادته خدمة العملاء بأن النموذج لا يستند إلى قاعدة بيانات معرفية مستقلة، وإنما يعتمد في إنتاج إجاباته على معلومات متاحة عبر الإنترنت.

وقالت الشركة إنها سجلت شكوى المزارع وأحالتها إلى الجهات المختصة.

لا تتوقف تداعيات الاعتماد المفرط على الذكاء الاصطناعي عند القطاع الزراعي، فقد شهدت الفترة الماضية حالة أخرى مرتبطة باستخدام توصية آلية في مجال أكثر حساسية، وهو الصحة.

ففي العام الماضي، تعرض رجل يبلغ من العمر 60 عامًا لتسمم بالبروميد بعدما استبدل ملح الطعام ببروميد الصوديوم بناءً على نصيحة من “شات جي بي تي”، ما أدى إلى إصابته باضطرابات ذهانية استدعت دخوله المستشفى.

وتكشف هذه الواقعة، إلى جانب حالة المزارع الصيني، أن الخطأ في مخرجات الذكاء الاصطناعي قد يتحول من مجرد معلومة غير دقيقة إلى نتيجة ملموسة عندما يتعامل المستخدم معها باعتبارها تعليمات موثوقة.

تكمن المفارقة في أن الذكاء الاصطناعي قد ينجح في الإجابة عن عدد كبير من الأسئلة قبل أن يقدم إجابة خاطئة.

ومع تكرار التجارب الناجحة، يبدأ المستخدم في بناء مستوى متزايد من الثقة بالنظام، وقد يتراجع تدريجيًا عن عادة التحقق من المعلومات.

وتزداد المشكلة تعقيدًا بسبب الطريقة التي تصاغ بها الإجابات؛ فالنظام يستطيع تقديم المعلومة بأسلوب مرتب وواضح ومقنع، حتى عندما تكون المعلومة نفسها غير دقيقة.

وبالتالي، فإن الخطأ لا يأتي بالضرورة في صورة إجابة تبدو مشبوهة، بل قد يظهر داخل إجابة مقنعة يصعب على المستخدم غير المتخصص اكتشاف الخلل فيها.

وتظهر آثار هذه المشكلة أيضًا داخل الشركات والمؤسسات، حيث يمكن لأخطاء الذكاء الاصطناعي أن تتحول إلى خسائر مالية وتشغيلية كبيرة.

وبحسب مسح أجرته “إرنست آند يونج” وشمل 975 مسؤولًا تنفيذيًا حول العالم خلال يوليوز وغشت 2025، سجلت الشركات التي تعتمد بكثافة على الذكاء الاصطناعي خسائر إجمالية بلغت نحو 4.4 مليار دولار نتيجة مخرجات خاطئة ومشكلات في الامتثال وتحيزات واضطرابات أخرى مرتبطة باستخدام التكنولوجيا.

وتشير هذه الأرقام إلى أن تكلفة الخطأ لا تقتصر على المستخدم الفردي، بل يمكن أن تمتد إلى المؤسسات التي تعتمد على الذكاء الاصطناعي في عمليات أكثر تعقيدًا وحساسية.

وقد تشمل التداعيات خسائر مالية مباشرة، أو قرارات تجارية خاطئة، أو مشكلات قانونية وتنظيمية، فضلًا عن الأضرار التي قد تلحق بسمعة الشركات.

لا تعني هذه الوقائع أن الذكاء الاصطناعي غير صالح للاستخدام، بل تبرز الحاجة إلى فهم حدوده وطبيعة الدور الذي ينبغي أن يؤديه.

فالأداة يمكن أن تساعد في جمع المعلومات، وتحليل البيانات، وتوليد الأفكار، وتسريع الكثير من المهام، لكنها تصبح أكثر خطورة عندما تتحول إلى المرجع الوحيد في قرارات تتعلق بالصحة أو الأموال أو الزراعة أو السلامة.

ومن هنا تبرز أهمية الرقابة البشرية، خصوصًا في الحالات التي يمكن أن تكون فيها تكلفة الخطأ مرتفعة. فاستشارة طبيب أو مهندس أو خبير زراعي أو مالي قد تبدو خطوة إضافية، لكنها قد تمنع خسارة أكبر بكثير.

قد يكون أكبر تحدٍ يفرضه الذكاء الاصطناعي في المرحلة المقبلة مرتبطًا بعلاقة الإنسان معه أكثر من ارتباطه بالتكنولوجيا نفسها.

فالخطأ في حد ذاته أمر متوقع من أي نظام، لكن المشكلة تبدأ عندما يفقد المستخدم القدرة أو الرغبة في التشكيك في الإجابة التي أمامه.

ومع تطور النماذج وقدرتها على إنتاج إجابات أكثر إقناعًا، قد يصبح اكتشاف المعلومة الخاطئة أكثر صعوبة، ما يجعل التحقق المستقل جزءًا أساسيًا من الاستخدام المسؤول لهذه التكنولوجيا.

وفي النهاية، لا تكمن المشكلة في أن الذكاء الاصطناعي قد يقدم إجابة خاطئة، وإنما في أن المستخدم قد يثق بها بما يكفي لتحويلها إلى قرار واقعي.

ولهذا، فإن القاعدة الأهم في عصر الذكاء الاصطناعي ربما تكون بسيطة: استخدم الذكاء الاصطناعي للمساعدة، لكن لا تتنازل عن حقك في التحقق قبل أن تتصرف.