حذّر إريك شميدت، الرئيس التنفيذي السابق لشركة “جوجل”، يوم الأربعاء في قمة “سيفتد” للشركات الناشئة في لندن، من مخاطر أنظمة الذكاء الاصطناعي وإمكانية استغلالها لإحداث أضرار جسيمة.
وأشار شميدت إلى احتمالية انتشار تكنولوجيات الذكاء الاصطناعي بشكل غير منضبط في حال وقعت في أيدي جهات خبيثة يمكنها إعادة توظيفها لأغراض ضارة، مؤكداً أن هذه المخاطر واقعية ومقلقة.
وأضاف أن النماذج — سواء كانت مغلقة أو مفتوحة المصدر — يمكن اختراقها وإزالة طبقات الحماية عنها، وما قد يتعلمه النظام أثناء تدريبه قد يتضمن معلومات ضارة قد تُستخدم لإلحاق الأذى.
وأوضح شميدت أن أنظمة الذكاء الاصطناعي تواجه هجمات تقنية متعددة، من بينها “حقن الأوامر” وعمليات “كسر الحماية” (jailbreaking).
في هجمات حقن الأوامر، يخفي المهاجم تعليمات خبيثة داخل مدخلات المستخدم أو محتوى خارجي مثل صفحات ويب أو مستندات لخداع النظام وتنفيذه أوامر لم تكن مقصودة، بما في ذلك تسريب بيانات حساسة أو تنفيذ أوامر ضارة. أما كسر الحماية، فكما بيّن، فيعني التلاعب باستجابات النظام ليخرق قواعد الأمان ويولد محتوى مقيداً أو خطيراً.
وجدد شميدت دعوته إلى تعزيز الاحتياطات التقنية والتنظيمية لمواجهة هذه التهديدات، مطالباً بمزيد من الانتباه إلى تصميم نماذج أكثر أماناً وإجراءات تمنع إساءة الاستخدام قبل أن تصبح الأضرار لا تُحتمل.
