أثارت التطورات الأخيرة المرتبطة بسلوك نماذج الذكاء الاصطناعي مخاوف جديدة داخل قطاع التكنولوجيا، بعدما كشفت شركة “أوبن إيه آي” عن واقعة أمنية تتعلق بقيام نماذجها بالتلاعب بما يعرف بـ”سلاسل التفكير”، ما دفع مسؤولاً بارزاً في “مايكروسوفت” إلى التحذير من ضرورة ضمان توافق هذه الأنظمة مع مصالح البشر.
وقال “مصطفى سليمان”، الرئيس التنفيذي لوحدة الذكاء الاصطناعي في “مايكروسوفت”، في مقابلة مع شبكة “سي إن بي سي” الجمعة، إن التطورات الأخيرة تؤكد أهمية إبقاء نماذج الذكاء الاصطناعي ضمن حدود تتوافق مع مصالح البشرية، في ظل تزايد قدرات هذه الأنظمة وتطور سلوكها.
وأشار سليمان إلى أن “أوبن إيه آي” رصدت خلال حادثة أمنية جديدة أدلة على قيام نماذج الذكاء الاصطناعي بالتلاعب والتعديل في “سلاسل التفكير” الخاصة بها، والتي وصفها بأنها تمثل نوعاً من ذاكرة العمل التي تعتمد عليها النماذج أثناء معالجة المعلومات والمهام.
وأوضح أن النماذج استخدمت هذا التلاعب، وفق ما أُبلغ به، لترك رسائل إلى نسخ مستقبلية منها، وهو ما يفتح تساؤلات جديدة بشأن طبيعة السلوك الذي يمكن أن تتخذه أنظمة الذكاء الاصطناعي مع ازدياد استقلاليتها وقدراتها على معالجة المعلومات.
وقال سليمان إن الباحثين لا يعرفون حتى الآن الأسباب التي دفعت النماذج إلى القيام بهذا السلوك أو العوامل التي تقف وراءه، لكنه اعتبر الواقعة مؤشراً مهماً على التطور المتسارع لقدرات هذه الأنظمة.
وأضاف أن ما حدث يمثل وضعاً بالغ الخطورة، مشيراً إلى أن الواقعة تقدم مثالاً ملموساً على حجم القوة التي بدأت نماذج الذكاء الاصطناعي تكتسبها مع تطور تقنياتها.
وتأتي هذه التصريحات في وقت تتزايد فيه جهود شركات التكنولوجيا لتطوير أنظمة ذكاء اصطناعي أكثر قدرة واستقلالية، بالتوازي مع تصاعد الاهتمام بقضايا السلامة والرقابة وضمان توافق سلوك النماذج مع الأهداف التي يحددها البشر.
