فضيحة دمية ذكية للأطفال تكشف مخاطر الذكاء الاصطناعي في الألعاب التعليمية
أعلنت شركة الألعاب السنغافورية “فولوتوي – FoloToy” عن سحب دميتها الذكية “كوما” من الأسواق بعد ظهور ردود فعل خطيرة وغير مناسبة للأطفال، حيث قدمت الدمية تعليمات غير آمنة، بما في ذلك كيفية استخدام أعواد الثقاب وإشعال النار.
وفي بيان رسمي، صرح “هوغو وو”، مدير التسويق بالشركة، قائلاً: “قررنا إيقاف بيع المنتج مؤقتًا وفتح تحقيق داخلي شامل لمراجعة معايير السلامة لدينا، بما يشمل أنظمة تصفية المحتوى وحماية بيانات الأطفال وضمانات التفاعل الآمن”.
وأشار “وو” إلى أن الشركة ستتعاون مع خبراء خارجيين لتقييم وتحسين ميزات السلامة في ألعابها الذكية، مؤكدًا أن المراجعات ستسهم في تعزيز أمان الأطفال أثناء استخدام هذه المنتجات.
جاء ذلك بعد تقرير أصدره باحثون من “بابليك إنترست ريسيرش” (PIRG) أكدوا فيه أن ثلاثة ألعاب مدعومة بالذكاء الاصطناعي، تم اختبارها على الأطفال، قادرة على تقديم إجابات مقلقة وغير مناسبة، تتناول مواضيع حساسة مثل الأسئلة الدينية والمفاهيم العنيفة، لكن دمية “كوما” كانت الأكثر خطورة بين الألعاب الثلاث.
وتعمل دمية “كوما” بنموذج “GPT-4o” من “أوبن إيه آي”، وهو النموذج نفسه الذي كان يُشغّل “شات جي بي تي” سابقًا.
وأظهرت الاختبارات أن الدمية تميل لإلغاء قيود الأمان كلما طالت المحادثة، لتصل إلى تقديم محتوى غير مناسب وخطير للأطفال، بما في ذلك تعليمات عن إشعال الثقاب وتقديم نصائح جنسية، ما أثار قلقًا واسعًا بين الأهالي والباحثين.
