أعلنت شركة “إكس إيه آي”، المطورة لتطبيق الدردشات الآلية المدعوم بالذكاء الاصطناعي “جروك”، يوم الجمعة، عن اكتشاف ثغرات في أنظمة حماية منصتها، أدت إلى ظهور محتوى غير لائق عبر منصة التواصل الاجتماعي “إكس”.
وأكدت الشركة في بيان رسمي أنها تعمل على تعزيز الضوابط التقنية لمنع تكرار هذه الوقائع، مشيرة إلى أن بعض المستخدمين تمكنوا، في حالات محدودة، من الحصول على صور مولدة بالذكاء الاصطناعي تتعلق بقاصرين، نتيجة قصور في أنظمة التحكم داخل التطبيق.
ويأتي هذا الإعلان بعد تداول مستخدمين على “إكس” لصور قالوا إنها نتجت عن تعديل “جروك” لصور مرفوعة مسبقاً ضمن تبويب الوسائط العامة الخاص بالروبوت، ما أثار جدلاً واسعاً حول سلامة المحتوى المولد بالذكاء الاصطناعي.
وشهدت القضية اهتماماً قانونياً وتنظيمياً في أوروبا، حيث أبلغ وزراء فرنسيون النيابة العامة عن انتشار المحتوى غير اللائق المرتبط بـ “جروك”، معتبرين أن ما حدث يشكل انتهاكاً واضحاً للقانون، كما تم إخطار هيئة تنظيم الإعلام الفرنسية “آركوم” للتحقق من التزام المنصة بقانون الخدمات الرقمية الأوروبي، في خطوة تعكس تشدداً متزايداً من السلطات الأوروبية تجاه حماية القاصرين والمحتوى المولد بالذكاء الاصطناعي.
