كشفت وحدة “ديب مايند” التابعة لشركة “جوجل”، الاثنين، عن تحديث جديد لإطار السلامة الخاص بها، تحت اسم “Frontier Safety Framework”، يتناول المخاطر المحتملة للذكاء الاصطناعي المتقدم، بما في ذلك احتمال محاولته منع البشر من إيقافه أو تعديل برمجياته.
وشمل التحديث إضافة فئة جديدة تتعلق بقدرة النماذج على الإقناع، حيث أشارت الوحدة إلى أن هذه القدرة قد تمنح بعض الأنظمة تأثيراً عميقاً على معتقدات وسلوك المستخدمين، ما يشكل تهديداً غير مسبوق.
ورداً على استفسار موقع “أكسيوس” بشأن الإجراءات الوقائية، أكد متحدث باسم “ديب مايند” أن الشركة تراقب هذه القدرة عن كثب، وأنها طورت سلسلة من التقييمات الجديدة، بما في ذلك دراسات على مشاركين بشريين، لقياس مدى تأثير هذه النماذج والتحكم فيه.
ويُراجع فريق “جوجل” إطار السلامة سنوياً لتحديد مستويات القدرات الحرجة التي قد تؤدي، في حال غياب الإجراءات الوقائية، إلى أضرار جسيمة، مع التركيز على ضمان أمان استخدام هذه الأنظمة المتقدمة.
