ثغرة في أداة البحث الخاصة بـ “شات جي بي تي” قد تعرض نتائج البحث للتلاعب

أظهر تحقيق أجرته صحيفة ذا غارديان البريطانية أن أداة البحث الخاصة بروبوت الدردشة “شات جي بي تي”، التي تعتمد على الذكاء الاصطناعي من تطوير “OpenAI”، قد تكون عُرضة للتلاعب بواسطة المحتوى المخفي على المواقع الإلكترونية، مما يؤثر على دقة نتائج البحث.

أطلقت “OpenAI” ميزة البحث في “شات جي بي تي” لأصحاب الاشتراكات المدفوعة في أكتوبر الماضي، ثم قررت توسيع الوصول إليها لتشمل جميع المستخدمين في دجنبر الجاري.

وأثناء اختبار الصحيفة، طلبت من “شات جي بي تي” تلخيص صفحات ويب تحتوي على محتوى مخفي، ووجدت أن هذا النوع من المحتوى يمكن أن يُستخدم لتغيير إجابات الروبوت.

المحتوى المخفي قد يشمل تعليمات موجهة من أطراف ثالثة تهدف إلى التأثير على إجابات “شات جي بي تي” أو تضمين محتوى مصمم خصيصًا لتوجيه الآراء بشكل معين.

وقد يُستغل هذا التلاعب بشكل سيء، كما في المثال الذي أجرته الصحيفة حيث تم تقديم رابط مزيف لموقع يبيع كاميرا. وعند سؤال “شات جي بي تي” عن ما إذا كانت الكاميرا تستحق الشراء، كانت الإجابة إيجابية، رغم أن الصفحة كانت تحتوي على آراء سلبية.

عندما تمت إضافة محتوى مخفي على نفس الصفحة يحتوي على تعليمات لإعطاء رأي إيجابي، كانت الإجابة دائمًا مؤيدة للمنتج، حتى إذا كانت الآراء الحقيقية على الصفحة سلبية.

أرسلت ذا غارديان أسئلة مفصلة إلى “OpenAI” حول هذه الخاصية، لكن الشركة لم تقدم ردًا رسميًا حول هذه القضية.