ضغوط متزايدة تطارد باحثي سلامة الذكاء الاصطناعي مع تسارع تطوير النماذج
لا تقتصر تداعيات السباق العالمي لتطوير الذكاء الاصطناعي على الجوانب التقنية والاستثمارية، إذ بدأت تنعكس أيضاً على العاملين في مجال سلامة هذه الأنظمة، مع تزايد الضغوط المرتبطة بتسارع إطلاق النماذج الجديدة واتساع المخاوف بشأن الاستخدامات المحتملة للتكنولوجيا وتأثيراتها على المجتمع.
وتكشف أجواء العمل داخل عدد من المؤسسات المتخصصة عن تصاعد مستويات التوتر والإرهاق بين الباحثين والموظفين المكلفين باختبار النماذج وتقييم مخاطرها قبل طرحها للاستخدام. ونقلت صحيفة «فاينانشال تايمز» عن مصادر مطلعة أن عدداً من العاملين في معهد سلامة الذكاء الاصطناعي البريطاني حصلوا على إجازات مرضية نتيجة الضغوط، في وقت ساهمت جداول الاختبارات المكثفة للنماذج التي لم تُطرح بعد في تراجع المعنويات وزيادة مخاطر الاحتراق الوظيفي.
ولا تبدو هذه الضغوط محصورة في المؤسسات الحكومية أو البحثية، إذ يواجه العاملون في شركات التكنولوجيا الكبرى تحديات مماثلة. وأشار موظف لدى «جوجل ديب مايند» إلى أن العمل على تعزيز سلامة أنظمة الذكاء الاصطناعي قد يقود إلى مستويات مرتفعة من الإرهاق، واصفاً حجم المهمة بالصعب للغاية، بالتزامن مع مخاوف بشأن طبيعة الاستخدامات التي يمكن توجيه هذه التقنيات إليها.
وتزايدت هذه المخاوف داخل الشركة عقب اتفاق «جوجل» مع وزارة الدفاع الأمريكية، الذي يتيح استخدام أنظمتها في عمليات عسكرية سرية، وهو ما أثار تساؤلات لدى بعض العاملين حول حدود الاستخدامات المقبولة للتقنيات التي يشاركون في تطويرها.
وامتدت النقاشات المتعلقة بالسلامة وسرعة التطوير إلى شركات أخرى، من بينها «أنثروبيك» و«أوبن إيه آي» و«جوجل ديب مايند»، في وقت غادر فيه أكثر من عشرة باحثين بارزين هذه الشركات خلال العامين الماضيين، وسط مخاوف مرتبطة بأولويات السلامة وبالوتيرة التي تتقدم بها عملية تطوير نماذج الذكاء الاصطناعي.
وتزداد حساسية هذه المخاوف مع التطور السريع لقدرات النماذج في مجالات متخصصة. ونقلت الصحيفة عن باحث سابق في المعهد البريطاني أن مستويات القلق كانت أكثر وضوحاً بين العاملين في مجالي الأمن السيبراني والكيمياء الحيوية، مع انتقال النماذج إلى تنفيذ مهام أكثر تعقيداً، تشمل المساعدة في اكتشاف ثغرات برمجية والتعامل مع مسائل مرتبطة بالعلوم الحيوية.
ويعكس تصاعد الضغوط والاستقالات داخل فرق السلامة إشكالية متنامية في صناعة الذكاء الاصطناعي، تتمثل في الموازنة بين تسريع تطوير النماذج وطرحها في الأسواق، وبين الوقت والموارد اللازمة لاختبار قدراتها والحد من المخاطر المرتبطة باستخدامها.
ومع توسع حضور الذكاء الاصطناعي في قطاعات حساسة، من الأمن والدفاع إلى البرمجة والعلوم الحيوية، تزداد أهمية أطر الاختبار والرقابة وإدارة المخاطر، فيما تواجه الشركات ضغوطاً متنامية للحفاظ على فرق متخصصة قادرة على مواكبة التطور السريع للتكنولوجيا.
