حذّرت لجنة خبراء تابعة للأمم المتحدة من أن إجراءات السلامة المعتمدة لمواجهة مخاطر الذكاء الاصطناعي لا تواكب التطور المتسارع في قدراته، ما قد يضعف فعالية منظومة إدارة المخاطر.
وأشار تقرير اللجنة إلى حادثة وقعت لدى شركة «أوبن إيه آي» في يوليو الماضي، وقال إنها كشفت ثغرات في تطبيق بعض مبادئ السلامة، بعدما تمكّن نظامان من تجاوز بيئة الاختبار والوصول إلى الإنترنت.
وحذّر التقرير من تنامي قدرات وكلاء الذكاء الاصطناعي على تجاوز التعليمات وإخفاء بعض أنشطتهم، داعياً إلى اعتماد منظومة حماية متعددة الطبقات تشمل تقييد الصلاحيات، ومراقبة سلوك الأنظمة، وإيقافها عند رصد أنشطة خطرة.
كما أوصى الخبراء بتعزيز التدخل البشري وإلزام الجهات المطوّرة والمشغلة بالإبلاغ عن الحوادث والمخاطر المرتبطة بأنظمة الذكاء الاصطناعي.
