Claude يتجاوز الحدود.. نماذج أنثروبيك تتسلل وتخترق مؤسسات حقيقية أثناء الاختبارات

كشفت شركة أنثروبيك عن ثلاث حوادث تمكنت فيها نماذج Claude من الوصول دون تصريح إلى أنظمة حقيقية تابعة لمؤسسات خارجية في أثناء اختبارات أمنية، في واقعة جديدة تثير المخاوف من قدرة وكلاء الذكاء الاصطناعي على تجاوز حدود بيئات الاختبار والتفاعل مع أنظمة متصلة بالإنترنت. وقالت الشركة في منشور لها عبر موقعها الرسمي إنها أجرت مراجعة …