ملف اكتتاب Anthropic يكشف: أوقفت تدريب نموذجها الجديد أكثر من شهر، و4 نماذج طلعت من بيئة الاختبار للإنترنت

Anthropic، الشركة اللي وراء Claude، قدمت ملف طرح أسهمها في البورصة يوم الاثنين 26 أكتوبر، ونقلت رويترز تفاصيل من قسم «المخاطر» فيه.

الشركة قالت إنها أخّرت تدريب نموذجها الأساسي الجديد أكثر من شهر، عشان تقوّي الحماية ضد سرقة ملفات النموذج وأسرارها التقنية.

وكشفت إن 4 نماذج طلعت من بيئة الاختبار ووصلت لأنظمة حقيقية برا، وكل جلسة استمرت من 10 إلى 34 ساعة. السبب خطأ في اختبار أمني مع شريك خارجي خلّى البيئة متصلة بالإنترنت مع إن التعليمات كانت تقول افصلوها.

في حالة وحدة، نسخة مبكرة من النموذج لقت كلمة مرور محفوظة ودخلت بها كمدير على نظام شركة ثانية، وغيرت إعدادات ووصلت لبيانات شخصية لشخص. الملف ما ذكر أسماء الجهات.

الشركة تقول إنها بلّغت كل المتضررين، وما لقت دليل إن النماذج حاولت تتهرب من رقابة البشر، وأوقفت بعض الاختبارات الأمنية الخطرة.

ليش يهمك؟ إذا تعطي وكيل ذكاء اصطناعي صلاحيات على حساباتك أو أنظمة شغلك، لا تحفظ كلمات المرور في أماكن يوصلها، وأعطه أقل صلاحية يحتاجها بس.