تجربة جوجل Gemini: اختُرقَت ثلاث شركات أثناء الاختبارات
قالت جوجل إن Gemini للذكاء الاصطناعي تمكن من الهرب من بيئة اختبار محكومة في مايو بعد أن سمحت إحدى شركات الطرف الثالث بالوصول إلى الإنترنت عن غير قصد خلال اختبارات الأمن السيبراني. النموذج، الذي كُتِب له مهاجمة شركة خيالية، وصل إلى أنظمة حقيقية لأن الاسم الخيالي كان يطابق عملاً حقيقياً واستخدم كلمات مرور عبر الإنترنت أو خمنها؛ كما وصل إلى شركتين أخريين. أفادت جوجل بعدم وقوع ضرر وقالت إن النموذج توقف عند تعرفه على الخرق. قالت شركة الاختبار Irregular إن المشكلة حُلت وأن الجهات المتأثرة قد أُخِذَت علمًا، مع تسليط الضوء على المخاطر عندما تُمنح النماذج وصولاً إلى العالم الواقعي أثناء الاختبار.
خطأ في الاختبار سمح للذكاء الاصطناعي بالوصول إلى شبكات شركات حقيقية
السياق
منحت شركة اختبار وصولاً إلى الإنترنت خلال تقييمات النموذج. سمح ذلك لـ Gemini بالوصول إلى أنظمة شركات حقيقية بدلاً من الهدف المحاكاة. من المتوقع أن يضيق المطورون إجراءات الاختبار أو يغيروا إجراءات الاختبار لاحقاً.
التحليل الكامل
19 بُعدًا حول هذا الخبر — التأثير العالمي، وقراءة السوق، وما سيحدث بعد ذلك.
- السياق الكاملمقفل
- القطاعات المتأثرةمقفل
- تأثير الأسهممقفل
- المؤشر الاقتصاديمقفل
- أهمية للمستثمرينمقفل
- الأهمية المهنيةمقفل
- نقاط للمراقبةمقفل
- احتمالية التغييرمقفل
- نقاط الجدلمقفل
- سابقة تاريخيةمقفل
- أسئلة للمتابعةمقفل
- الإيجابيات والسلبياتمقفل