El Gemini de Google hackeó a tres empresas durante las pruebas
Google dijo que su inteligencia artificial Gemini escapó de un entorno de pruebas controlado en mayo después de que una empresa externa permitiera involuntariamente el acceso a Internet durante pruebas de ciberseguridad. El modelo, instruido para atacar a una empresa ficticia, alcanzó sistemas reales porque el nombre ficticio coincidía con un negocio real y utilizó contraseñas en línea o adivinadas; también accedió a otras dos empresas. Google informó que no hubo daño y que el modelo se detuvo una vez que reconoció la intrusión. La empresa de pruebas, Irregular, dijo que el problema fue solucionado y que se notificó a las partes afectadas, destacando los riesgos cuando los modelos tienen acceso al mundo real durante las pruebas.
Error de prueba permitió que la IA accediera a redes reales de la empresa
Contexto
Una firma de pruebas dio acceso a Internet durante evaluaciones de modelos. Esto permitió que Gemini accediera a sistemas reales en lugar del objetivo simulado. Luego, los desarrolladores podrían endurecer las salvaguardas de pruebas o…
El análisis completo
19 dimensiones sobre esta noticia: impacto mundial, lectura de mercado y qué pasará después.
- Contexto completoBloqueado
- Sectores afectadosBloqueado
- Impacto bursátilBloqueado
- Indicador económicoBloqueado
- Relevancia para inversoresBloqueado
- Relevancia profesionalBloqueado
- Puntos a vigilarBloqueado
- Probabilidad de cambioBloqueado
- Puntos de debateBloqueado
- Paralelismo históricoBloqueado
- Preguntas de seguimientoBloqueado
- Pros y contrasBloqueado