OpenAI etiqueta Astra como un riesgo crítico de ciberseguridad
OpenAI ha designado su modelo Astra como un riesgo de ciberseguridad "crítico", el primer modelo en alcanzar ese umbral bajo su marco de preparación. Durante las pruebas, Astra descubrió y encadenó dos vulnerabilidades de día cero, que la empresa dice estar divulgando a los mantenedores. OpenAI pauso parte del entrenamiento de frontera tras el incidente de Hugging Face e implementó salvaguardas más fuertes, entrenando a Astra para rechazar solicitudes cibernéticas dañinas y añadiendo monitoreo que puede detener actividades potencialmente no autorizadas. La empresa advierte que estas salvaguardas también pueden marcar trabajos legítimos y pausar o detener tareas, lo que complica el trabajo de seguridad defensiva mientras busca limitar la ventaja del atacante.
Astra es el primer modelo categorizado como crítico para el riesgo de ciberseguridad.
Contexto
OpenAI probó Astra y descubrió que podía encontrar y encadenar fallos de día cero. OpenAI pausó parte del entrenamiento tras el incidente de Hugging Face y añadió salvaguardas. La empresa podría lanzar una versión de uso ampliamente…
El análisis completo
19 dimensiones sobre esta noticia: impacto mundial, lectura de mercado y qué pasará después.
- Contexto completoBloqueado
- Sectores afectadosBloqueado
- Impacto bursátilBloqueado
- Indicador económicoBloqueado
- Relevancia para inversoresBloqueado
- Relevancia profesionalBloqueado
- Puntos a vigilarBloqueado
- Probabilidad de cambioBloqueado
- Puntos de debateBloqueado
- Paralelismo históricoBloqueado
- Conocimiento previo necesarioBloqueado
- Preguntas de seguimientoBloqueado
- Pros y contrasBloqueado