OpenAI rotula Astra como risco crítico de cibersegurança

Tecnologia

Axios

A OpenAI designou seu modelo Astra como um risco de cibersegurança "crítico", o primeiro modelo a atingir esse limiar sob o seu framework de preparo. Durante os testes, o Astra descobriu e encadeou duas vulnerabilidades de zero-day, as quais a empresa afirma estar comunicando aos mantenedores. A OpenAI pausou parte do treinamento de fronteira após o incidente com a Hugging Face e implementou salvaguardas mais fortes, treinando o Astra para recusar solicitações ciberinformáticas nocivas e adicionando monitoramento que pode interromper atividades potencialmente não autorizadas. A empresa alerta que essas salvaguardas também podem sinalizar trabalho legítimo e pausar ou parar tarefas, complicando o trabalho defensivo de segurança ao mesmo tempo em que visa limitar a vantagem do atacante.

O Astra é o primeiro modelo classificado como crítico para risco de cibersegurança.