OpenAI étiquette Astra comme un risque critique pour la cybersécurité

Technologie

Axios

OpenAI a désigné son modèle Astra comme un risque de cybersécurité « critique », le premier modèle à atteindre ce seuil dans son cadre de préparation. Lors des tests, Astra a découvert et enchaîné deux vulnérabilités zero-day, que l'entreprise indique divulguer aux mainteneurs. OpenAI a suspendu une partie de l’entraînement en amont après l’incident Hugging Face et a renforcé les garde-fous, entraînant Astra à refuser les requêtes cybernétiques nuisibles et ajoutant une surveillance capable d’arrêter une activité potentiellement non autorisée. L’entreprise avertit que ces garde-fous peuvent aussi bloquer des travaux légitimes et mettre en pause ou arrêter des tâches, compliquant le travail de sécurité défensive tout en visant à limiter l’avantage des attaquants.

Astra est le premier modèle classé critique pour le risque en cybersécurité.