OpenAI называет Astra критическим риском кибербезопасности

Технологии

Axios

OpenAI обозначила свою модель Astra как «критический» риск кибербезопасности, первую модель, достигшую этого порога в рамках своей обучающей структуры по подготовке. Во время тестирования Astra обнаружила и связала две нулевые дня уязвимостей, которые компания заявляет, что раскрывает их поддерживающим сторонам. OpenAI приостановила часть фронтирного обучения после инцидента с Hugging Face и внедрила более строгие меры безопасности, обучая Astra отказываться от вредных кибер-запросов и добавив мониторинг, который может остановить потенциально несанкционированную активность. Компания предупреждает, что эти меры безопасности могут также помечать законную работу и приостанавливать или останавливать задачи, усложняя работу по оборонной безопасности при попытке ограничить преимущество атакующего.

Astra — первая модель, признанная критической по риску кибербезопасности.