OpenAI 将 Astra 标定为关键网络安全风险

科技

Axios

OpenAI 将其模型 Astra 指定为“关键”网络安全风险，这是在其准备框架下达到该阈值的首个模型。在测试中，Astra 发现并串联了两个零日漏洞，该公司表示正在向维护者披露。OpenAI 在 Hugging Face 事件后暂停了部分前沿训练并实施了更强的安全措施，训练 Astra 以拒绝有害的网络请求，并增加可以阻止潜在未授权活动的监控。公司警告这些安全措施也可能标记合规工作并暂停或中止任务，从而在试图限制攻击者优势的同时，使防御性安全工作变得更加复杂。

Astra 是首个被评为具有关键网络安全风险的模型。