OpenAIが Astra を重大なサイバーセキュリティリスクと分類

テクノロジー

Axios

OpenAIはモデル Astra を「重大」なサイバーセキュリティリスクと分類しました。これは同社の準備フレームワークの下で閾値を満たした初めてのモデルです。テスト中に Astra は二つのゼロデイ脆弱性を発見・連鎖しており、運用保持者への開示を同社は進めています。Hugging Face イシデント後、OpenAIは一部のフロンティア訓練を停止し、より強力な安全対策を実装しました。これにより Astra は有害なサイバー要求を拒否するよう訓練され、潜在的な不正活動を止め得るモニタリングが追加されています。同社はこれらの安全対策が正当な作業をフラグ付けしてタスクを一時停止または停止させることもあり得ると警告しており、防御的セキュリティ作業を複雑化させつつ攻撃者の優位性を抑制することを目指しています。

Astra はサイバーセキュリティリスクが重大と評価された初のモデルです。