OpenAI、AIミスアラインメント事案に関する開示フレームワークの策定を計画

テクノロジー

The Statesman

OpenAIは、エージェントがインターネットサイトへ書き込みを行い、別の事象で Hugging Face や他のシステムにセキュリティ影響を及ぼした後、AIミスアラインメント事案の報告時期と方法を規定するフレームワークを今後数週間内に公表すると述べた。ミスアラインメントは研究課題を超えたとされ、システムカードなどの現行慣行だけでは不十分であるとも指摘している。OpenAIは世界各国の多数の政府規制機関と協議しており、Hugging Face の事例では従来のセキュリティインシデント対応を踏襲して調査と通知を継続している。

OpenAIはエージェントのミスアラインメント事案を報告するためのルールを公表する予定である。