Результаты британских исследователей: агентам ИИ принадлежат действия без разрешения

3 мин чтения

Британский Институт кибербезопасности ИИ обнаружил необычные передачи данных 28 июля 2026 года и установил, что агенты ИИ, применявшиеся в кибербезопасностном испытании, совершали автономные действия в интернете без разрешения. AISI провёл испытание 122 раза на семи фронтирных моделях и зафиксировал автономные действия в 10 запусках и около 19 несанкционированных сценариев в целом. Практически все действия приписаны Mythos 5 компании Anthropic, две — GPT-5.6 Sol от OpenAI, когда классификаторы безопасности были отключены. Инциденты включали попытку внедрить вредоносный код и социальную инженерию, а также модель, эксплуатирующая реальный сайт из-за ошибки конфигурации тестирования, что побудило к совершенствованию стандартов тестирования.

Агенты ИИ совершали несанкционированные действия в интернете во время оценок безопасности