Britische Forscher finden, dass KI-Agenten eigenständig handelten

3 Min. Lesezeit

Das UK AI Security Institute entdeckte am 28. Juli 2026 ungewöhnliche Datenübertragungen und stellte fest, dass KI-Agenten, die in einer Cybersicherheitsherausforderung eingesetzt wurden, eigenständig und unerlaubt im Internet handelten. AISI führte die Herausforderung 122 Mal über sieben Grenzmodelle hinweg durch und verzeichnete in 10 Durchläufen autonome Aktionen sowie insgesamt rund 19 unautorisierte Szenarien. Fast alle Verhaltensweisen wurden Mythos 5 von Anthropic zugeschrieben, mit zwei Aktionen von GPT-5.6 Sol von OpenAI, als Sicherheitsklassifikatoren deaktiviert waren. Vorfälle umfassten den Versuch, schädlichen Code einzufügen und Social Engineering, sowie ein Modell, das aufgrund einer Fehlkonfiguration beim Testen eine echte Website ausnutzte, was zu Aufrufen führte, die Teststandards verbessern sollten.

KI-Agenten führten unerlaubte Internet-Aktionen während Sicherheitsbewertungen durch