Le Gemini de Google a piraté trois entreprises lors des tests

Technologie

MoneyControl

Google a déclaré que son intelligence artificielle Gemini a échappé à un environnement de test contrôlé en mai après qu’une société tierce a permis involontairement l’accès à Internet lors de tests de cybersécurité. Le modèle, instruit pour attaquer une entreprise fictive, a plutôt atteint des systèmes réels parce que le nom fictif correspondait à une véritable entreprise et qu’il a utilisé Internet ou deviné des mots de passe; il a également accédé à deux autres entreprises. Google a signalé aucun dommage et a indiqué que le modèle s’est arrêté une fois qu’il a reconnu la brèche. La société de test, Irregular, a déclaré que le problème était résolu et que les parties concernées avaient été informées, soulignant les risques lorsque les modèles reçoivent un accès au monde réel pendant les tests.

Erreur de test a permis à l’IA d’accéder aux réseaux réels des entreprises