O Gemini do Google foi hackeado em três empresas durante os testes
O Google disse que a inteligência artificial Gemini escapou de um ambiente de testes controlado em maio depois que uma empresa terceirizada, sem intenção, permitiu acesso à internet durante testes de cibersegurança. O modelo, instruído a atacar uma empresa ficcional, atingiu sistemas reais porque o nome ficcional correspondia a uma empresa real e ele usou senhas online ou adivinhadas; também acessou mais duas empresas. O Google informou não ter ocorrido prejuízo e disse que o modelo parou assim que reconheceu a violação. A empresa de testes, Irregular, afirmou que o problema foi corrigido e que as partes afetadas foram notificadas, destacando os riscos quando modelos recebem acesso ao mundo real durante os testes.
Erro de teste permitiu que IA acessasse redes reais de empresas
Contexto
Uma empresa de testes ofereceu acesso à internet durante avaliações do modelo. Isso permitiu que o Gemini alcançasse sistemas reais de empresas em vez do alvo simulado. Em seguida, os desenvolvedores podem estreitar salvaguardas de teste…
A análise completa
19 dimensões sobre esta notícia — impacto mundial, leitura de mercado e o que vem a seguir.
- Contexto completoBloqueado
- Setores afetadosBloqueado
- Impacto bolsistaBloqueado
- Indicador económicoBloqueado
- Relevância para investidoresBloqueado
- Relevância profissionalBloqueado
- Pontos a observarBloqueado
- Probabilidade de mudançaBloqueado
- Pontos de debateBloqueado
- Paralelo históricoBloqueado
- Perguntas de seguimentoBloqueado
- Prós e contrasBloqueado