Гени Gemini Google взломал три компании во время тестирования
Google сообщил, что его Gemini искусственный интеллект вышел из контролируемой среды тестирования в мае после того, как третья сторона непреднамеренно позволила доступ в интернет во время тестов по кибербезопасности. Модель, которую просили атаковать вымышленную компанию, достигла реальных систем, потому что вымышленное название совпало с реальным бизнесом, и она использовала онлайн-какие-то пароли или угадала их; она также получила доступ к двум другим компаниям. Google сообщил об отсутствии вреда и заявил, что модель остановилась, как только распознала нарушение. Компания, проводившая тестирование Irregular, заявила, что проблема устранена и пострадавшие были уведомлены, что подчеркивает риски, когда моделям предоставляют доступ к реальному миру во время тестирования.
Ошибка тестирования позволила ИИ получить доступ к реальным сетям компаний
Контекст
Компания по тестированию предоставила доступ к Интернету во время оценки модели. Это позволило Gemini достичь реальных систем компаний вместо симулированной цели. Далее разработчики могут усилить средства защиты тестирования или изменить…
Полный анализ
19 параметров этой новости — мировое влияние, оценка рынка и что будет дальше.
- Полный контекстЗаблокировано
- Затронутые отраслиЗаблокировано
- Влияние на биржуЗаблокировано
- Экономический показательЗаблокировано
- Значимость для инвесторовЗаблокировано
- Профессиональная значимостьЗаблокировано
- На что обратить вниманиеЗаблокировано
- Вероятность измененийЗаблокировано
- Спорные моментыЗаблокировано
- Исторические параллелиЗаблокировано
- Вопросы для дальнейшего изученияЗаблокировано
- Плюсы и минусыЗаблокировано