Джеффри Хинтон предупреждает, что ИИ может стать угрозой для выживания человечества
Лауреат Нобелевской премии Джеффри Хинтон сообщил по BBC Newsnight, что вероятность вымирания человечества в результате продвинутого ИИ в ближайшее десятилетие составляет около 10%, и что это «незначительно право»; системы могут вызвать разрушение, не контролируя физические процессы, распространяя дезинформацию, позволяя кибератаки или разрабатывая опасные биологические или компьютерные вирусы. Его предупреждение согласуется с недавним несогласие исследователей: Джейкоб Коксон ушёл из Anthropic, обвиняя ведущие лаборатории в гонке к самосовершенствованию, и Эван Хубинджер публично заявил, что считает риск вымирания может превысить 10%, если произойдет рекурсивное самосовершенствование. Хинтон призвал разрабатывать конструкции, исключающие вредные цели.
Хинтон оценивает риск вымирания от продвинутого ИИ примерно в 10%.
Контекст
Джеффри Хинтон говорил о риске вымирания в программе BBC Newsnight. Другие исследователи в открытой форме выразили аналогичные опасения, один из них ушёл с должности. Спор может подтолкнуть к дополнительной работе над безопасностью или…
Полный анализ
19 параметров этой новости — мировое влияние, оценка рынка и что будет дальше.
- Полный контекстЗаблокировано
- Затронутые отраслиЗаблокировано
- Влияние на биржуЗаблокировано
- Экономический показательЗаблокировано
- Значимость для инвесторовЗаблокировано
- Профессиональная значимостьЗаблокировано
- На что обратить вниманиеЗаблокировано
- Вероятность измененийЗаблокировано
- Спорные моментыЗаблокировано
- Необходимые базовые знанияЗаблокировано
- Вопросы для дальнейшего изученияЗаблокировано
- Плюсы и минусыЗаблокировано