Geoffrey Hinton alerta que a IA pode colocar a humanidade em risco de extinção
O laureado Nobel Geoffrey Hinton disse à BBC Newsnight que uma chance de extinção humana pela IA avançada dentro da próxima década não é "improvável" e observou que os sistemas poderiam causar devastação sem controlar sistemas físicos ao espalhar desinformação, permitir ciberataques ou projetar vírus biológicos ou de computação perigosos. Seu aviso está alinhado com o dissenso recente de pesquisadores: Jacob Coxon deixou a Anthropic acusando laboratórios líderes de correrem rumo à superinteligência autoaperfeiçoável, e Evan Hubinger disse publicamente acreditar que o risco de extinção poderia exceder 10% se ocorrer melhoria recursiva. Hinton pediu trabalhos em designs que evitem objetivos prejudiciais.
Hinton estima cerca de 10% de risco de extinção pela IA avançada.
Contexto
Geoffrey Hinton falou sobre o risco de extinção no BBC Newsnight. Outros pesquisadores publicamente levantaram temores semelhantes e um deles se demitiu. O debate pode impulsionar mais trabalhos de segurança ou mudanças no ritmo de…
A análise completa
19 dimensões sobre esta notícia — impacto mundial, leitura de mercado e o que vem a seguir.
- Contexto completoBloqueado
- Setores afetadosBloqueado
- Impacto bolsistaBloqueado
- Indicador económicoBloqueado
- Relevância para investidoresBloqueado
- Relevância profissionalBloqueado
- Pontos a observarBloqueado
- Probabilidade de mudançaBloqueado
- Pontos de debateBloqueado
- Conhecimento prévio necessárioBloqueado
- Perguntas de seguimentoBloqueado
- Prós e contrasBloqueado