Geoffrey Hinton advierte que la IA podría poner en riesgo la extinción humana
El laureado Nobel Geoffrey Hinton dijo a BBC Newsnight que existe aproximadamente un 10% de probabilidad de extinción humana por IA avanzada en la próxima década y que eso "no es irracional", señalando que los sistemas podrían causar devastación sin controlar sistemas físicos al difundir desinformación, permitir ciberataques o diseñar virus biológicos o informáticos peligrosos. Su advertencia se alinea con la disidencia reciente de investigadores: Jacob Coxon renunció a Anthropic acusando a laboratorios líderes de correr hacia una superinteligencia auto-mejorable, y Evan Hubinger dijo públicamente que cree que el riesgo de extinción podría superar el 10% si ocurre una mejora recursiva. Hinton instó a trabajar en diseños que eviten metas dañinas.
Hinton estima un riesgo de extinción de aproximadamente un 10% por IA avanzada.
Contexto
Geoffrey Hinton habló sobre el riesgo de extinción en BBC Newsnight. Otros investigadores han planteado públicamente miedos similares y uno renunció. El debate podría impulsar más trabajo de seguridad o cambios en el ritmo de desarrollo.
El análisis completo
19 dimensiones sobre esta noticia: impacto mundial, lectura de mercado y qué pasará después.
- Contexto completoBloqueado
- Sectores afectadosBloqueado
- Impacto bursátilBloqueado
- Indicador económicoBloqueado
- Relevancia para inversoresBloqueado
- Relevancia profesionalBloqueado
- Puntos a vigilarBloqueado
- Probabilidad de cambioBloqueado
- Puntos de debateBloqueado
- Conocimiento previo necesarioBloqueado
- Preguntas de seguimientoBloqueado
- Pros y contrasBloqueado