Geoffrey Hinton avertit que l’IA pourrait risquer l’extinction humaine

Technologie

Anadolu Ajansı

Le lauréat du prix Nobel Geoffrey Hinton a déclaré à BBC Newsnight qu’une probabilité d’environ 10 % d’extinction humaine due à une IA avancée dans la prochaine décennie n’était « pas déraisonnable », notant que les systèmes pourraient causer des devastations sans contrôler les systèmes physiques en propageant la désinformation, en permettant des cyberattaques ou en concevant des virus biologiques ou informatiques dangereux. Son avertissement s’aligne avec le dissensus récent des chercheurs: Jacob Coxon a démissionné d’Anthropic en accusant les laboratoires de premier plan de courir vers une superintelligence à auto-amélioration, et Evan Hubinger a publiquement déclaré qu’il croit que le risque d’extinction pourrait dépasser 10 % si l’amélioration récursive de soi-même se produit. Hinton a exhorté à travailler sur des conceptions qui évitent des buts nuisibles.

Hinton estime qu’il existe environ 10 % de risque d’extinction lié à l’IA avancée.