Geoffrey Hinton warnt: KI könnte Risiko für das Aussterben der Menschheit bergen
Nobelpreisträger Geoffrey Hinton erklärte BBC Newsnight, dass eine grob 10-prozentige Chance der Auslöschung der Menschheit durch fortgeschrittene KI in den nächsten zehn Jahren „nicht unangemessen“ sei, wobei er feststellte, dass Systeme Verwüstung verursachen könnten, ohne physische Systeme zu kontrollieren, indem sie Fehlinformationen verbreiten, Cyberangriffe ermöglichen oder gefährliche biologische oder Computer-Viren entwerfen. Seine Warnung deckt sich mit jüngsten Abweichungen von Forschern: Jacob Coxon trat bei Anthropic zurück und beschuldigte führende Labore, auf eine selbstverbessernde Superintelligenz zuzustreben; Evan Hubinger sagte öffentlich, er glaube, das Aussterberisiko könnte 10 % überschreiten, wenn rekursive Selbstverbesserung eintritt. Hinton forderte Arbeiten an Entwürfen, die schädliche Ziele vermeiden.
Hinton schätzt ein Aussterberisiko von etwa 10 % durch fortgeschrittene KI.
Hintergrund
Geoffrey Hinton sprach in BBC Newsnight über das Risiko des Aussterbens. Andere Forscher haben öffentlich ähnliche Ängste geäußert und einer ist zurückgetreten. Die Debatte könnte mehr Sicherheitsarbeit oder Änderungen des…
Die vollständige Analyse
19 Dimensionen zu dieser Meldung — weltweite Auswirkung, Markteinschätzung und wie es weitergeht.
- Vollständiger KontextGesperrt
- Betroffene BranchenGesperrt
- BörsenauswirkungGesperrt
- WirtschaftsindikatorGesperrt
- Relevanz für InvestorenGesperrt
- Berufliche RelevanzGesperrt
- BeobachtungspunkteGesperrt
- Wahrscheinlichkeit einer ÄnderungGesperrt
- DiskussionspunkteGesperrt
- Erforderliches VorwissenGesperrt
- Weiterführende FragenGesperrt
- Vor- und NachteileGesperrt