Geoffrey Hinton 警告：人工智能可能带来人类灭绝的风险

科技

Anadolu Ajansı

诺贝尔奖得主 Geoffrey Hinton 告诉 BBC Newsnight，大约在未来十年内，先进人工智能造成人类灭绝的概率约为“并非不合理”，并指出系统若无法通过传播错误信息、使网络攻击成为现实、或设计危险生物或计算机病毒来控制物理系统，可能带来毁灭性后果。他的警告与最近研究者的异议相呼应：Jacob Coxon 已从 Anthropic 辞职，指责领先实验室在向自我改进的超级智能竞赛；Evan Hubinger 公开表示，如果递归自我改进发生，灭绝风险可能超过10%。Hinton 呼吁在避免有害目标的设计方面开展工作。

Hinton 估计先进人工智能带来的大约10%的灭绝风险。