Geoffrey Hinton が AI は人類絶滅を招くリスクがあると警告

テクノロジー

Anadolu Ajansı

ノーベル賞作家の Geoffrey Hinton は BBC Newsnight に対し、高度な AI からの人類絶滅の可能性は今後十年で「約10%程度はあり得る」と述べ、システムが物理的系の制御なしに混乱を引き起こしうると指摘した。誤情報の拡散、サイバー攻撃の可能性、危険な生物学的またはコンピュータウイルスの設計を通じて破壊を招くことがあり得る。彼の警告は、自己改善を繰り返す超知能へと向かうことで絶滅リスクが増大する可能性を示唆する研究者の最近の dissent と一致している。ヒントンは有害な目標を回避する設計の開発を促した。

ヒントンは高度な AI からの絵10%程度の絶滅リスクを見積もっている。