李录:若人工智能真照此发展,少数人掌控“半神”般的超级智能,绝大多数普通人既看不懂也无从管控,最终无人能驾驭这套系统。人类不会愿意生活在这样的社会。
因此只有两种可能:这项技术事实上不会朝那个方向继续演进;如果确实正在朝那个方向演进,人类终有一天会团结起来阻止事态滑向这一结局。
无论哪种情形,最终都不会迎来凌驾于人类之上的超级智能。
AI始终没有超越人类既有范畴,只是人类能力的延伸。
AI仍牢牢建立在人类产出的数据之上。若要跃升至生物层级智能,门槛极高(如人类基因组存储约50比特信息,机器抵达生物级智能需万亿倍规模的信息体量),眼下距离遥远。