意识尚无定论,AI觉醒之忧言之过早,教皇通谕《伟大的人性》与诺奖得主帕里西的访谈,把AI伦理推向全球舆论中心。帕里西警示最隐蔽的风险是"无声的授权"——将本属于政治和道德的判断悄然包装为"技术决定",这一洞察发人深省。然而,在这场宏大讨论的底层,一个更基础的问题被普遍回避:我们究竟在担忧什么样的AI?
"意识"其实是一个被过度简化的缩略词。它至少应拆解为人工意识与自我意识两个层次,前者尚有操作性定义的空间,后者才是真正的争议焦点。自我意识的核心内涵是什么,其归属主体具备何种特征,它与智能是何种关系,其产生与运行的动力学机制为何——这一连串问题环环相扣,学界至今没有共识。
科学的严肃态度是:在产生智能与意识的基本科学原理尚未建立、判据尚未明确之前,断言AI"必将觉醒"或"绝无可能",都是越过证据的猜测。它究竟像永动机那样被原理性地排除,还是需要特定的物理条件才能涌现,目前没有任何理论能够回答。
治理AI的紧迫性毋庸置疑,但治理的对象应当是已经显现的权力集中、算法操纵与责任真空,而非建立在未经检验假设之上的"意识恐慌"。把科学问题留给科学,把伦理责任留给人类,这才是这个时代真正的清醒。