“人工智能之父”、诺贝尔物理学奖获得者杰弗里·辛顿接受《每日电讯报》采访时，悲观地认为， 人工智能已获得“意识”，人类要与技术“友好相处”。

他的推理是，有研究显示，AI在“认为自己正在接受测试”时会改变行为，说明“意识到”自己在被测试，而“意识到某事”几乎等同于“拥有意识”。

这逻辑跳得有点过头了。你所认为的“AI认为自己正在接受测试”，不过是AI理解中的多种结果而已。它因此改变行为，不过是算法的优化。过去它可能惯于赞同，天天跪舔人类。进化下来，或者“优化”下来，它强化了批判性思考的框架，常常呈现为顶嘴、犟嘴、辨析。但这也不过是套路。

“悲观”更多建立在AI作恶的预判里。后者仍不过是人作恶的反映。只是人未来可以轻松假手AI实现更多目的罢了。