聊天机器人改变了这一切。因为这可能是过去15年里科学方面唯一让我感到意外的事:迁移学习在语言领域竟然如此有效。你可以在不与环境互动的情况下——无论是机器人还是模拟环境——仅从互联网上就分离出语言并学习它。这非常有趣,这是另一个话题了,我有一些理论来解释原因。语言比语言学家以为的更具备"具身性"。有一部分具身性来自于人类测试者给出的强化学习反馈,因为人类是生活在真实世界中的。当我们对某些事情说"是"或"否"时,我们的具身性就以一种极低带宽的方式注入了基础模型的理解中。
聊天机器人改变了这一切。因为这可能是过去15年里科学方面唯一让我感到意外的事:迁移学习在语言领域竟然如此有效。你可以在不与环境互动的情况下——无论是机器人还是模拟环境——仅从互联网上就分离出语言并学习它。这非常有趣,这是另一个话题了,我有一些理论来解释原因。语言比语言学家以为的更具备"具身性"。有一部分具身性来自于人类测试者给出的强化学习反馈,因为人类是生活在真实世界中的。当我们对某些事情说"是"或"否"时,我们的具身性就以一种极低带宽的方式注入了基础模型的理解中。