众力资讯网

大模型是“归纳大师”,但不是“发明家”。 😊 短期记忆(上下文内):极强,堪

大模型是“归纳大师”,但不是“发明家”。 😊

短期记忆(上下文内):极强,堪称“模式识别机器”
在你看得见的对话窗口里(比如几十万字的上下文),大模型找规律的能力碾压人类。它能瞬间发现数据间的隐藏关联、重复结构或逻辑漏洞。比如给它一堆数列或杂乱日志,它能立刻总结出规则,甚至模仿生成一模一样风格的新内容。

长期记忆(世界知识):不“找”规律,而是“压缩”规律
在训练时,它读遍全网文本,做的不是找规律,而是“压缩”——把人类所有的知识、语法和逻辑,压缩成固定的神经网络参数。所以当你问它问题时,它不是在现场推理新规律,而是在“反刍”它已经压缩好的规律。这导致一个致命弱点:它非常擅长“拟合”见过的规律,但极其不擅长“发现”从未出现过的新物理规则或反直觉规律。

总结一句话:
大模型是“归纳大师”,但不是“发明家”。 它能把已有的规律用到极致,却无法像牛顿那样从苹果落地悟出万有引力——那是人类的专属能力。

如果你想测试它的极限,可以试试给它一段加密后的新语言(没有训练数据),看它能不能仅凭几段对话破译。😊