前两天看梁文锋那个分享说到持续学习,还想到 Ilya 当初创办 SSI 的时候写的是,只做一个产品,安全的超级智能。a safe superintelligence.
之后 SSI 真是安静得可怕,没有任何的声音出来。
去年年底 Ilya 录过一个播客,里面主持人的问题是:我们怎么才能在模型中复制人类的学习效率?
我把这个问题理解为,一是低样本,二是持续学习。
lIya 明显变得兴奋,说:
「这是一个极好的问题,我对此也有很多想法。但遗憾的是,我们生活在一个并非所有机器学习思想都能被自由讨论的世界里,而这个问题恰恰属于其中之一。
不过我认为,这种(学习)机制是可以实现的,毕竟人类的存在本身就是一种证明。
我们在取得进展,实际上我们在过去一年里取得了相当好的进展。」
而这一次英伟达投资 SSI,是建立在「有机会了解 SSI 的研究状况」的基础上的。这一次轮到问:老黄看到了啥?

