童子早读 看《奥尔特曼传》,再一次感受到这个世界就是个巨大的草台班子。
成立OpenAi的时候,前面两三年整个团队就是瞎干,做做这个做做那个,和后来的ChatGPT八竿子打不着。后来开始尝试搞GPT的时候,也是一轮轮失败。
直到谷歌发布了Transformer论文,后面OpenAi的ChatGPT的化腐朽为神奇才开始。
同样的故事,同步看《黄仁勋传》传你会发现,最早攻破李飞飞那个ImageNet模型的,是一个被冷落的教授辛顿,带着几个学生搞出来的,这教授做了几十年冷板凳,除了和几个人一起发表了一篇《神经网络反向传播》的论文,其他成果寥寥,其实就是狗屎运碰上了一个好学生,敲门毛遂自荐外带吹牛逼,忽悠到了个研究岗位,自己在家胡捣英伟达显卡,做出来了最早的SuperVision,把ImageNet识别率提高到了80%以上。
要不是这个学生横空出世,无论是辛顿教授,还是李飞飞,项目都要做不下去了。
《奥尔特曼传》里还提到,微软当时被谷歌碾压,也是在垂死挣扎,当时人才都以去谷歌和facebook上班为荣,微软?上古世纪的恐龙罢了!
行业当时都管微软叫“蹒跚的巨人”,直到太阳谷会议,因为马斯克离开OpenAi,经营困难不得不想办法到处融资的奥尔特曼,故意安排自己在一个楼梯间“偶遇”到微软CEO纳德拉,向纳德拉毛遂自荐自己的ChatGPT,才被纳德拉抓到了发展机遇。
纳德拉虽然喜欢这个项目想投,向比尔盖茨汇报的时候老盖茨其实没同意,因为没看上,而纳德拉力排众议,才让OpenAi在微软上了马。
再说两句英伟达,参看《黄仁勋传》和《马斯克传》。并行计算最初黄仁勋就不看好,后来开始搞CUDA的时候,最坚持的也不是他,是他内部的手下喜欢做坚持做,CUDA做成了十年没客户,直到SuperVision破解ImageNet,CUDA才真正有了用武之地。
把这些穿起来看,整个人工智能的发展,确实是充满了随机性,缺一环这玩意根本就成不了。无数草台班子,内部草台决定,东拼西凑把这个时代往前推进了一大步,带入人工智能时代。
算法,算力,数据!是这三要素分别突破了,大成了,最后才成就了人工智能。
《奥尔特曼》传里还提到一个“规模法则”,这是Ai领域的第一性原理,简单说就是大力出奇迹。只要数据够大,就能预测下一个token,这说明了什么?存储还得接着涨价!
ai创造营创作活力分科技妈咪







