报告里面最让人震惊的还是推理成本可以这么低,直接让所有人对推理的高成本去了魅。单卡一小时收入38美金,而哪怕是b300这种显卡租赁价格也就10美元左右。这意味着那些靠着卖高价api的公司一下子失去了意义,只要有模型,谁都可以租卡卖算力,然后就是卷价格了。



报告里面最让人震惊的还是推理成本可以这么低,直接让所有人对推理的高成本去了魅。单卡一小时收入38美金,而哪怕是b300这种显卡租赁价格也就10美元左右。这意味着那些靠着卖高价api的公司一下子失去了意义,只要有模型,谁都可以租卡卖算力,然后就是卷价格了。


