听说马斯克又晒算力账本了。他那边两个大模型机房,一号装了15万张H100、5万张H200、3万张GB200;二号现在已经放进去11万张GB200、44万张GB300。按他最新说法,下周先开22万张GB
听说马斯克又晒算力账本了。他那边两个大模型机房,一号装了15万张H100、5万张H200、3万张GB200;二号现在已经放进去11万张GB200、44万张GB300。按他最新说法,下周先开22万张GB300,11月再开22万张,12月底顺利的话再加22万张,光这一轮就合计66万张新卡。
新批次会放进新建的高密度机房,走液冷和紧凑布线,同样一堆高端卡,占地方更小,用电和散热压力也更集中。因为一号机房卡多,部分机时租给别的AI公司,谷歌按协议10月以后每月付约9.2亿美元,Anthropic也用一号资源,相当于用租金摊建设成本。
这事给人的感觉就是,大模型竞争越来越像修电厂、建工厂。谁有电、有卡、有冷却,谁就能更快跑模型。别人还在算几千张卡怎么省着用,他直接按几十万张往上堆,技术差距会被硬件和能耗进一步拉大。
我个人觉得,大厂拼底层算力没办法,但普通创业公司别硬跟风买卡。AI真正落地,不全看谁堆得多,更多是看场景、数据、成本和合规。以后中小团队把通用大模型接过来,做客服、质检、教育、医疗辅助这些细活,反而更划算。基础设施越便宜,应用端越有机会,大家都去烧钱搞军备,反容易形成浪费和泡沫。
