10月28日上海,天数智芯把天垓300搬上台,题目不是自己出的,由现场观众随机提。云端文生图、端侧断网对比,都当场跑给媒体看。重点不是一句“赢了H200”,而是国产GPU第一次敢把自己放进可复现的公开比较里。
现场有两个对照。云端让天垓300和H200同时接“一只老虎把月亮踢飞”,前者约95.6秒,后者约112秒;端侧断网下,彤央TY1200对比Jetson Thor T5000,肉眼能看出快慢。公开直播就可能翻车,这种验证比跑分截图更有说服力。
不过“1.05倍”得放回语境。上海仪电2026年7月做过第三方实测,典型PD分离部署,折算单卡端到端吞吐是H200的1.05倍。它比的是整条推理链路吐出的有效Token,不是纸面峰值;这是特定部署、特定负载下的门槛性结论,不能写成全面超越。
云端也不只推理。现场说GLM-5.3在64K规模下MoE吞吐是H200的1.15倍,8K到128K长上下文里Agent首字延迟低10%到30%;训练侧Qwen3-32B、8卡FP8,每卡有效吞吐是H100的1.33倍,1024卡约26天能跑完1T参数、40B激活MoE模型一轮RL。这些是现场和厂商口径,仍要看更多模型和长期负载;满负荷步时波动0.43%,对照Hopper方案0.76%,对Token工厂来说稳更值钱。
机柜账也摆出来了。IXL144超节点一个机柜144颗GPU加18颗CPU,约10.1TB聚合显存,主打高密度;相较H200方案,每百万有效Token成本可降约40%。这是官方测算,实际要看部署,但竞争确实转向单位有效产出的成本。
生态上它没押单一路线。天垓300可同H100/H200混合训练,也能和其他厂商芯片协同;GPU+XPU异构AFD分离方案跑通,天垓300负责Prefill与Attention,合作方XPU负责FFN,Decoding延迟降低60%。过渡期里,能混着用、能替换,比纯自研闭环更现实。
端侧最容易看花眼。TY1200标称300 TOPS稠密算力,Thor T5000标称2070 TFLOPS(FP4稀疏),口径不同,纸面不占优;实测里Qwen3.8-27B为Thor的138%,Qwen3.6-35B-A3B为110%,在英伟达自家Cosmos上,R2-2B达158%、R2-8B达180%。标称算力有稀疏/稠密、FP4/TOPS的口径游戏,端侧真标尺是断网、低功耗、真实任务下能不能用。
现场还跑了三件事:本地离线生成5秒1056×608视频约6分钟,零云端费用;万字合同风险审阅一两分钟,给出法规和内部规则依据;MicroDuck小鸭子首次在国产端侧跑通基于MuJoCo-Warp的GPU加速物理仿真。落地有TY1000机器狗本地人脸识别跟随、不上云,TY1200陪诊机器人在上海市阳光康复中心上岗;下一代TY2000标称600T。
硬件之外,软件栈是隐形战场。天数智算软件栈拥抱Agentic AI,现场给的效率对比是:环境部署从人工1小时以上降到10分钟内;性能调优从约一周降到不到2小时;写算子接入FlyDSL,预估10人天降到不到2小时,编译反馈等待降90%以上。硬件追平只是入场券,开发者体验才决定迁移成本。
冷思考也得有。单点实测不等于全负载、全模型、全生命周期的稳定领先;CUDA生态的开发者惯性和工具链成熟度仍是长期壁垒;量产交付、规模化部署和长期运维,才是从演示走向生产的门槛。该肯定的是第三方实测、可复现、可交付,敢让观众随机出题,这些不是空话。
产业坐标也在变。IDC说2026上半年中国数据中心AI加速器总出货约200.8万颗;英伟达约67.8万颗、同比降44%,份额从约55%降到34%;华为约57.2万颗、份额升到28%,叠加寒武纪、平头哥,本土已成大头;非GPU出货约101.6万颗,首次超过GPU。韶关“国芯训国模”万卡集群、京东云10万张摩尔线程集群、昇腾384超节点商用也在串起来;天数智芯对标H200不是孤立事件,而是国产算力从补位走向正面竞争的一个切片,但整体仍是结构替代,不是全面反超。
路线图也摆在那:天枢架构“超越Hopper”是第一站,后面是Blackwell、Rubin。这一次它把说过的话用实测兑现了一部分;下一次面对Blackwell/Rubin,还敢不敢再上台同场PK,才是对“高质量算力”最硬的检验。从“能不能用”到“敢不敢比”,国产GPU换了条赛道,胜负还在开发者日复一日的选择里。