SGLang近期连发三项重要进展:
一是SGLang-Diffusion结合VDN-H3(Video DeltaNet hybrid attention),在8×B200上实现14.4秒768p视频仅需9秒生成(去噪仅6.9秒),超过2倍实时速度,且质量与原版50步Dense H3几乎无损失;
二是Day-0支持上海AI Lab的Intern-S2-397B(397B科学多模态基础模型),专为长周期科学研究和智能体设计;
三是与三星联合发布白皮书,通过SGLang HiCache + Samsung Cognos的可组合AI Memory Node,显著降低LLM推理延迟(最高3.1×)、提升吞吐(最高2.2×)。
