1300TOPS算力的英伟达RTXAIPC,正掀起一场生产力革命

玩数据还有点懒 2024-04-27 09:12:40

从AI萌芽开始,NVIDIA就基本走在这一热门领域的前沿地带,尤其是在RTX GPU问世之后,其在AI领域的加速计算和广域的适用性也为诸多用户带来了高性能和各种AI新功能。到如今,就像当初iPhone正式开启了智能手机时代一样,AI在产业内的应用正趋于变革与潜力爆发的酝酿阶段,由AI带来的生活、工作乃至娱乐应用的改变,每天都在潜移默化地进步。

RTX AI PC革命来袭

早在2018年,英伟达就已经在探索AI PC的雏形了。当时,随着RTX技术和首款专为AI打造的消费级GPU(GeForce RTX)的推出,英伟达加速了向AI计算的转变。

在RTX GPU上,这些专用的AI加速器,也就是我们熟知的Tensor Core。即使运行要求极为严苛的工作和娱乐应用,它都能显著加速AI性能,还能让PC用户用上在云端才能运行的新功能。

从软硬件到生态加速,英伟达正凭借实力,有力地证明了这一点:RTX就是AI PC的核心。

硬件方面,新一代GeForce RTX GPU提供的算力,不仅从200 AI TOPS到1300 AI TOPS全覆盖,还提供了笔记本、台式电脑的多样选择。(TOPS即teraops,万亿次运算/秒)

相较之下,没有独立GPU的AI PC,算力仅为10到45 TOPS。

软件层面,从2018年到现在,全球搭载英伟达RTX GPU的PC已经有超1亿的用户。如今,它所加持的领域,已经覆盖了AI绘画、平面设计、视频编辑/体验、3D创作,到AI游戏、游戏开发,再到AI应用开发、文档助手等等。

AI算力瓶颈下边缘计算崛起

随着AI大模型爆发,大模型迭代和训练所需的算力呈指数级增长。同时,单个AI超算规模也受到功耗、土地、散热等因素制约,算力供给与需求的缺口持续放大。

此前,ChatGPT官网一度停止Plus付费项目的购买,GPT-4推出之后也已多次下调付费用户访问限制,原因是访问量激增超出了服务器的承受能力。

随着这场GenAI热潮逐步扩张,算力短缺已成为行业面临的共同挑战。如果说传统算力是AI大模型的筋骨,那么边缘算力就是遍布全身的神经系统。

英伟达指出,为了有效运用算力达成AI应用目标,大规模数据中心势必要增加资本支出以扩大云端运算效能,同时也将带动边缘设备的销售。

在AI向实际场景落地的过程中,边缘算力的重要性将加速凸显。未来的AI运算将呈现出“训练与迭代在云端、推理与内容生产梯度分布(云侧+雾侧+边缘侧)”的格局变化,边缘算力有望成为AI算力的重要组成部分。

相较于传统云端,边缘计算作为一种分布式计算架构,具有低延迟、高安全性、高可靠性、保护用户隐私等优势,其在实时决策在自动驾驶、医疗保健、金融、制造等各个领域都至关重要。

从效率方面看,边缘计算使GenAI模型能够在边缘处理数据,从而显着减少延迟并实现更快洞察。这意味着可以实时做出关键决策,从而提高运营效率、增强客户体验和更好的整体业务成果。

其次,通过利用边缘计算,企业可以在边缘设备网络上分配计算负载,从而优化资源利用率并有效扩展。这种方法最大限度地减少了集中式云基础设施的压力并优化了带宽使用,从而节省了成本并提高了性能。

第三,通过边缘计算,GenAI模型可以直接在边缘设备或本地服务器上运行,最大限度地减少将敏感数据传输到集中式云服务器的需要。

免责声明:

1、本号不对发布的任何信息的可用性、准确性、时效性、有效性或完整性作出声明或保证,并在此声明不承担信息可能产生的任何责任、任何后果。

2、 本号非商业、非营利性,转载的内容并不代表赞同其观点和对其真实性负责,也无意构成任何其他引导。本号不对转载或发布的任何信息存在的不准确或错误,负任何直接或间接责任。

3、本号部分资料、素材、文字、图片等来源于互联网,所有转载都已经注明来源出处。如果您发现有侵犯您的知识产权以及个人合法权益的作品,请与我们取得联系,我们会及时修改或删除。

0 阅读:252

玩数据还有点懒

简介:感谢大家的关注