让大模型不再「巨无霸」,大模型新贵还是绕不过云计算大佬

玩数据还有点懒 2024-04-29 09:20:19

近期,大语言模型、文生图模型等大规模 AI 模型迅猛发展。在这种形势下,如何适应瞬息万变的需求,快速适配大模型至各类下游任务,成为了一个重要的挑战。受限于计算资源,传统的全参数微调方法可能会显得力不从心,因此需要探索更高效的微调策略。上述挑战催生了参数高效微调(PEFT)技术在近期的快速发展。

中国首个Sora级视频大模型Vidu重磅发布

早在2023年3月,基于U-ViT架构,该团队在开源的大规模图文数据集LAION-5B上就训练了10亿参数量的多模态模型——UniDiffuser,并将其开源,率先完成了U-ViT架构的大规模可扩展性验证。

Vidu也复用了生数科技在图文任务的很多经验,包括训练加速、并行化训练、低显存训练等等,从而快速跑通了训练流程。

据悉,他们通过视频数据压缩技术降低输入数据的序列维度,同时采用自研的分布式训练框架,在保证计算精度的同时,通信效率提升1倍,显存开销降低80%,训练速度累计提升40倍。

从图任务的统一到融合视频能力,Vidu可被视为一款通用视觉模型,能够支持生成更加多样化、更长时长的视频内容。

作为自Sora发布之后全球率先取得重大突破的视频大模型,Vidu性能全面对标国际顶尖水平,并在加速迭代提升中。未来,Vidu灵活的模型架构将能够兼容更广泛的多模态能力。

云服务支撑大模型的必要性

在大模型技术迅速迭代的背景下,AWS强调云服务不仅要支撑大模型,更要对最终的业务效果负责。Amazon Bedrock通过端到端的服务,打造了一个对客户业务效果负责的平台。

Amazon Bedrock的新特性包括新增的模型版本、文本嵌入、模型评估工具、图像生成器和自定义模型导入功能。这些特性为客户提供了更多的选择和更低的成本,同时也简化了模型的调试和应用。随着AI技术的广泛应用,安全性和合规性成为了客户关注的重点。Amazon Bedrock的Guardrails功能,帮助客户防止有害内容并管理应用程序内的敏感信息。

AWS生态系统的AI融合AWS没有选择单一地做大模型,而是将AI技术融入到其庞大的生态系统中,使得客户能够自由构建生成式AI应用,而无需关注复杂的机器学习或底层基础设施。

Amazon Bedrock的推出和更新,不仅增强了AWS在AI服务领域的竞争力,也推动了整个云计算行业的创新和发展。它为模型公司提供了一个公平的起点,让客户能够体验和比较不同的模型。AWS在云计算和AI领域坚持其第一性原理,即提供最小单元化的IT基础设施,让开发者自由选择与组合。这种理念在Amazon Bedrock的推出和迭代中得到了充分体现。

随着AI技术的不断进步和应用,云计算行业的竞争将更加激烈。AWS通过Amazon Bedrock展现了其在AI服务领域的实力和决心。未来,AWS将如何继续引领云计算和AI技术的创新,值得我们持续关注。

免责声明:

1、本号不对发布的任何信息的可用性、准确性、时效性、有效性或完整性作出声明或保证,并在此声明不承担信息可能产生的任何责任、任何后果。

2、 本号非商业、非营利性,转载的内容并不代表赞同其观点和对其真实性负责,也无意构成任何其他引导。本号不对转载或发布的任何信息存在的不准确或错误,负任何直接或间接责任。

3、本号部分资料、素材、文字、图片等来源于互联网,所有转载都已经注明来源出处。如果您发现有侵犯您的知识产权以及个人合法权益的作品,请与我们取得联系,我们会及时修改或删除。

0 阅读:1

玩数据还有点懒

简介:感谢大家的关注