百度发布百舸AI计算平台5.0:性能提升8倍 1万亿参数模型轻松跑

8月28日消息,在今天举办的2025百度云智大会上,百度智能云正式发布百度百舸AI计算平台5.0全新版本。

此次升级在网络、算力、推理系统及训推一体系统等四大方向实现全面能力提升。

网络方面,VPC、RDMA、X-link三张网实现全面升级,通信更快,延迟更低,模型训推效率得到提升。

算力方面,昆仑芯超节点上线公有云服务,超级算力正式可用。即使是1万亿参数的开源模型,也只需要几分钟、1个云实例,就可以轻松跑起来。

最新测试显示,超节点性能达到上一代实例8倍,单卡吞吐提升近一倍,比国内的同类产品高出15%。

推理系统层面,通过算子解耦、自适应并行策略及分布式KV Cache等创新,将DeepSeek R1的推理吞吐效率提升50%,大幅降低长文本响应延迟。

本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。

相关文章