3 月 12 日，云天励飞中标湛江市AI渗透支撑新质生产力基础设施建设项目，中标金额4.2亿元。项目将基于云天励飞自研的国产AI推理加速卡，建设国产AI推理千卡集群。
该集群将搭载DeepSeek等国产大模型，为政务、产业及各类应用场景提供更加便捷、低成本的AI能力，探索打造“国模国芯”的AI生态样板。
无论是春节期间大热的SeeDance，近期广泛讨论的“小龙虾”，还是各行业不断上线的AI Agent应用，背后都离不开推理算力的支撑。根据Gartner预测，到2026年，约55%的AI专用云基础设施支出将用于推理工作负载。
过去，国内许多智算中心普遍采用“训推一体”的建设模式。而此次在湛江建设的集群，则定位为专注推理任务的AI推理集群，主要面向各类行业应用场景，为传统产业的AI化提供直接支撑。
湛江也是国产大模型DeepSeek创始人梁文峰的家乡。近年来，当地在“DeepSeek+”应用探索方面动作频频。2025年初，DeepSeek-R1发布后，湛江即完成本地部署——基于国产技术栈的DeepSeek-R1大模型率先在湛江政务云上线。该模型在处理通用政务事务的同时，还能够持续学习本地产业知识与方言表达，逐渐形成具有地方特色的“湛江智慧”。
此次云天励飞建设的AI推理集群，也将与DeepSeek等国产模型进行深度适配，为更多行业应用提供算力支撑。
湛江落地的千卡推理集群，采用云天励飞自主研发的AI推理芯片，并在系统架构上确立了“优先优化Prefill、兼顾Decode”的技术路线。通过在芯片设计中对计算资源与存储带宽进行针对性配置，使系统在长上下文推理场景下依然能够保持较高的吞吐效率。
在网络互联方面，系统采用统一高速互联架构，通过400G光网络构建集群物理层网络，实现节点之间的高带宽、低延迟通信。与传统在节点内和节点间分别采用不同协议构建网络的方式相比，这种同构互联架构减少了协议转换带来的额外开销，也简化了系统部署。
通过芯片架构、网络互联以及系统调度等多层优化，这一推理集群在整体效率与成本控制方面形成了明显优势，为AI规模化应用提供了更加经济的算力方案。
据悉，本次AI推理集群将分三期建设，并全部采用云天励飞自研的国产AI推理加速卡。其中，一期项目将部署云天励飞 X6000 推理加速卡；二、三期建设将率先搭载公司最新一代芯片产品。
随着大模型逐渐进入应用阶段，产业关注点正从“算力峰值”转向“单位成本效率”。湛江项目的落地，也为这一目标提供了重要的实践场景。千卡级推理集群不仅能够满足当前AI应用需求，同时也为更大规模算力系统提供技术部署平台。
在典型架构下，一个千卡级集群通常由多级扩展结构组成：从单节点8卡、32卡，到64卡甚至百卡级超节点，再到跨节点的大规模集群。通过这一规模系统的实际运行，可以充分验证卡间互联、节点通信和负载均衡等关键技术，为未来更大规模AI算力系统建设积累经验。
南方+记者 郜小平
迎客松配资提示：文章来自网络，不代表本站观点。
