超4億！云天勵(lì)飛獨(dú)家中標(biāo)，湛江迎來首個(gè)AI推理千卡集群

2026-03-12 19:04

隨著AI技術(shù)向產(chǎn)業(yè)深度滲透，推理算力已成為智能制造等領(lǐng)域落地應(yīng)用的核心支撐，但國產(chǎn)大規(guī)模推理集群的空白，仍然制約著自主算力生態(tài)的完善。

維科網(wǎng)智能制造3月12日消息，國內(nèi)AI芯片龍頭云天勵(lì)飛傳來重磅消息：成功中標(biāo)湛江市AI滲透支撐新質(zhì)生產(chǎn)力基礎(chǔ)設(shè)施建設(shè)項(xiàng)目。

據(jù)悉該項(xiàng)目中標(biāo)金額達(dá)4.2億元，將打造國內(nèi)首個(gè)基于國產(chǎn)技術(shù)棧的AI推理千卡集群，為國產(chǎn)算力落地智能制造場景提供關(guān)鍵實(shí)踐樣本。

“國模國芯”協(xié)同新實(shí)踐

與傳統(tǒng)“訓(xùn)推一體”的智算中心不同，該集群精準(zhǔn)聚焦推理任務(wù)，主打高效適配產(chǎn)業(yè)應(yīng)用場景，為傳統(tǒng)制造業(yè)AI化轉(zhuǎn)型提供直接算力支撐。

項(xiàng)目將分三期推進(jìn)，全程采用云天勵(lì)飛自研國產(chǎn)AI推理加速卡，構(gòu)建全棧自主可控的算力體系。

在技術(shù)架構(gòu)上，集群確立了“優(yōu)先優(yōu)化Prefill、兼顧Decode”的核心路線，針對(duì)性解決大模型推理中高并發(fā)、高吞吐與低延遲的核心需求。

網(wǎng)絡(luò)層面采用400G光網(wǎng)絡(luò)構(gòu)建統(tǒng)一高速互聯(lián)架構(gòu)，實(shí)現(xiàn)節(jié)點(diǎn)間高帶寬、低延遲通信，相比傳統(tǒng)異構(gòu)網(wǎng)絡(luò)，減少了協(xié)議轉(zhuǎn)換開銷，也簡化了部署流程。

同時(shí)，針對(duì)大模型推理中KV Cache訪問壓力，系統(tǒng)在計(jì)算與存儲(chǔ)互聯(lián)層面進(jìn)行協(xié)同優(yōu)化，提升數(shù)據(jù)讀取效率，確保長上下文推理場景下的性能穩(wěn)定。

注：Prefill（預(yù)填）、Decode（解碼）是大模型推理的兩個(gè)核心階段，Prefill負(fù)責(zé)理解長上下文并完成計(jì)算，Decode負(fù)責(zé)持續(xù)生成結(jié)果；KV Cache（鍵值緩存）用于存儲(chǔ)推理過程中的中間狀態(tài)，提升推理效率。

此外，該集群具備靈活擴(kuò)展能力，可實(shí)現(xiàn)單節(jié)點(diǎn)數(shù)十卡到千卡級(jí)規(guī)模的平滑升級(jí)，適配不同規(guī)模的智能制造等行業(yè)應(yīng)用需求。

據(jù)悉集群建成后，將搭載DeepSeek等國產(chǎn)大模型，深度適配政務(wù)、產(chǎn)業(yè)等多場景需求，探索“國模國芯”協(xié)同的生態(tài)樣板，助力湛江打造“AI滲透之城”，為當(dāng)?shù)睾Ｑ蠼?jīng)濟(jì)、臨港工業(yè)等優(yōu)勢產(chǎn)業(yè)的智能化升級(jí)提供低成本、便捷的AI算力支撐。

云天勵(lì)飛的AI底蘊(yùn)

拿下這一標(biāo)桿項(xiàng)目，源自云天勵(lì)飛在AI推理領(lǐng)域的長期深耕。

作為聚焦AI推理芯片研發(fā)與商業(yè)化的企業(yè)，云天勵(lì)飛定位邊緣AI領(lǐng)域，擁有大模型和AI芯片兩大技術(shù)平臺(tái)，構(gòu)建了“算法分析—指令集定義—芯片架構(gòu)設(shè)計(jì)—工具鏈開發(fā)”的完整研發(fā)流程。

業(yè)務(wù)布局上，公司已形成消費(fèi)級(jí)、企業(yè)級(jí)、行業(yè)級(jí)三大場景覆蓋，消費(fèi)級(jí)業(yè)務(wù)進(jìn)入華為、榮耀等終端品牌供應(yīng)鏈，行業(yè)級(jí)業(yè)務(wù)覆蓋公共安全、智慧交通等領(lǐng)域，服務(wù)國內(nèi)外100多個(gè)城市，其“1+1+N自進(jìn)化城市智能體”框架還被納入中國信通院示范案例。

技術(shù)實(shí)力方面，公司已完成第四代NPU研發(fā)，正推進(jìn)下一代高性能NPU迭代，自研AI芯片采用獨(dú)特的“算力積木”架構(gòu)，可靈活應(yīng)對(duì)不同場景算力需求，支撐7B-671B參數(shù)大模型高效推理。

此次項(xiàng)目一期將部署X6000推理加速卡，二、三期則會(huì)搭載公司最新一代芯片產(chǎn)品，其中首款Prefill芯片 DeepVerse 100預(yù)計(jì)年內(nèi)完成流片，并率先在湛江集群部署。

結(jié)語

從去年的DeepSeek，到今年的”養(yǎng)龍蝦“爆火可以看出，AI技術(shù)已從技術(shù)探索向規(guī)模化應(yīng)用快速轉(zhuǎn)變，推理算力已成為決定產(chǎn)業(yè)落地速度的關(guān)鍵。

未來，云天勵(lì)飛在湛江打造的國產(chǎn)AI推理千卡集群，可通過芯片、網(wǎng)絡(luò)、系統(tǒng)的多層優(yōu)化，在效率與成本控制上形成明顯優(yōu)勢，為產(chǎn)業(yè)提供了一個(gè)更經(jīng)濟(jì)的算力方案，也將進(jìn)一步推動(dòng)AI技術(shù)在智能制造、政務(wù)服務(wù)等領(lǐng)域的滲透，助力湛江打造粵西人工智能創(chuàng)新高地。

而對(duì)于云天勵(lì)飛自身而言，該項(xiàng)目也是其作為國產(chǎn)AI推理龍頭算力規(guī)模化商用的新標(biāo)桿，也將進(jìn)一步強(qiáng)化其在推理芯片領(lǐng)域的市場地位，加速推動(dòng)其愿景——“1001計(jì)劃”的落地。

注：“1001 計(jì)劃”由云天勵(lì)飛董事長兼CEO 陳寧提出，目的是降低推理成本，目標(biāo)：在2030年，實(shí)現(xiàn)百億Token一分錢人民幣。