現(xiàn)如今,以大模型為代表的生成式人工智能技術正如一股強勁的東風,吹動著新質生產(chǎn)力的帆船破浪前行。這股技術浪潮不僅重塑了各行各業(yè)的面貌,也對算力供給提出了前所未有的挑戰(zhàn)與需求。實現(xiàn)“國產(chǎn)算力自主可控”,確保信息安全和經(jīng)濟持續(xù)健康發(fā)展,已成為當下亟待解決的關鍵課題。
北電數(shù)智“前進·AI異構計算平臺”支持對英偉達集群及多款國產(chǎn)芯片的廣泛納管,幫助用戶實現(xiàn)對不同品牌和類型AI加速卡的統(tǒng)一管理,以確保各類AI芯片的無縫集成和優(yōu)化利用。廣泛的納管能力也讓用戶能夠根據(jù)具體需求,靈活地調整資源配置,優(yōu)化算力供給滿足各類訓練推理任務。
“前進·AI異構計算平臺”具有卓越的算力調度能力,可為不同場景提供多樣化的調度策略,以精準匹配各類計算任務的不同需求?!俺毕{度”是該平臺的一大特色亮點,其可根據(jù)計算任務的特性和資源需求的變化動態(tài)地分配和回收計算資源,尤其適用于渲染應用等場景,以最大化資源的利用率并減少執(zhí)行時間;此外,“前進·AI異構計算平臺”提供的“訓推混布”策略可幫助大模型使用方實現(xiàn)同一算力集群既支持在線推理服務部署任務,又支持離線訓練任務,從而顯著提高算力資源的利用率,減少資源浪費,大幅降低運營成本。
作為全國首個在生產(chǎn)環(huán)境下可實現(xiàn)規(guī)?;瘻y試的全棧迭代驗證平臺,北電數(shù)智基于“前進·AI異構計算平臺”打造的國產(chǎn)算力PoC平臺落地北京數(shù)字經(jīng)濟算力中心。目前,國產(chǎn)算力PoC平臺已完成十余款芯片的評測支持和二十多款主流模型的適配。為更好推進國產(chǎn)芯片對模型的支持力度,北電數(shù)智自主構建了完備的融合算子庫,算子能自動調優(yōu),在分鐘級時間內可完成對各種平臺的算子適配和優(yōu)化,可將延遲水平降低3倍以上。
針對具體行業(yè),北電數(shù)智也正面向影視、金融、政務、工業(yè)等多個垂類場景開展測試驗證服務,為不同行業(yè)的垂類模型落地樹立標桿案例,持續(xù)探尋國產(chǎn)算力和行業(yè)、模型、應用的最佳適配組合,推動模型落地。
未來,「前進·AI異構計算平臺」能繼續(xù)發(fā)揮其獨特的優(yōu)勢和作用,推動國產(chǎn)算力從“可用”向“好用”邁進。同時,北電數(shù)智也將繼續(xù)加大研發(fā)投入、加強人才培養(yǎng)、構建創(chuàng)新生態(tài),為國產(chǎn)算力的自主可控和人工智能技術的持續(xù)健康發(fā)展貢獻更多的智慧和力量。
轉自:中國網(wǎng)
【版權及免責聲明】凡本網(wǎng)所屬版權作品,轉載時須獲得授權并注明來源“中國產(chǎn)業(yè)經(jīng)濟信息網(wǎng)”,違者本網(wǎng)將保留追究其相關法律責任的權力。凡轉載文章及企業(yè)宣傳資訊,僅代表作者個人觀點,不代表本網(wǎng)觀點和立場。版權事宜請聯(lián)系:010-65363056。
延伸閱讀