打造“質(zhì)”“量”國產(chǎn)算力，北電數(shù)智以全棧產(chǎn)品助力行業(yè)生態(tài)繁榮

來源：智企新聞網(wǎng) 時間：2024-12-18 15:42:04 作者：

　　近年來，人工智能經(jīng)歷了持續(xù)的迭代與升級。從最初的簡單預(yù)測模型，到深度學(xué)習(xí)模型，再到近年來廣受歡迎的Transformer模型，AI算法不斷演進，智能化水平也在穩(wěn)步提升。

　　ChatGPT的出現(xiàn)更是引發(fā)了人工智能技術(shù)的飛躍，標(biāo)志著大模型時代的到來。眾企業(yè)紛紛在大型語言模型領(lǐng)域展開布局，研究重點也逐漸從單一的語言模型、視覺模型擴展至多模態(tài)大模型，世界模型也需不斷提高數(shù)據(jù)參數(shù)和模型復(fù)雜度。然而，從行業(yè)實際應(yīng)用的角度來看，模型的小型化和推理模型的重要性正日益凸顯。這也意味著，大模型在算法層面的演進對算力和數(shù)據(jù)提出了更高的要求。

　　北京電子數(shù)智科技有限責(zé)任公司（以下簡稱“北電數(shù)智”）首席科學(xué)家、復(fù)旦大學(xué)計算機學(xué)院特聘教授竇德景曾在《人工智能在大算力、大數(shù)據(jù)和大模型時代的研究和應(yīng)用》發(fā)言中表示“大模型日新月異的當(dāng)下時代，行業(yè)數(shù)據(jù)、算法、算力基礎(chǔ)設(shè)施層的升級挑戰(zhàn)。算力購買投入的同時伴隨著算力運營成本的增加，新一代芯片更新迭代導(dǎo)致的貶值問題也影響著業(yè)務(wù)需求的算力成本投入。過往購買算力只看數(shù)量的時代已經(jīng)過去，粗放式的算力發(fā)展方式已不能滿足當(dāng)下市場的需求，未來的算力需要“質(zhì)”“量”兼顧，重視提高算力基礎(chǔ)設(shè)施的利用率和效率?！?/p>

　　北電數(shù)智作為？家專注于原創(chuàng)性、顛覆性、引領(lǐng)性科技創(chuàng)新的人工智能科技企業(yè)，在算力、算法和數(shù)據(jù)等方面實現(xiàn)了全棧產(chǎn)品和解決方案布局。北電數(shù)智寶塔·模型適配平臺能無縫適配多種軟件，并與各大主流開發(fā)框架保持兼容性，從而降低企業(yè)和開發(fā)者的使用門檻。寶塔·模型適配平臺賦予開發(fā)者極大的靈活性，使其不必局限于單一選擇，既可以利用主流的基礎(chǔ)大模型，也可以選擇開源模型，有效解決了算法層面的“煙囪難題”，實現(xiàn)了不同模型間的自由切換。

　　釋放公共數(shù)據(jù)的潛在價值，促進企業(yè)間數(shù)據(jù)的順暢流轉(zhuǎn)，并豐富專業(yè)數(shù)據(jù)集以滿足模型訓(xùn)練的需求，已成為行業(yè)發(fā)展的關(guān)鍵路徑。北電數(shù)智搭建了核心數(shù)據(jù)空間——紅湖·可信數(shù)據(jù)空間，可集成隱私計算、數(shù)據(jù)沙箱、區(qū)塊鏈等多種數(shù)據(jù)安全技術(shù)，保障數(shù)據(jù)要素在安全可信的環(huán)境中實現(xiàn)匯聚、共享、開放和應(yīng)用，促使數(shù)據(jù)要素實現(xiàn)高效流通并充分發(fā)揮價值，是解決數(shù)據(jù)跨域流通的最優(yōu)解。

　　“質(zhì)”“量”兼顧的精細化運營成為對AI基礎(chǔ)設(shè)施的新期待。北電數(shù)智公司前進·AI異構(gòu)計算平臺具有卓越的算力調(diào)度能力，可為不同場景提供多樣化的調(diào)度策略，以精準(zhǔn)匹配各類計算任務(wù)的不同需求。“潮汐調(diào)度”是該平臺的一大特色亮點，其可根據(jù)計算任務(wù)的特性和資源需求的變化動態(tài)地分配和回收計算資源，尤其適用于渲染應(yīng)用等場景，以最大化資源的利用率并減少執(zhí)行時間；此外，“前進·AI異構(gòu)計算平臺”提供的“訓(xùn)推混布”策略可幫助大模型使用方實現(xiàn)同一算力集群既支持在線推理服務(wù)部署任務(wù)，又支持離線訓(xùn)練任務(wù)，從而顯著提高算力資源的利用率，減少資源浪費，大幅降低運營成本。前進·AI異構(gòu)計算平臺支持多款國產(chǎn)芯片的廣泛納管，幫助用戶實現(xiàn)對不同品牌和類型AI加速卡的統(tǒng)一管理，以確保各類AI芯片的無縫集成和優(yōu)化利用。廣泛的納管能力也讓用戶能夠根據(jù)具體需求，靈活地調(diào)整資源配置，優(yōu)化算力供給滿足各類訓(xùn)練推理任務(wù)。目前，北電數(shù)智基于“前進·AI異構(gòu)計算平臺”打造的國產(chǎn)算力PoC平臺落地北京數(shù)字經(jīng)濟算力中心，且該平臺已完成十余款芯片的評測支持和二十多款主流模型的適配。

　　北電數(shù)智依托完備的AI全棧技術(shù)產(chǎn)品體系，以“寶塔？模型適配平臺”讓大模型任務(wù)找到算力最優(yōu)使用方式并提供AI工具鏈實現(xiàn)大模型全生命周期的生產(chǎn)與管理，憑“紅湖？可信數(shù)據(jù)空間”在安全可信環(huán)境下激活數(shù)據(jù)要素價值反哺模型能力，借“前進？AI 異構(gòu)計算平臺” 實現(xiàn)底層芯片高效納管和調(diào)度提升算力效能，積極推動人工智能在各個領(lǐng)域的應(yīng)用實踐與落地。

責(zé)任編輯：張薇