算力聯(lián)網(wǎng)形成統(tǒng)一調(diào)度是大勢(shì)所趨

來源：中國(guó)電子報(bào) 時(shí)間：2023-07-05 10:42:01 作者：

　　7月2日，中國(guó)綠色算力大會(huì)在內(nèi)蒙古呼和浩特舉行，中國(guó)工程院院士鄭緯民發(fā)表題為《算力的互聯(lián)與互通》的主旨演講，從HPC算力、AI算力和數(shù)據(jù)中心算力三個(gè)類別出發(fā)，深入淺出地闡釋了當(dāng)前我國(guó)算力發(fā)展現(xiàn)狀。數(shù)據(jù)顯示，截至2022年底，中國(guó)總算力規(guī)模排名全球第二；但我國(guó)算力發(fā)展呈良好趨勢(shì)，算力增長(zhǎng)速度居全球首位。鄭緯民表示，算力應(yīng)用場(chǎng)景非常多，無論是國(guó)民經(jīng)濟(jì)還是人民生活水平的提高，都能發(fā)揮很大的作用。隨著各地算力基礎(chǔ)設(shè)施逐漸發(fā)展完善，算力聯(lián)網(wǎng)形成統(tǒng)一調(diào)度是大勢(shì)所趨。

　　超算基礎(chǔ)軟件是提升HPC算力應(yīng)用效率的關(guān)鍵

　　高性能計(jì)算（HPC）算力又稱超級(jí)計(jì)算系統(tǒng)算力（簡(jiǎn)稱超算算力），用于應(yīng)對(duì)最富有挑戰(zhàn)性的計(jì)算問題，作為國(guó)際科技競(jìng)爭(zhēng)戰(zhàn)略制高點(diǎn)，是名副其實(shí)的“國(guó)之重器”。當(dāng)下，我國(guó)算力指數(shù)已經(jīng)進(jìn)入了E級(jí)，這意味著中國(guó)已經(jīng)有能力制造出每秒能做100億億次數(shù)值運(yùn)算的超級(jí)計(jì)算機(jī)。鄭緯民表示，近十年，我國(guó)在頂尖超算系統(tǒng)研制和超算系統(tǒng)部署數(shù)量都處于國(guó)際領(lǐng)先行列：從質(zhì)量上，我國(guó)在過去十年內(nèi)曾經(jīng)制造出三臺(tái)世界范圍內(nèi)最快的計(jì)算機(jī)；從數(shù)量上，在全世界一共500臺(tái)最快的計(jì)算機(jī)統(tǒng)計(jì)中，我國(guó)計(jì)算機(jī)占其中的162臺(tái)，數(shù)量超過美國(guó)，居世界領(lǐng)先地位?！澳壳埃覈?guó)有13個(gè)國(guó)家超算中心，在超算算力的提供方面發(fā)揮了重要作用?！编嵕暶窠榻B道。

　　然而，在響應(yīng)速度上限不斷拓展的同時(shí)，我們?nèi)匀幻媾R著實(shí)際應(yīng)用層面的挑戰(zhàn)。鄭緯民表示，將領(lǐng)先算力高效轉(zhuǎn)化為解決尖端科學(xué)與工程難題的能力是世界范圍內(nèi)的難題，且當(dāng)前異構(gòu)架構(gòu)路線的選擇更加劇了該鴻溝?！霸趯?shí)機(jī)運(yùn)行軟件時(shí)，我們計(jì)算機(jī)的實(shí)際運(yùn)行速度只能達(dá)到理想反射速度的10%-20%。因此，提高這個(gè)比例就是我們要努力的方向?！?/p>

　　談到目前的解決方向，鄭緯民強(qiáng)調(diào)，超算基礎(chǔ)軟件是提升轉(zhuǎn)化能力的關(guān)鍵之一，是實(shí)現(xiàn)并行應(yīng)用開發(fā)、優(yōu)化、部署、運(yùn)行高效的基礎(chǔ)和核心。當(dāng)下，國(guó)產(chǎn)超算系統(tǒng)已部署部分基礎(chǔ)軟件，而更多的完善方向，則仍然亟待研究人員去探索。

　　我國(guó)AI計(jì)算中心蓬勃發(fā)展

　　2020年4月，國(guó)家發(fā)改委明確將人工智能納入新基建范圍，人工智能成為了新興熱門產(chǎn)業(yè)之一，受到社會(huì)各界的重視。根據(jù)不同的使用場(chǎng)景，鄭緯民將人工智能歸結(jié)成三大類應(yīng)用：一是以卷積網(wǎng)絡(luò)為核心應(yīng)用方向的圖像檢測(cè)類；二是以AlphaGo為代表的、以強(qiáng)化學(xué)習(xí)為核心的博弈決策類；三是以ChatGPT為代表、以Transformer為核心的自然語言處理類。據(jù)了解，Transformer模型是一種基于自注意力機(jī)制的神經(jīng)網(wǎng)絡(luò)模型，它的核心思想是利用自注意力機(jī)制來捕捉輸入序列中的上下文信息，從而實(shí)現(xiàn)更加準(zhǔn)確的語言建模和翻譯。鄭緯民表示，在這幾個(gè)應(yīng)用類別中，只有自然語言類人工智能需要大機(jī)器的硬件支撐。

　　參數(shù)是大模型發(fā)展的一項(xiàng)重要指標(biāo)，參數(shù)越多，意味著計(jì)算機(jī)的算力就越大。當(dāng)前，人工智能正快速向更大的模型發(fā)展，參數(shù)呈指數(shù)級(jí)上升；人們耳熟能詳?shù)腉PT-3的參數(shù)高達(dá)1700億，是GPT-2的113倍。

　　在我國(guó)，人工智能產(chǎn)業(yè)快速發(fā)展，包括西安、武漢、成都、沈陽等在內(nèi)的20多個(gè)城市陸續(xù)啟動(dòng)人工智能計(jì)算中心建設(shè)，應(yīng)用場(chǎng)景遍布公安、金融、政府、運(yùn)營(yíng)商等各大領(lǐng)域。鄭緯民表示，預(yù)計(jì)到2025年，中國(guó)人工智能產(chǎn)業(yè)規(guī)模將超過4500億元，帶動(dòng)產(chǎn)業(yè)規(guī)模超1.6萬億。

　　互聯(lián)互通是數(shù)據(jù)中心算力發(fā)展的必由之路

　　演講中，鄭緯民重點(diǎn)強(qiáng)調(diào)了算力互聯(lián)的概念。他表示，算力的互聯(lián)互通是實(shí)現(xiàn)“東數(shù)西算”的一項(xiàng)基本條件，更是數(shù)據(jù)中心算力發(fā)展的必由之路。鄭緯民表示，在當(dāng)前的應(yīng)用場(chǎng)景中，帶寬不足導(dǎo)致的低延遲是算力互聯(lián)無從避免的局限性。他提出，要對(duì)現(xiàn)狀做出改善，一方面要提高算力輸送效率，通過并網(wǎng)實(shí)現(xiàn)高帶寬、低延遲的算力互聯(lián)；另一方面，可以屏蔽異構(gòu)基礎(chǔ)設(shè)施，通過統(tǒng)一編程框架和編譯的資源管理與調(diào)度軟件實(shí)現(xiàn)算力的互通。

　　最后，鄭緯民表示，目前還沒有類似的研究機(jī)構(gòu)來解決算力的互聯(lián)互通問題。他建議，應(yīng)成立東數(shù)西算研究院，團(tuán)結(jié)領(lǐng)域內(nèi)各大企業(yè)，實(shí)現(xiàn)算力的統(tǒng)一調(diào)度，穩(wěn)步推進(jìn)“東數(shù)西算”的發(fā)展與預(yù)后工作。

責(zé)任編輯：張薇