首頁(yè) 服務(wù) > 正文

AIGC加速商業(yè)化落地,如何應(yīng)對(duì)算力需求激增?

中新網(wǎng)8月17日電題:AIGC加速商業(yè)化落地,如何應(yīng)對(duì)算力需求激增?

中新財(cái)經(jīng)記者夏賓

以大模型為代表的AIGC熱潮帶來(lái)了AI算力需求的爆發(fā)式增長(zhǎng),AI算力已成推動(dòng)人工智能發(fā)展的關(guān)鍵要素。


(資料圖片僅供參考)

“今年,在全球范圍都掀起了一場(chǎng)AI范式轉(zhuǎn)化革命,在政策和資本雙重驅(qū)動(dòng)下,AIGC在加速商業(yè)化落地,超千億參數(shù)的AIGC大模型在不斷涌現(xiàn)?,F(xiàn)在中國(guó)已經(jīng)發(fā)布了AIGC的模型數(shù)量超過(guò)了110個(gè),引發(fā)了巨量化的人工智能的算力需求。”浪潮信息服務(wù)器產(chǎn)品線總經(jīng)理趙帥近日在參加2023年開(kāi)放計(jì)算中國(guó)社區(qū)技術(shù)峰會(huì)(OCP China Day2023)時(shí)如是說(shuō)。

計(jì)算力就是生產(chǎn)力,智算力就是創(chuàng)新力,更豐富的算力資源成為人工智能競(jìng)爭(zhēng)的核心基石。IDC預(yù)計(jì),全球AI計(jì)算市場(chǎng)規(guī)模將從2022年的195億美元增長(zhǎng)到2026年的346.6億美元,其中生成式AI計(jì)算市場(chǎng)規(guī)模將從2022年的8.2億美元增長(zhǎng)到2026年的109.9億美元。生成式AI計(jì)算占整體AI計(jì)算市場(chǎng)的比例將從4.2%增長(zhǎng)到31.7%。

解決算力需求激增是當(dāng)前市場(chǎng)面臨的共同挑戰(zhàn)。趙帥指出,隨著市場(chǎng)對(duì)于AI計(jì)算力的攀升,全球有上百家公司在投入新型的AI硬件方面的研發(fā)和設(shè)計(jì),由于各廠商技術(shù)路線不同,多個(gè)方面都在兼容性上存在問(wèn)題,導(dǎo)致整個(gè)AI的計(jì)算基礎(chǔ)設(shè)施在建設(shè)當(dāng)中不得不面臨著硬件分裂化和生態(tài)離散化的重大挑戰(zhàn)。

“由于專(zhuān)有的硬件系統(tǒng)的挑戰(zhàn)和設(shè)計(jì)復(fù)雜性,把他們集成到一套整機(jī)系統(tǒng)中,我們所需要花費(fèi)的時(shí)間和費(fèi)用也更多,嚴(yán)重阻礙了AI加速器的創(chuàng)新應(yīng)用和開(kāi)發(fā)推廣。”趙帥直言,大模型訓(xùn)練對(duì)于算力平臺(tái)有較高要求,我們需要計(jì)算系統(tǒng)具備更高的計(jì)算性能,更快的卡間互連帶寬,以及更強(qiáng)的橫向拓展能力。

趙帥對(duì)中新財(cái)經(jīng)記者說(shuō),為了更好去支撐大模型訓(xùn)練,必須要實(shí)現(xiàn)多機(jī)互聯(lián)的集群架構(gòu),在這個(gè)擴(kuò)展過(guò)程中,系統(tǒng)間的通信以及整體的散熱、接口、測(cè)試等各種各樣的標(biāo)準(zhǔn)都必須更加細(xì)化。

他進(jìn)一步稱(chēng),開(kāi)放加速系統(tǒng)架構(gòu)憑借其散熱、供電、互聯(lián)、擴(kuò)展性等設(shè)計(jì)特點(diǎn),本身在設(shè)計(jì)之初可支持更高功耗、更大互聯(lián)帶寬、更強(qiáng)擴(kuò)展能力的AI加速卡,通過(guò)支持跨節(jié)點(diǎn)的高速直連和橫向擴(kuò)展,可以很快地實(shí)現(xiàn)萬(wàn)卡級(jí)以上的集群規(guī)模,天然就適用于超大規(guī)模神經(jīng)網(wǎng)絡(luò)的并行訓(xùn)練。

同時(shí),開(kāi)放加速計(jì)算社區(qū)提供了統(tǒng)一的主機(jī)接口、供電方式、散熱方式、管理接口、卡間的互聯(lián)拓?fù)涞纫?guī)范,無(wú)需做任何硬件修改,就可以讓上百家AI創(chuàng)新企業(yè),更好更快地把其AI算力的相關(guān)硬件融合到AI計(jì)算服務(wù)器中去,以系統(tǒng)化方式呈現(xiàn)更好的算力,顯著降低開(kāi)發(fā)投入。

此外,值得注意的是,數(shù)據(jù)中心可持續(xù)發(fā)展的技術(shù)方案正得到越來(lái)越多OCP社區(qū)成員與用戶(hù)的重視,可持續(xù)發(fā)展已成為一種社區(qū)共識(shí)。趙帥也認(rèn)為,促進(jìn)數(shù)據(jù)中心可持續(xù)發(fā)展已經(jīng)成為必須采取的行動(dòng),從開(kāi)發(fā)環(huán)保產(chǎn)品,到使用清潔能源改善能源結(jié)構(gòu),到應(yīng)用液冷技術(shù)降低碳排,乃至電子垃圾回收及再利用,可持續(xù)發(fā)展的理念應(yīng)貫徹?cái)?shù)據(jù)中心生命周期的始終。(完)

(文章來(lái)源:中國(guó)新聞網(wǎng))

關(guān)鍵詞:

最近更新

關(guān)于本站 管理團(tuán)隊(duì) 版權(quán)申明 網(wǎng)站地圖 聯(lián)系合作 招聘信息

Copyright © 2005-2023 創(chuàng)投網(wǎng) - www.mallikadua.com All rights reserved
聯(lián)系我們:39 60 29 14 2@qq.com
皖I(lǐng)CP備2022009963號(hào)-3