英偉達(dá)中國(guó)區(qū)首席技術(shù)官：將任務(wù)負(fù)載從 CPU 移至 GPU 能支撐更多的用戶 并節(jié)省更多能耗

(資料圖片)

編程客棧() 7月7日消息:在今天的 2023 世界人工智能大會(huì)上，英偉達(dá)中國(guó)區(qū)首席技術(shù)官賴俊杰指編程客棧出，全球數(shù)據(jù)中心計(jì)算問題存在兩個(gè)重要趨勢(shì)。

首先，人們對(duì)人機(jī)交互的期望提高，引發(fā)了全球第二波關(guān)于大模型的投入浪潮。其次，許多互聯(lián)網(wǎng)公司面臨用戶需求增長(zhǎng)和功耗增加編程的問題，尤其是人工智能的大模型訪問比例增加，需要更多的能耗投入。因此，英偉達(dá)提出將任務(wù)負(fù)載從CPU移至GPU，以支撐更多的用戶請(qǐng)求，并節(jié)省更多的能耗。

據(jù)了解，目前，AI GPU 市場(chǎng)主要由英偉達(dá)和AMD 主導(dǎo)，但在用于推動(dòng)像 ChatGPT 這樣的大型語(yǔ)言模型（LLM）的 AI GPUphp方面，英偉達(dá)占據(jù)了 90% 以上的市android場(chǎng)份額。

關(guān)鍵詞：