百度智能云：千帆大模型平臺(tái)接入LLaMA2等33個(gè)模型，推理成本可降低50%

(資料圖片僅供參考)

百度智能云AI與大數(shù)據(jù)平臺(tái)總經(jīng)理忻舟表示，目前，千帆大模型平臺(tái)已經(jīng)全面接入LLaMA2全系列、ChatGLM2、RWKV、MPT等33個(gè)大模型，成為國(guó)內(nèi)擁有大模型最多的平臺(tái)。接入的模型經(jīng)過千帆平臺(tái)二次性能增強(qiáng)，模型推理成本可降低50%。同時(shí)，千帆平臺(tái)上線了國(guó)內(nèi)最全的預(yù)置Prompt模板，模板數(shù)量多達(dá)103個(gè)，覆蓋對(duì)話、游戲、編程、寫作十余個(gè)場(chǎng)景。第三，千帆是國(guó)內(nèi)首家提供插件服務(wù)的大模型平臺(tái)，本次升級(jí)再次發(fā)布多款全新插件。

關(guān)鍵詞：