阿里、商湯發(fā)布生成式AI新模型，大模型安全性如何保證？

在今年的上海世界人工智能大會(huì)（WAIC）上，生成式AI成為各家互聯(lián)網(wǎng)科技公司競(jìng)逐的新領(lǐng)域。在7月7日的大會(huì)上，阿里巴巴、商湯科技都推出了最新的大模型版本。

阿里巴巴的人工智能圖像生成器“通義萬(wàn)相”將對(duì)標(biāo)OpenAI的DALL-E和Midjourney等美國(guó)廠商，阿里云還推出了面向開(kāi)發(fā)者的人工智能工具M(jìn)odelScopeGPT。

商湯科技也在WAIC上升級(jí)了“商湯日日新SenseNova”大模型，不僅在模型參數(shù)方面有了很大的提升，而且多模態(tài)能力也有了進(jìn)一步的突破。商湯表示，希望通過(guò)“大模型+大裝置”推動(dòng)AI基礎(chǔ)設(shè)施能力的躍進(jìn)提升。

(相關(guān)資料圖)

商湯科技董事長(zhǎng)兼CEO徐立在產(chǎn)品發(fā)布環(huán)節(jié)中表示：“商湯不僅要打造通用能力更加強(qiáng)大的基礎(chǔ)模型，也將進(jìn)一步高效融合不同垂直領(lǐng)域的專(zhuān)業(yè)知識(shí)，構(gòu)建更懂行業(yè)、更具專(zhuān)長(zhǎng)的專(zhuān)業(yè)大模型，從根本上降低大模型的下游應(yīng)用成本和門(mén)檻。”

咨詢(xún)機(jī)構(gòu)麥肯錫估計(jì)，生成式人工智能最終每年可為世界經(jīng)濟(jì)增加7.3萬(wàn)億美元的價(jià)值。大模型的強(qiáng)大讓人類(lèi)瞥見(jiàn)了通用人工智能的曙光，但也讓眾多學(xué)界、業(yè)界人士心生憂懼。前不久，就有全球400多位專(zhuān)家發(fā)布聯(lián)名公開(kāi)信，警告人工智能發(fā)展速度過(guò)快，缺乏監(jiān)管，可能會(huì)危及人類(lèi)生存。

在這一背景下，人工智能的治理成為今年WAIC上熱議的話題，也有一些廠商帶來(lái)了針對(duì)大模型的安全解決方案。

瑞萊智慧7月7日在大會(huì)上發(fā)布了AI安全平臺(tái)RealSafe3.0，該平臺(tái)功能與OpenAI提出的“自動(dòng)對(duì)齊研究員”類(lèi)似，通過(guò)自動(dòng)化的訓(xùn)練方法優(yōu)化大模型，筑起抵御人工智能威脅的安全之盾。

瑞萊智慧聯(lián)合創(chuàng)始人、算法科學(xué)家蕭子豪對(duì)第一財(cái)經(jīng)記者表示，大模型前仍處于“野蠻生長(zhǎng)”階段，還沒(méi)有找到場(chǎng)景、風(fēng)險(xiǎn)和規(guī)范三者之間的平衡點(diǎn)。而在探尋這一平衡點(diǎn)的過(guò)程中，缺少易用和標(biāo)準(zhǔn)化的工具，即在技術(shù)層面上缺乏有力抓手。

“大模型調(diào)優(yōu)的成本很高，這也是很多開(kāi)發(fā)大模型的企業(yè)面臨的主要挑戰(zhàn)，我們推出這樣的安全平臺(tái)就是希望幫助這些通用大模型提升安全性。”蕭子豪告訴第一財(cái)經(jīng)記者，“這些技術(shù)都是基于自研多模態(tài)大模型底座實(shí)現(xiàn)的。”

他還表示，不能因?yàn)閷?duì)于被技術(shù)反噬的擔(dān)憂就止步不前，創(chuàng)造新技術(shù)和控制技術(shù)危害應(yīng)該同步進(jìn)行。

針對(duì)AI安全隱私的風(fēng)險(xiǎn)，中國(guó)信通院華東分院7月7日在WAIC大會(huì)的一場(chǎng)“大模型時(shí)代AIGC新浪潮”論壇上，聯(lián)合業(yè)界發(fā)布了《可信賴(lài)AI安全隱私技術(shù)研究》白皮書(shū)，從政策法規(guī)、技術(shù)進(jìn)展、專(zhuān)利標(biāo)準(zhǔn)、產(chǎn)業(yè)發(fā)展等層面，分析可信賴(lài)AI安全隱私技術(shù)的發(fā)展態(tài)勢(shì)，聚焦安全挑戰(zhàn)和主流技術(shù)方面研究應(yīng)用現(xiàn)狀。

白皮書(shū)認(rèn)為，目前我國(guó)在可信AI相關(guān)標(biāo)準(zhǔn)的建立方面還處于初級(jí)階段，建議加速建立可信AI標(biāo)準(zhǔn)與監(jiān)管體系、注重可信AI技術(shù)人才培養(yǎng)、促進(jìn)可信AI熱點(diǎn)難點(diǎn)問(wèn)題的解決、構(gòu)建可信AI安全等級(jí)評(píng)估與防御體系，構(gòu)筑全產(chǎn)業(yè)的可信AI生態(tài)。

關(guān)鍵詞：