商湯科技蘇萱：人工智能技術(shù)日新月異，應(yīng)多方協(xié)作管好AI“三駕馬車(chē)”

21世紀(jì)經(jīng)濟(jì)報(bào)道記者 馮戀閣 實(shí)習(xí)生湯雨昕 廣州報(bào)道

(資料圖片)

8月15日，由中國(guó)社會(huì)科學(xué)院法學(xué)研究所主辦，中國(guó)社會(huì)科學(xué)院法學(xué)研究所網(wǎng)絡(luò)與信息法研究室、南財(cái)合規(guī)科技研究院等共同承辦的“全球治理話(huà)語(yǔ)競(jìng)賽下人工智能立法的中國(guó)方案”研討會(huì)在北京舉行。

研討會(huì)上，商湯科技合規(guī)高級(jí)經(jīng)理蘇萱從AIGC三大主流領(lǐng)域出發(fā)，結(jié)合人工智能行業(yè)的三駕馬車(chē)（包括算力、數(shù)據(jù)和算法）發(fā)展，分享了自己對(duì)于AIGC行業(yè)如何發(fā)展與監(jiān)管的看法并對(duì)未來(lái)監(jiān)管給出建議。

“要談人工智能監(jiān)管治理，首先要明確治理的對(duì)象。”蘇萱介紹道，AIGC（AI Generated Content）是人工智能領(lǐng)域一個(gè)重要的分支，這一領(lǐng)域的應(yīng)用通過(guò)機(jī)器學(xué)習(xí)算法，使用大規(guī)模的訓(xùn)練數(shù)據(jù)，通過(guò)強(qiáng)大的計(jì)算模型在基礎(chǔ)設(shè)施上實(shí)現(xiàn)文本、圖像和視頻的生成。

而計(jì)算機(jī)科學(xué)領(lǐng)域的計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理和語(yǔ)音識(shí)別這三大方向與AIGC交匯，共同構(gòu)成了當(dāng)前展現(xiàn)在人們面前的各類(lèi)產(chǎn)品。

具體來(lái)看，計(jì)算機(jī)視覺(jué)是使計(jì)算機(jī)或機(jī)器能夠“看”和理解圖像或視頻中的內(nèi)容的技術(shù)。這種技術(shù)涵蓋了從圖像采集和處理到圖像分析和理解的各個(gè)方面；自然語(yǔ)言處理是使計(jì)算機(jī)能夠理解和生成人類(lèi)語(yǔ)言（如英語(yǔ)、中文等）的技術(shù)。在AIGC中，自然語(yǔ)言處理主要用于生成文本內(nèi)容；語(yǔ)音識(shí)別是一種允許機(jī)器或計(jì)算機(jī)聽(tīng)到并理解人類(lèi)的語(yǔ)音的技術(shù)。這種技術(shù)的典型應(yīng)用是將人類(lèi)的語(yǔ)音轉(zhuǎn)化為文本，或者使計(jì)算機(jī)能夠?qū)φZ(yǔ)音命令做出反應(yīng)。

“計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理和語(yǔ)音識(shí)別都是AIGC的重要組成部分，它們使得AI不僅能夠生成各種類(lèi)型的內(nèi)容，而且還能理解和分析這些內(nèi)容?！碧K萱介紹道。

大模型（例如GPT-4、BERT等）則是使用大量的數(shù)據(jù)進(jìn)行訓(xùn)練，理解和模擬人類(lèi)的語(yǔ)言、視覺(jué)、聽(tīng)覺(jué)等多種模式，從而生成各種類(lèi)型的內(nèi)容的工具。在文本生成方面，大模型（如GPT-4）可以生成連貫、有深度的文章或?qū)υ?huà)；圖像生成方面，大模型（如DALL-E）可以生成具有特定屬性和特點(diǎn)的新圖像，應(yīng)用于產(chǎn)品設(shè)計(jì)等場(chǎng)景；音頻生成方面，大模型可以生成逼真的人聲、音樂(lè)等，用于語(yǔ)音合成、音樂(lè)創(chuàng)作等場(chǎng)景。

“大模型通過(guò)理解和生成復(fù)雜的內(nèi)容，推動(dòng)了AIGC的發(fā)展，使得AI生成的內(nèi)容更豐富、更多樣，也更接近人類(lèi)的表達(dá)和創(chuàng)造水平，進(jìn)一步拓寬了AIGC的應(yīng)用范圍和可能性。”他直言。

不過(guò)，AIGC潮起的另一面，是不可忽視的伴生風(fēng)險(xiǎn)。在新一輪AI變革下，我國(guó)的治理體系有怎樣的新變化？

8月15日，由網(wǎng)信辦等七部門(mén)發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》（下文簡(jiǎn)稱(chēng)“《辦法》”）正式施行，為生成式人工智能服務(wù)的實(shí)踐落地指明了方向。蘇萱認(rèn)為，《辦法》提供了覆蓋人工智能“三駕馬車(chē)”——算法、算力和數(shù)據(jù)的法律監(jiān)管框架。

針對(duì)算法，《辦法》強(qiáng)調(diào)非歧視的原則，在算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過(guò)程中，需要采取有效措施防止產(chǎn)生民族、信仰、國(guó)別、地域等歧視；要求不得利用算法優(yōu)勢(shì)，實(shí)施壟斷和不正當(dāng)競(jìng)爭(zhēng)行為。

對(duì)于數(shù)據(jù)，《辦法》要求生成式人工智能服務(wù)提供者依法開(kāi)展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動(dòng)；使用具有合法來(lái)源的數(shù)據(jù)；涉及個(gè)人信息的，服務(wù)提供者應(yīng)依法承擔(dān)相關(guān)責(zé)任并履行義務(wù)。

而對(duì)于算力，《辦法》鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，推動(dòng)生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè)，提升算力資源利用效能。

“《辦法》旨在保護(hù)個(gè)人和社會(huì)的權(quán)益，促進(jìn)生成式人工智能的健康發(fā)展，同時(shí)防止濫用和歧視行為，確保公平和公正。”蘇萱指出。

不過(guò)，在蘇萱看來(lái)，由于人工智能技術(shù)的復(fù)雜性和快速發(fā)展，目前的監(jiān)管治理體系可能存在一定局限性。

他認(rèn)為，人工智能的發(fā)展速度極快，新的技術(shù)、應(yīng)用和問(wèn)題不斷出現(xiàn)。而法律法規(guī)的制定和修改過(guò)程通常較慢，可能難以及時(shí)適應(yīng)技術(shù)的快速變化。

在應(yīng)用落地后的監(jiān)管實(shí)踐中，他指出，人工智能算法的復(fù)雜性和不透明性可能使監(jiān)管變得困難。算法在設(shè)計(jì)、訓(xùn)練和應(yīng)用過(guò)程中可能產(chǎn)生的歧視、數(shù)據(jù)來(lái)源的合法性和數(shù)據(jù)使用的合規(guī)性等問(wèn)題都亟待解決。

總體來(lái)看，作為顛覆性的新技術(shù)人工智能可能引發(fā)倫理和社會(huì)問(wèn)題，就業(yè)問(wèn)題、隱私問(wèn)題、社會(huì)公正問(wèn)題等。這類(lèi)問(wèn)題看法和觀點(diǎn)正不斷受到挑戰(zhàn)、發(fā)生變化，需要通過(guò)法律法規(guī)和社會(huì)廣泛討論形成一個(gè)共識(shí)?！拔磥?lái)的人工智能發(fā)展中，我們面臨挑戰(zhàn)遠(yuǎn)不止提到的這三類(lèi)問(wèn)題，但同時(shí)也充滿(mǎn)了無(wú)限的機(jī)遇。只有各方共同努力，才能推動(dòng)人工智能行業(yè)的健康發(fā)展?！碧K萱表示。

關(guān)鍵詞：