世界人工智能大會：人工智能的應(yīng)用標(biāo)準(zhǔn)、體系化監(jiān)管與安全倫理應(yīng)當(dāng)同步跟進(jìn)

在智能社會里，如何建設(shè)數(shù)字治理生態(tài)，一直是行業(yè)的熱議話題。7日，在2023世界人工智能大會的多場相關(guān)論壇上，業(yè)內(nèi)專家和研究人員認(rèn)為，在人工智能的發(fā)展進(jìn)程中，應(yīng)用標(biāo)準(zhǔn)、體系化監(jiān)管與安全倫理應(yīng)當(dāng)同步跟進(jìn)。

“負(fù)責(zé)任”的人工智能

【資料圖】

在上海楊浦濱江舉行的智能社會論壇上，發(fā)布了多份重量級的研究和實(shí)踐成果。同濟(jì)大學(xué)研究團(tuán)隊(duì)發(fā)布了《人工智能大模型倫理規(guī)范操作指引》和《生成式人工智能風(fēng)險評估框架（1.0）》兩份專題研究成果，旨在應(yīng)對人工智能大模型的風(fēng)險，推動倫理規(guī)范落地實(shí)施；同濟(jì)大學(xué)與百度研究團(tuán)隊(duì)聯(lián)合發(fā)布了《面向新商業(yè)模式的高級別自動駕駛法律責(zé)任白皮書》，關(guān)注全自動駕駛應(yīng)用場景的法律問題。

同濟(jì)大學(xué)常務(wù)副校長呂培明等專家認(rèn)為，人工智能既是引領(lǐng)當(dāng)前這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，也是推動城市治理生態(tài)和治理能力現(xiàn)代化的必由之路。應(yīng)主動整合多學(xué)科力量，搭建起“技術(shù)與社會”暢通的對話交流平臺，應(yīng)對智能技術(shù)發(fā)展?jié)撛诘膫惱?、法律和治理風(fēng)險與挑戰(zhàn)，構(gòu)建公平規(guī)范的數(shù)字治理生態(tài)，超前探索智能社會的運(yùn)行模式、法律法規(guī)、標(biāo)準(zhǔn)規(guī)范、政策體系和體制機(jī)制，推動發(fā)展“負(fù)責(zé)任的人工智能”。

上海楊浦作為全國首批10個國家智能社會治理實(shí)驗(yàn)綜合基地之一，正加強(qiáng)人工智能研發(fā)與應(yīng)用活動的引導(dǎo)，實(shí)現(xiàn)人工智能產(chǎn)業(yè)規(guī)范與發(fā)展的動態(tài)平衡，打造智能治理的新樣板。

大模型的風(fēng)險管理

推進(jìn)大模型的創(chuàng)新和應(yīng)用，同步也要加強(qiáng)大模型的風(fēng)險管理與行業(yè)治理。在上海西岸舉行的“大模型時代的通用人工智能產(chǎn)業(yè)發(fā)展機(jī)遇以及風(fēng)險”主題論壇上，上海市經(jīng)濟(jì)和信息化委員會相關(guān)負(fù)責(zé)人表示，上海作為人工智能創(chuàng)新高地與“先行區(qū)”，在積極打造具有國際影響力的世界級產(chǎn)業(yè)集群的同時，堅(jiān)持科技向善理念，持續(xù)推進(jìn)人工智能健康規(guī)范發(fā)展。

據(jù)介紹，上海積極推進(jìn)大模型技術(shù)的創(chuàng)新和應(yīng)用，系統(tǒng)性支持技術(shù)攻關(guān)、算力供給、數(shù)據(jù)集建設(shè)和公共服務(wù)需求；布局科學(xué)智能，推進(jìn)科學(xué)智能賦能生物醫(yī)藥、集成電路、高端裝備和先進(jìn)材料等創(chuàng)新應(yīng)用；提升智能機(jī)器人在復(fù)雜場景下的智能能力。

與此同時，上海正在加快完善行業(yè)治理體系，面向人工智能的關(guān)鍵領(lǐng)域，加快制定技術(shù)、產(chǎn)品、服務(wù)、行業(yè)應(yīng)用、安全倫理等標(biāo)準(zhǔn)，在健全法規(guī)、標(biāo)準(zhǔn)、監(jiān)管體系等方面，努力形成上海特色方案。

上海目前已經(jīng)啟動高風(fēng)險人工智能產(chǎn)品和服務(wù)清單式管理的相關(guān)研究，并積極推動大模型相關(guān)治理研究；建立健全大模型評測體系，建設(shè)大模型評測中心，探索大模型自動化評測工具；探索適應(yīng)大模型特點(diǎn)的創(chuàng)新監(jiān)管方式。

上海將搭建更多研討平臺，引導(dǎo)產(chǎn)業(yè)人士參與科技創(chuàng)新實(shí)踐；積極參與國際人工智能治理規(guī)則的制定和實(shí)施，推動人工智能倫理標(biāo)準(zhǔn)的互認(rèn)和協(xié)調(diào)，共同推進(jìn)人工智能造福人類。

扶持與合規(guī)并重

為打造大模型和生成式人工智能生態(tài)集聚和創(chuàng)新應(yīng)用高地，上海徐匯此次率先推出了面向生成式人工智能的扶持政策，直面企業(yè)需求和產(chǎn)業(yè)關(guān)切。

15條具體舉措，聚焦技術(shù)強(qiáng)基支撐，支持通用大模型、垂類大模型等關(guān)鍵領(lǐng)域自主創(chuàng)新，支持具身智能、自主智能體等前沿領(lǐng)域布局；聚焦場景應(yīng)用示范，充分發(fā)揮徐匯特色產(chǎn)業(yè)基礎(chǔ)和新賽道先發(fā)優(yōu)勢，全面推動生成式人工智能技術(shù)在醫(yī)療、金融、社交、智能網(wǎng)聯(lián)汽車等領(lǐng)域融合賦能；聚焦創(chuàng)新生態(tài)構(gòu)建，針對算力、數(shù)據(jù)、算法、融資、人才、監(jiān)管等關(guān)鍵環(huán)節(jié)，強(qiáng)化要素支撐。

2022年，上海徐匯人工智能產(chǎn)業(yè)規(guī)模已近千億元，近五年年均增速達(dá)到30%以上；在大模型和生成式人工智能細(xì)分領(lǐng)域，已經(jīng)匯聚相關(guān)企業(yè)近200家，其中核心企業(yè)30余家，成為上海乃至全國大模型的策源地之一。

在上海，智能社會治理獲得同等的關(guān)注。此次，上海楊浦揭牌成立了“人工智能合規(guī)服務(wù)中心”，將發(fā)揮同濟(jì)大學(xué)的智力與技術(shù)資源優(yōu)勢與楊浦區(qū)的實(shí)踐優(yōu)勢，為企業(yè)的人工智能新技術(shù)新應(yīng)用，提供合規(guī)指引、咨詢和服務(wù)。

（文章來源：新華財(cái)經(jīng)）

關(guān)鍵詞：