ChatGPT之父：AI安全始于足下_世界觀熱點(diǎn)

6月10日，在2023北京智源大會(huì)“AI安全與對(duì)齊”論壇上，被稱(chēng)為“ChatGPT之父”的OpenAI創(chuàng)始人兼CEO Sam Altman(薩姆·奧特曼)以視頻連線的方式現(xiàn)身，首次對(duì)中國(guó)觀眾發(fā)表演講。

圖：張宏江和Sam Altman對(duì)話

在他的開(kāi)場(chǎng)主題演講中，薩姆·奧特曼圍繞模型的可解釋性、可擴(kuò)展性和可泛化性給出了見(jiàn)解。隨后，薩姆·奧特曼與北京智源研究院理事長(zhǎng)張宏江開(kāi)展了尖峰對(duì)話，主要探討在當(dāng)前的AI大模型時(shí)代，如何深化國(guó)際合作，如何開(kāi)展更安全的AI研究，以及如何應(yīng)對(duì)AI的未來(lái)風(fēng)險(xiǎn)。

【資料圖】

“我們正在看到人工智能能力的迅速增長(zhǎng)，現(xiàn)在需要做的是負(fù)責(zé)任地將其應(yīng)用到世界中去。”薩姆·奧特曼說(shuō)。

“未來(lái)10年內(nèi)，我們可能會(huì)擁有超強(qiáng)的AI系統(tǒng)。”在與張宏江的對(duì)話中，薩姆·奧特曼認(rèn)為，這些系統(tǒng)最終可能超過(guò)人類(lèi)最大體量公司的總體生產(chǎn)力，這里的潛在收益是巨大的。

與此同時(shí)，管理風(fēng)險(xiǎn)、共同努力實(shí)現(xiàn)預(yù)期目標(biāo)非常必需。隨著越來(lái)越強(qiáng)大的人工智能系統(tǒng)的出現(xiàn)，全球合作的利益也變得前所未有地重要。如果不做好規(guī)劃，一個(gè)未對(duì)齊的AI系統(tǒng)可能會(huì)通過(guò)提供不平衡的建議來(lái)破壞整個(gè)集體系統(tǒng)。因此，薩姆·奧特曼強(qiáng)調(diào)，推進(jìn)AGI安全是行業(yè)尋找共同立場(chǎng)的最重要領(lǐng)域之一。

薩姆·奧特曼認(rèn)為，保證AGI技術(shù)的安全需要國(guó)際合作與協(xié)調(diào)。首先，需要在具備包容性的過(guò)程中建立國(guó)際規(guī)范和標(biāo)準(zhǔn)，并為所有國(guó)家使用AGI設(shè)置平等、統(tǒng)一的護(hù)欄。其次，需要通過(guò)國(guó)際合作，以可驗(yàn)證的方式建立全球?qū)I系統(tǒng)安全開(kāi)發(fā)的信任機(jī)制。

“千里之行，始于足下?！彼_姆·奧特曼援引《道德經(jīng)》的話表示，最具建設(shè)性的第一步是國(guó)際科技界的合作，推動(dòng)增加AGI安全技術(shù)進(jìn)展的透明度和知識(shí)的機(jī)制，發(fā)現(xiàn)緊急問(wèn)題的研究人員應(yīng)該與更多人共享研究成果。更加深入地思考如何在鼓勵(lì)推動(dòng)國(guó)際合作的同時(shí)尊重和保護(hù)知識(shí)產(chǎn)權(quán)，推動(dòng)并引導(dǎo)與安全研究一致的投資。

同時(shí)，薩姆·奧特曼還介紹，GPT-4從完成預(yù)訓(xùn)練到部署，花了8個(gè)月的時(shí)間來(lái)研究如何前置預(yù)判風(fēng)險(xiǎn)并給出對(duì)策，“GPT-4的對(duì)齊程度超過(guò)當(dāng)前所有的代碼”。

“隨著未來(lái)的模型變得越來(lái)越智能和強(qiáng)大，作為助手，我們將找到更好的學(xué)習(xí)技術(shù)，在充分發(fā)揮AI的非凡好處的同時(shí)降低風(fēng)險(xiǎn)。”薩姆·奧特曼說(shuō)。

在回應(yīng)張宏江關(guān)于國(guó)際合作的相關(guān)問(wèn)題時(shí)，薩姆·奧特曼表示，保證AI的安全和有益不僅是一個(gè)技術(shù)問(wèn)題，這還需要了解不同國(guó)家的用戶(hù)偏好。中國(guó)擁有一些世界上最優(yōu)秀的AI人才，“我希望中國(guó)的AI研究人員在解決AI系統(tǒng)對(duì)齊難題上做出重要貢獻(xiàn)?！?/p>

“我們看到中美和世界各地的研究人員為實(shí)現(xiàn)共同目標(biāo)而攜手努力的巨大潛力。”薩姆·奧特曼說(shuō)，“我們希望全世界的研究人員參與其中，在應(yīng)對(duì)AI領(lǐng)域的技術(shù)挑戰(zhàn)方面開(kāi)展合作，利用AI解決全球重大問(wèn)題，改善人類(lèi)生存條件和質(zhì)量。”

關(guān)鍵詞：