如何防止人工智能失控？教育要擔起相應責任

“為什么把人工智能列為一級學科在國務院學位委員會通不過呢?老覺得人工智能一直沒講清楚，要么被說成計算機，要么被說成控制科學。”日前，數(shù)字經(jīng)濟院長論壇(龍江)在哈爾濱舉辦，中國新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長、世界工程組織聯(lián)合會(WFEO)當選主席龔克在會上直言。

“要把人工智能作為教育的內容融入到通識、職業(yè)和終生教育中，必須說清楚它的核心內容和公共基礎，也就是其原理、方法的一般性和特殊性，以及背后的邏輯鏈。”龔克表示。

“智能是自主的感知、認知和決策能力，通過學習獲得的。一個智商大腦發(fā)育很好的孩子，若從不學習就談不上智能。人工則是指由人工設計的裝置，通過人工設計的算法等完成人規(guī)定的任務。兩者結合起來叫人工智能。”龔克強調，完成人規(guī)定的任務，是今天的人工智能，如果是自主決定的任務，那可能是未來通用的人工智能。目前研究部署的人工智能基本上都是在完成人規(guī)定的任務。

龔克說，作為工具的人工智能正在改進教學成效、變革教學范式，使得基于學科的學習轉為面向問題的學習。“以前，我們要求學生熟記、理解知識，但再怎么記也贏不了人工智能。”龔克直言，人工智能時代，學生要從“會記”發(fā)展到“會問、會查、會辨別”，尤其是辨別。

“反過來講，人工智能也需要教育的支撐和保障。現(xiàn)在，人工智能的設計、制造、應用、維護、管理等需要大量人才。教育要擔起相應責任，完善人工智能人才培養(yǎng)體系。”龔克說。

龔克建議，要做好人工智能的學科建設，形成“人工智能+X”復合專業(yè)培養(yǎng)新模式，重視人工智能與數(shù)學、計算機科學、物理學等學科的交叉融合。除了學校培養(yǎng)，還要推動學校和企業(yè)聯(lián)合培養(yǎng)人才。此外，要注重多層次培養(yǎng)，最好從小學初中就開始抓人工智能教育。

專家提到，發(fā)展負責任的人工智能要先培育負責任的人。“人工智能的開發(fā)者、制造者、應用者、管理者等應該具有價值追求、倫理道德、知識能力，以負責任的態(tài)度從事人工智能創(chuàng)新和應用。”龔克說。

“強大的人工智能興起，將是人類從未有過的最好或最壞的事。我們要竭盡所能，確保它的未來有利于人類和人類的環(huán)境。”龔克表示，避免出現(xiàn)不受控的人工智能，需要通過廣泛的跨學科、跨行業(yè)、跨國界的對話，建立起關于人工智能基本共識，然后將這些共識轉化成政策、法規(guī)、規(guī)定、準則等。

同時，要制定相應技術標準，把倫理要求有效植入人工智能系統(tǒng)，并建立可靠的驗證測試方法。“最后，要開展廣泛的教育，使得包括人工智能系統(tǒng)設計、制造、銷售、使用、維護、管理者在內的所有人都能負責任地和人工智能打交道。”龔克強調。

關鍵詞： 如何防止人工智能失控