近段時間以來，來自ChatGPT的信息模型發(fā)展了全球藝術(shù)智能技術(shù)的發(fā)展。寫作，寫作，自動創(chuàng)建文章。。。好消息是，人們的工作、學(xué)習(xí)和生活都非常重要。

我們離“無所不能”的通用人工智能還有多遠？人工智能的發(fā)展帶來了哪些安全風(fēng)險和挑戰(zhàn)？在最近舉行的2023北京致遠會議上，來自世界各地的人工智能專家學(xué)者就相關(guān)議題進行了討論。

通用人工智能路途尚遠

“想象一下，未來10年，通用人工智能（AGI）幾乎在每一個領(lǐng)域都超過人類的專業(yè)知識，最終可能超過所有大型公司的總體生產(chǎn)力，這將提高人們的生活水平。”O(jiān)penAI首席執(zhí)行官山姆·阿爾特曼展現(xiàn)了一幅人工智能的未來圖景。

所謂AGI，是指能夠像人類一樣在各種領(lǐng)域進行智能任務(wù)的人工智能系統(tǒng)。這與目前人工智能應(yīng)用只聚焦于特定任務(wù)或領(lǐng)域（如圖像識別、語音識別、自然語言處理等）不同，對人工智能技術(shù)提出了更高要求。

“通用人工智能可以比人類更好、更快地學(xué)習(xí)和執(zhí)行任務(wù)，包括人類無法處理的任務(wù)。由于機器在速度、內(nèi)存、通信和帶寬方面的巨大優(yōu)勢，未來通用人工智能幾乎在所有領(lǐng)域都將遠超人類的能力。”美國加州大學(xué)伯克利分校計算機科學(xué)教授斯圖爾特·羅素說。

盡管人工智能已經(jīng)有了“超越”人類的“時間表”，但在很多專家看來，目前的人工智能距離AGI還有不小的距離。

羅素認為，當下火熱的大語言模型并不“理解世界”，只是通用人工智能的一塊“拼圖”——“我們并不了解如何將它與其他部分連接起來，甚至還有一些缺失的拼圖還沒有找到。”

北京智源人工智能研究院院長黃鐵軍指出，要實現(xiàn)通用人工智能，有3條技術(shù)路線：第一是大模型，通過海量高質(zhì)量數(shù)據(jù)，讓人工智能具備智能涌現(xiàn)能力；第二是具身智能，通過強化學(xué)習(xí)方法，訓(xùn)練出具身模型；第三是類腦智能，讓機器達到或類似于人腦能力。

對于人工智能的發(fā)展，圖靈獎得主、紐約大學(xué)教授楊立昆提出了“世界模型”的概念——人工智能系統(tǒng)可以通過這一模型理解世界的運轉(zhuǎn)方式，并以最優(yōu)化、成本最小的方式來行動。

加強安全治理領(lǐng)域國際合作

根據(jù)普華永道會計師事務(wù)所預(yù)測，到2030年，人工智能將創(chuàng)造15.7萬億美元的經(jīng)濟價值。人工智能為經(jīng)濟發(fā)展提供了重要機遇，但也引發(fā)了安全性方面的擔憂和爭議。

圖靈獎得主、多倫多大學(xué)教授杰弗里·辛頓認為，目前的人工智能已經(jīng)可以通過學(xué)習(xí)，掌握“欺騙”人類的方式。“一旦人工智能具備了‘欺騙’的能力，就有了‘控制’人類的能力。這樣的超級智能可能會比預(yù)想中發(fā)生得更快。”

在通用人工智能時代到來之前，人工智能的安全風(fēng)險主要來自于“人”。“我們不應(yīng)該假設(shè)機器是公正的，因為機器可能會試圖改變?nèi)祟惖男袨椤８鼫蚀_地說，是機器的所有者想要改變其他人的行為。”圖靈獎得主、中國科學(xué)院院士姚期智說，當前人工智能的發(fā)展處于重要窗口期，各國應(yīng)共同合作，搭建人工智能的治理結(jié)構(gòu)。

隨著人工智能的本事越來越大，人工智能的“對齊”問題浮上水面。所謂“對齊”，即人工智能系統(tǒng)的目標要和人類的價值觀與利益“對齊”，保持一致。

如何讓人工智能與人類“對齊”？阿爾特曼認為，人們應(yīng)當負責任地將人工智能應(yīng)用到世界中，重視和管理好安全風(fēng)險。他建議在人工智能技術(shù)研發(fā)過程中建立平等、統(tǒng)一的國際規(guī)范和標準，并通過國際合作，以可驗證的方式建立人工智能系統(tǒng)安全開發(fā)的信任體系。

黃鐵軍認為，人工智能雖然會產(chǎn)生預(yù)料之外的新能力，但這并不意味著人類無法對人工智能進行管理。“如何管理人工智能這樣一個創(chuàng)造性極強的系統(tǒng)，社會學(xué)、歷史學(xué)等學(xué)科都能提供很好的借鑒意義。”

今年2月，中國在《全球安全倡議概念文件》中提出加強人工智能等新興科技領(lǐng)域國際安全治理，預(yù)防和管控潛在安全風(fēng)險。在此次智源大會上，專家學(xué)者積極評價中國在推動人工智能國際治理上的貢獻。

阿爾特曼說，中國在人工智能領(lǐng)域擁有大量優(yōu)秀的人才和產(chǎn)品系統(tǒng)，在人工智能的安全方面應(yīng)發(fā)揮關(guān)鍵作用。

麻省理工學(xué)院人工智能與基礎(chǔ)交互研究中心教授馬克斯·泰格馬克表示，中國在塑造全球人工智能議程上的能力日益增長，可以在人工智能安全治理領(lǐng)域發(fā)揮領(lǐng)導(dǎo)作用。