中科院院士張鈸：GPT時(shí)代AI產(chǎn)業(yè)發(fā)展與治理應(yīng)同時(shí)并進(jìn)

來(lái)源：清華大學(xué)人工智能?chē)?guó)際治理研究院
時(shí)間：2023-08-22 22:37:25

【資料圖】

（CWW）以ChatGPT為代表的生成式人工智能自推出以來(lái)便持續(xù)引發(fā)關(guān)注。8月15日，在由清湛人工智能研究院主辦、盛景網(wǎng)聯(lián)科技股份有限公司承辦的“大模型時(shí)代，AI賦能產(chǎn)業(yè)升級(jí)與引領(lǐng)”論壇上，中國(guó)科學(xué)院院士、清華大學(xué)人工智能研究院名譽(yù)院長(zhǎng)張鈸表示，ChatGPT的出現(xiàn)或意味著人工智能（AI）產(chǎn)業(yè)向通用性邁出了重要一步，隨著基礎(chǔ)模型不斷發(fā)展，未來(lái)AI技術(shù)的應(yīng)用領(lǐng)域?qū)⑦M(jìn)一步拓寬。針對(duì)生成式人工智能大模型面臨的安全性和穩(wěn)定性方面的挑戰(zhàn)，人工智能產(chǎn)業(yè)發(fā)展與治理應(yīng)同時(shí)并進(jìn)。

“與信息科技產(chǎn)業(yè)持續(xù)高速的發(fā)展態(tài)勢(shì)相比，人工智能產(chǎn)業(yè)呈現(xiàn)緩慢曲折發(fā)展的特點(diǎn)。”張鈸指出，人工智能產(chǎn)業(yè)和信息產(chǎn)業(yè)的發(fā)展范式存在明顯差異。具體而言，信息產(chǎn)業(yè)的發(fā)展建立在完善的信息科學(xué)技術(shù)基礎(chǔ)理論支撐的基礎(chǔ)上，其硬件和軟件屬于“通用型”，能夠普遍應(yīng)用在各行各業(yè)。而人工智能產(chǎn)業(yè)尚缺乏理論基礎(chǔ)，無(wú)論是基于知識(shí)驅(qū)動(dòng)模型的第一代人工智能產(chǎn)業(yè)，還是基于數(shù)據(jù)驅(qū)動(dòng)模型的第二代人工智能產(chǎn)業(yè)，其軟件和硬件都以模型和算法為基礎(chǔ)建立，屬于“專用型”，與應(yīng)用場(chǎng)景和應(yīng)用領(lǐng)域緊密相關(guān)。

值得注意的是，去年11月ChatGPT的問(wèn)世打破了現(xiàn)有人工智能技術(shù)的局限，對(duì)人工智能的發(fā)展產(chǎn)生了深遠(yuǎn)影響。

張鈸認(rèn)為，基于人工智能視角，ChatGPT至少實(shí)現(xiàn)了兩大突破：首先，以ChatGPT為代表的大語(yǔ)言模型，轉(zhuǎn)變了傳統(tǒng)的只處理文本形式的缺陷，使機(jī)器具備了處理文本語(yǔ)義的能力，并能與人進(jìn)行自然對(duì)話。其次，在ChatGPT出現(xiàn)之前，人工智能僅能在限定領(lǐng)域里完成單個(gè)任務(wù)，沒(méi)有實(shí)現(xiàn)通用人工智能，而ChatGPT在對(duì)話領(lǐng)域?qū)崿F(xiàn)了通用性，不受領(lǐng)域限制，因此可以說(shuō)ChatGPT向通用人工智能邁出了一步。

“只有跟領(lǐng)域脫鉤，才有可能建立起人工智能的通用理論。ChatGPT在自然語(yǔ)言處理上實(shí)現(xiàn)了與領(lǐng)域無(wú)關(guān)，是人工智能的一個(gè)重大突破。”張鈸說(shuō)。

從應(yīng)用層面來(lái)看，目前人工智能技術(shù)已在交通、健康、教育、安全、娛樂(lè)、金融、智能制造等多個(gè)領(lǐng)域得到應(yīng)用，覆蓋范圍廣泛，涉及行業(yè)眾多。張鈸認(rèn)為，隨著基礎(chǔ)模型的突破，作為“AI大模型+機(jī)器人”結(jié)合的通用智能機(jī)器人（具身智能）有望迎來(lái)發(fā)展機(jī)遇。

不過(guò)，張鈸強(qiáng)調(diào)，ChatGPT僅在語(yǔ)言處理領(lǐng)域達(dá)到了預(yù)期目標(biāo)，目前還不能被稱為通用人工智能。同時(shí)，作為一種基于深度學(xué)習(xí)的自然語(yǔ)言處理模型，ChatGPT在結(jié)果輸出上具有一定隨機(jī)性，不大適合應(yīng)用于不確定、多變、關(guān)鍵和復(fù)雜的環(huán)境，以及存在質(zhì)量不一致、不可控、自我解釋能力差、常識(shí)和推理能力不足等缺陷，這也使得人工智能治理的重要性凸顯。

對(duì)此，張鈸認(rèn)為，人工智能治理既包括對(duì)模型本身的治理，也包括對(duì)模型使用者的治理。其中，對(duì)模型的治理可通過(guò)人工智能對(duì)齊（AI Alignment），由人類幫助它通過(guò)監(jiān)督學(xué)習(xí)（supervised learning）、使用人類反饋的強(qiáng)化學(xué)習(xí)（RLHF）等方式進(jìn)行治理。對(duì)模型使用者的治理則重點(diǎn)需要防止濫用、誤用。

基于生成式人工智能大模型的特點(diǎn)，張鈸認(rèn)為，人工智能產(chǎn)業(yè)的開(kāi)放與治理應(yīng)同時(shí)進(jìn)行，邊開(kāi)放邊治理，治理的最終目的是為了加快推進(jìn)人工智能產(chǎn)業(yè)發(fā)展和迭代升級(jí)。

關(guān)鍵詞：