作為引領(lǐng)第四次科技革命的戰(zhàn)略性技術(shù)，人工智能(AI)給社會(huì)建設(shè)和經(jīng)濟(jì)發(fā)展帶來(lái)了重大而深遠(yuǎn)的影響，但數(shù)據(jù)隱私、算法偏見(jiàn)、技術(shù)濫用等安全問(wèn)題正給社會(huì)公共治理與產(chǎn)業(yè)智能化轉(zhuǎn)型帶來(lái)嚴(yán)峻挑戰(zhàn)。

　　第一個(gè)問(wèn)題是科技發(fā)展的共性問(wèn)題?？萍际前l(fā)展的利器，也可能成為風(fēng)險(xiǎn)的源頭，人工智能也不例外。首先，AI的發(fā)展將引發(fā)新一輪的產(chǎn)業(yè)革命。一方面是傳統(tǒng)產(chǎn)業(yè)的智能化，比如網(wǎng)絡(luò)搜索中采取推薦算法、用戶畫像等等，提高服務(wù)的效率和質(zhì)量。另一方面是智能技術(shù)的產(chǎn)業(yè)化，催生了新的產(chǎn)業(yè)，如智能交通、智慧醫(yī)療、智慧城市、自動(dòng)駕駛等。與此同時(shí)，AI的發(fā)展也帶來(lái)了新的風(fēng)險(xiǎn)和安全隱患，因此，我們既要抓AI的創(chuàng)新發(fā)展，又要抓AI的治理，兩手都要抓。

　　第二個(gè)問(wèn)題是人工智能發(fā)展與治理中的特殊性，具體表現(xiàn)在算法層面、數(shù)據(jù)層面與應(yīng)用層面。

　　在算法層面看，現(xiàn)有的AI算法較脆弱，泛化能力較差，這意味著如果將算法運(yùn)用到與訓(xùn)練場(chǎng)景區(qū)別很大的實(shí)際場(chǎng)景中，就會(huì)存在安全問(wèn)題。以無(wú)人駕駛為例，AI訓(xùn)練的時(shí)候不可能窮盡所有的情景，當(dāng)遇到新的突發(fā)事件便無(wú)法處理，就會(huì)造成AI技術(shù)的誤用，有可能是無(wú)意識(shí)的誤用。同時(shí)，這種脆弱性還使得人工智能系統(tǒng)容易被攻擊、被欺騙，給AI技術(shù)的濫用造成可乘之機(jī)。

　　從數(shù)據(jù)層面看，現(xiàn)在人工智能應(yīng)用效果很大程度上依賴數(shù)據(jù)質(zhì)量，但由此會(huì)帶來(lái)隱私泄漏、數(shù)據(jù)確權(quán)等問(wèn)題，如果解決不好數(shù)據(jù)安全的問(wèn)題，人工智能產(chǎn)業(yè)也不可能健康的發(fā)展。

　　在應(yīng)用層面，人工智能技術(shù)已經(jīng)逐漸對(duì)人們的生活造成沖擊，比如售樓處看房帶頭盔、困在算法里的外賣騎手等等，還有深度偽造之類可能對(duì)社會(huì)造成重大影響的技術(shù)，都必須保證安全可控。

　　AI的創(chuàng)新發(fā)展是大道理，縱觀信息科技的發(fā)展歷史，盡管信息科技發(fā)展異常迅猛，但基本上安全可控。而人工智能發(fā)展卻緩慢曲折，安全問(wèn)題層出不窮。這兩者的差別在于，從信息革命開(kāi)始，信息的三大理論就已經(jīng)建立，即圖靈機(jī)理論(1936)、香農(nóng)的通訊理論(1948)、維納的控制論(1948)。正因?yàn)橛辛藞?jiān)實(shí)的理論基礎(chǔ)，從而引導(dǎo)信息技術(shù)健康的發(fā)展。然而人工智能的發(fā)展則相反，它的基礎(chǔ)理論至今沒(méi)有建立。盡管經(jīng)歷了第一代AI的符號(hào)主義模型(知識(shí)驅(qū)動(dòng))和第二代AI的亞符號(hào)(連接)主義模型(數(shù)據(jù)驅(qū)動(dòng))，但它們均具有很大的局限性，不能構(gòu)成AI的理論基礎(chǔ)。由于缺乏理論指導(dǎo)，AI的發(fā)展處于難以控制的局面。

　　當(dāng)前，必須解決“卡脖子”的基礎(chǔ)理論問(wèn)題，因此建立AI的理論基礎(chǔ)是我們提出“第三代人工智能”的初衷。所謂的“第三代人工智能”，其發(fā)展路徑是融合第一代的知識(shí)驅(qū)動(dòng)和第二代的數(shù)據(jù)驅(qū)動(dòng)的人工智能，在前兩代理論的基礎(chǔ)上發(fā)展第三代人工智能基礎(chǔ)理論，建立一個(gè)完備的人工智能基礎(chǔ)理論。具體的思路上，利用知識(shí)、數(shù)據(jù)、算法和算力4個(gè)要素，建立新的可解釋和魯棒的AI理論和方法，從而發(fā)展安全、可信、可靠和可擴(kuò)展的AI技術(shù)。這樣發(fā)展第三代AI和AI治理一起抓，以達(dá)到相輔相成共同發(fā)展。

　　人工智能剛剛拉開(kāi)序幕，更精彩的大戲正要上演。全世界應(yīng)該團(tuán)結(jié)起來(lái)，共同來(lái)發(fā)展安全可控的第三代人工智能，讓人工智能真正造福于人類。

　　(本報(bào)記者沈春蕾根據(jù)中國(guó)科學(xué)院院士張鈸在2021北京智源大會(huì)上的講話整理)