7月8日，以“智聯(lián)世界·眾智成城”為主題的2021世界人工智能大會正式開幕。2007圖靈獎得主國際嵌入式研發(fā)中心Verimag實驗室創(chuàng)始人、教授約瑟夫·斯發(fā)基斯(Joseph Sifakis)在開幕式上介紹了從狹義人工智能到廣義人工智能面臨的三大挑戰(zhàn)。

Sifakis認(rèn)為，狹義人工智能只提供了構(gòu)建模塊，但智能遠(yuǎn)不止在數(shù)據(jù)集上進(jìn)行插值。光靠機(jī)器學(xué)習(xí)技術(shù)的不斷進(jìn)步無法實現(xiàn)廣義人工智能這一愿景。

他認(rèn)為，我們需要采取行動 ，從單個任務(wù)、單個目標(biāo)、單個領(lǐng)域，如智能個人助理、棋手、自然語言翻譯等的智能系統(tǒng)發(fā)展到響應(yīng)式/主動式系統(tǒng)。主動式系統(tǒng)集成了許多協(xié)調(diào)任務(wù)，旨在實現(xiàn)可能存在沖突的多領(lǐng)域目標(biāo)，并在不可預(yù)測的機(jī)電和人類環(huán)境中運(yùn)行，例如自動駕駛汽車、智能電網(wǎng)、智能工廠。

但是，這面臨三大挑戰(zhàn)。他提出的第一個挑戰(zhàn)關(guān)于神經(jīng)網(wǎng)絡(luò)敏感性的問題，在某些情況下，神經(jīng)網(wǎng)絡(luò)對輸入數(shù)據(jù)的微小變化很敏感。

第二個問題是要提供可信保證。Sifakis表示，系統(tǒng)的關(guān)鍵性意味著系統(tǒng)制造商需按照標(biāo)準(zhǔn)的規(guī)定向認(rèn)證機(jī)構(gòu)提供最終的可信保證。已經(jīng)被成功應(yīng)用于自動化系統(tǒng)（比如飛行控制器）的現(xiàn)有方法和工具遵循的是基于模型的范例。由于人工智能組件的不可解釋性以及系統(tǒng)及系統(tǒng)環(huán)境的高度復(fù)雜性，這些方法和工具只能“甘拜下風(fēng)”。

不過，他也提出，雖然人工智能的可解釋性很大程度上仍然是個問題，但它不應(yīng)該成為障礙。

他認(rèn)為這涉及到三個重要問題，首先，具有成本效益地利用不受信任的組件構(gòu)建可信系統(tǒng)：開發(fā)出“混合”架構(gòu)，以集成運(yùn)行時可信保證監(jiān)控器監(jiān)控之下的不受信任AI使能組件，進(jìn)而應(yīng)對危險情況并在重大情況下進(jìn)行接管；其次，共生智能：將人工代理（計算效率和精度）同人類代理（創(chuàng)造力和感知能力）的優(yōu)點(diǎn)相結(jié)合，可以增強(qiáng)可信度——這一挑戰(zhàn)遠(yuǎn)比人機(jī)界面（HMI）更為復(fù)雜。

此外，標(biāo)準(zhǔn)、法規(guī)和接受標(biāo)準(zhǔn)也在演變。法規(guī)要求有越來越寬松的趨勢，例如美國自動駕駛汽車的自我認(rèn)證，但由于技術(shù)問題和公信度的持續(xù)惡化，對這種情況的接受可能會受到影響。

邁向廣義AI的第三個挑戰(zhàn)是如何將符號知識和非符號知識聯(lián)系起來。想要達(dá)到人類水平的性能，系統(tǒng)應(yīng)具備處理常識世界知識的能力，而這需要將抽象意識思維和快思維結(jié)合起來。Sifakis表示，人類思維具有可描述整個世界的語義模型，人類的理解過程結(jié)合了自下而上（從感知層次到思維語義模型）推理和自上而下（從語義模型到感知層次）推理。

Sifakis認(rèn)為，目前存在的挑戰(zhàn)是如何開發(fā)出能夠?qū)W(xué)習(xí)技術(shù)和推理技術(shù)（外推、類比）相結(jié)合，進(jìn)而逐步構(gòu)建其環(huán)境語義模型的系統(tǒng)——這才是最大的難題，迄今為止在自然語言語義分析方面進(jìn)展甚微即為證明。